QPS 和并发测试

邱秋 • 2024年09月05日 • 阅读:542

要测试 http 应用的 QPS(每秒请求数)和并发性能,你可以使用 wrkab(Apache Benchmark)、或 hey 等工具。下面介绍如何使用这些工具来测试 Flask 应用的性能。

1. 使用 wrk 进行 QPS 和并发测试

wrk 是一个现代的 HTTP 基准测试工具,支持高并发。你可以通过 Homebrew 安装它:

# mac
brew install wrk
# CentOS / RHEL / Rocky / Alma
apt install wrk
# Ubuntu / Debian
yum install wrk

运行 wrk 测试

假设你的 Flask 应用运行在 http://localhost:8001,你可以通过以下命令测试并发请求和 QPS:

wrk -t12 -c400 -d30s http://localhost:8001

解释参数: - -t12:使用 12 个线程。 - -c400:模拟 400 个并发连接。 - -d30s:测试持续时间为 30 秒。 - http://localhost:8001:测试的目标 URL。

wrk 将会在终端输出测试结果,包括每秒请求数、延迟时间等。

2. 使用 ab(Apache Benchmark)测试

ab 是 Apache 自带的一个简单的基准测试工具,你可以使用它来测试 Flask 应用的 QPS 和并发。

安装 ab

在 macOS 上可以通过 Homebrew 安装 ab

# mac
brew install httpd 
# CentOS / RHEL / Rocky / Alma
sudo yum install httpd-tools
# Ubuntu / Debian
sudo apt install apache2-utils

然后可以直接使用 ab 命令:

ab -n 10000 -c 100 http://localhost:8001/

解释参数: - -n 10000:总共发送 10,000 个请求。 - -c 100:每次并发 100 个请求。 - http://localhost:8001/:测试的目标 URL。

这将输出类似于以下内容:

Requests per second:    500.23 [#/sec] (mean)
Time per request:       200.46 [ms] (mean)

3. 使用 hey 进行性能测试

hey 是一个轻量级的 HTTP 性能测试工具,类似于 ab,但更简单易用。

安装 hey

使用 Homebrew 安装 hey

brew install hey

运行 hey 测试

使用以下命令进行 QPS 和并发测试:

hey -n 10000 -c 100 http://localhost:8001

解释参数: - -n 10000:总共发送 10,000 个请求。 - -c 100:每次并发 100 个请求。 - http://localhost:8001:测试的目标 URL。

优化 Gunicorn 配置

如果你的 QPS 或并发表现不理想,可以通过调整 Gunicorn 的工作进程和线程数来优化性能:

  • 增加工作进程数(-w 参数)和线程数(--threads 参数)。
  • 例如:
gunicorn -w 4 --threads 4 -b 0.0.0.0:8001 app:app

这会使用 4 个进程,每个进程使用 4 个线程来处理请求。

• wrk:性能王者,适合高并发极限压测与复杂场景(Lua 脚本自定义)。缺点:不支持 HTTP/2,功能偏“硬核”,结果报告不如 hey 友好。 • hey:现代、好用、支持按时间跑(-z)、支持 HTTP/2,单文件可执行,云原生场景首选。缺点:峰值极限不如 wrk,定制度低于 wrk。 • ab:上古神器,简单、到处都有包。缺点:单线程/阻塞、基本只走 HTTP/1.0/1.1、不能直接指定时长、高并发下自身容易成为瓶颈。

该选谁? • 要“尽量真实的现代 Web 压测(含 HTTP/2、按时长控制)”:hey • 要“极限吞吐/复杂自定义脚本(混合请求、签名、参数随机等)”:wrk • 只想“快速粗测、机器里已经有 ab 了”:ab(但不建议做严肃评估)

快速对比表

特性 ab hey wrk 并发模型 单线程 多线程 多线程 + 异步 按时长运行 否 是(-z) 是(-d) HTTP/2 否 是 否 自定义脚本 否 简单(header/body) Lua 强 学习/上手 最易 易 中等 极限性能 低 中 高

常用示例 • hey:hey -z 30s -c 200 https://api.xxx.com/endpoint • wrk:wrk -t8 -c400 -d60s --latency http://svc:8080/ • ab:ab -n 20000 -c 200 http://svc/(先估 QPS 再算 -n)

需要我根据你服务的接口特征(HTTP/2、认证头、POST JSON、RPS 目标)给一套可直接跑的压测命令或 wrk Lua 脚本吗?

我,秦始皇,打钱!