QPS 和并发测试
要测试 http 应用的 QPS(每秒请求数)和并发性能,你可以使用 wrk
、ab
(Apache Benchmark)、或 hey
等工具。下面介绍如何使用这些工具来测试 Flask 应用的性能。
1. 使用 wrk
进行 QPS 和并发测试
wrk
是一个现代的 HTTP 基准测试工具,支持高并发。你可以通过 Homebrew 安装它:
# mac
brew install wrk
# CentOS / RHEL / Rocky / Alma
apt install wrk
# Ubuntu / Debian
yum install wrk
运行 wrk
测试
假设你的 Flask 应用运行在 http://localhost:8001
,你可以通过以下命令测试并发请求和 QPS:
wrk -t12 -c400 -d30s http://localhost:8001
解释参数:
- -t12
:使用 12 个线程。
- -c400
:模拟 400 个并发连接。
- -d30s
:测试持续时间为 30 秒。
- http://localhost:8001
:测试的目标 URL。
wrk
将会在终端输出测试结果,包括每秒请求数、延迟时间等。
2. 使用 ab
(Apache Benchmark)测试
ab
是 Apache 自带的一个简单的基准测试工具,你可以使用它来测试 Flask 应用的 QPS 和并发。
安装 ab
在 macOS 上可以通过 Homebrew 安装 ab
:
# mac
brew install httpd
# CentOS / RHEL / Rocky / Alma
sudo yum install httpd-tools
# Ubuntu / Debian
sudo apt install apache2-utils
然后可以直接使用 ab
命令:
ab -n 10000 -c 100 http://localhost:8001/
解释参数:
- -n 10000
:总共发送 10,000 个请求。
- -c 100
:每次并发 100 个请求。
- http://localhost:8001/
:测试的目标 URL。
这将输出类似于以下内容:
Requests per second: 500.23 [#/sec] (mean)
Time per request: 200.46 [ms] (mean)
3. 使用 hey
进行性能测试
hey
是一个轻量级的 HTTP 性能测试工具,类似于 ab
,但更简单易用。
安装 hey
使用 Homebrew 安装 hey
:
brew install hey
运行 hey
测试
使用以下命令进行 QPS 和并发测试:
hey -n 10000 -c 100 http://localhost:8001
解释参数:
- -n 10000
:总共发送 10,000 个请求。
- -c 100
:每次并发 100 个请求。
- http://localhost:8001
:测试的目标 URL。
优化 Gunicorn 配置
如果你的 QPS 或并发表现不理想,可以通过调整 Gunicorn 的工作进程和线程数来优化性能:
- 增加工作进程数(
-w
参数)和线程数(--threads
参数)。 - 例如:
gunicorn -w 4 --threads 4 -b 0.0.0.0:8001 app:app
这会使用 4 个进程,每个进程使用 4 个线程来处理请求。
• wrk:性能王者,适合高并发极限压测与复杂场景(Lua 脚本自定义)。缺点:不支持 HTTP/2,功能偏“硬核”,结果报告不如 hey 友好。 • hey:现代、好用、支持按时间跑(-z)、支持 HTTP/2,单文件可执行,云原生场景首选。缺点:峰值极限不如 wrk,定制度低于 wrk。 • ab:上古神器,简单、到处都有包。缺点:单线程/阻塞、基本只走 HTTP/1.0/1.1、不能直接指定时长、高并发下自身容易成为瓶颈。
该选谁? • 要“尽量真实的现代 Web 压测(含 HTTP/2、按时长控制)”:hey • 要“极限吞吐/复杂自定义脚本(混合请求、签名、参数随机等)”:wrk • 只想“快速粗测、机器里已经有 ab 了”:ab(但不建议做严肃评估)
快速对比表
特性 ab hey wrk 并发模型 单线程 多线程 多线程 + 异步 按时长运行 否 是(-z) 是(-d) HTTP/2 否 是 否 自定义脚本 否 简单(header/body) Lua 强 学习/上手 最易 易 中等 极限性能 低 中 高
常用示例 • hey:hey -z 30s -c 200 https://api.xxx.com/endpoint • wrk:wrk -t8 -c400 -d60s --latency http://svc:8080/ • ab:ab -n 20000 -c 200 http://svc/(先估 QPS 再算 -n)
需要我根据你服务的接口特征(HTTP/2、认证头、POST JSON、RPS 目标)给一套可直接跑的压测命令或 wrk Lua 脚本吗?