[原]一个针对LVS的压力测试报告-白红宇

[原]一个针对LVS的压力测试报告

阅读量：6275 次

发布时间：2019-06-22

本文共 3617 字，大约阅读时间需要 12 分钟。

LVS 测试报告

测试计划

基本功能测试

流量压力测试

响应时间测试

配置正确性测试

灾难恢复测试

测试点

基本功能测试
- 客户端IP地址正确性
- RealServer 访问Internet测试(包括Iptables 规则优先级)

流量压力测试
- 流量峰值测试
  - 流量达到一定值后的CPU，网卡IO，软中断情况等
- 连接数峰值测试
  - 连接数达到一定值后，内存，CPU的情况等

响应时间测试
- 在增加LVS前后相应时间对比

配置正确性测试
- RR算法的预期值(基本功能)
- 多配置情况下的性能
  - 添加上万条规则后，转发性能是否有影响

灾难恢复测试
- 配置导出导入测试

测试环境

CPU Intel(R) Xeon(R) CPU E5506 @ 2.13GHz x 8

内存 16G

网卡 negotiated 1000baseT-FD

系统 Ubuntu 12.04

内核 3.5.0-23-generic

实测结果

1. 基本功能测试

客户端地址正确性

访问流程Web Browser.Zhuhai 113.106.x.x -> LVS(58.215.138.160) -> RS(10.20.165.174)RS Nginx 日志如下113.106.x.x - - [12/Feb/2015:00:18:48 +0800] "GET / HTTP/1.1" 200 612 "

结论：

验证NAT模式下客户端地址正确性为能够获取真实IP.

RealServer 访问Internet

RS 网络配置如下, gateway 为LVS的内网IP

auto eth0iface eth0 inet staticaddress 10.20.165.173gateway 10.20.165.121netmask 255.255.255.0

在 LVS 下添加如下 iptables 规则

/sbin/iptables -t nat -I POSTROUTING -o eth0 -j MASQUERADE

实测:

zhangbo3@rise-vm-173:~$ ping 8.8.8.8PING 8.8.8.8 (8.8.8.8) 56(84) bytes of data.64 bytes from 8.8.8.8: icmp_req=1 ttl=44 time=62.0 ms64 bytes from 8.8.8.8: icmp_req=2 ttl=44 time=62.2 ms

2. 流量压力测试

高流量测试

针对一台LVS 做高流量测试，测试过程中，并发200，20000个请求。
只针对网卡流量来看，内存，磁盘，CPU User time 不统计
每个请求返回7MB大小的包。

压测峰值800Mb

此时的软中断

实测软中断峰值只到0.7%

此时的IN包数

此时的OUT包数

包数IN + OUT 峰值为 100K

高并发小包测试

针对一台LVS 做高并发小包测试，测试过程中，并发80000，4KW个请求。
每个请求返回2K大小的包。

峰值IN 流量 772Mbps 平均大概750Mbps

峰值OUT 流量 773Mbps 平均大概750Mbps

峰值IN 包数 149KPS 平均大概140KPS

峰值OUT 包数 103KPS 平均大概 90KPS

测试过程中软中断峰值 8.2% 平均大概 7%

测试结果:
分别测试了LVS 在大包高流量情况下和小包高并发情况下的表现。
高流量情况下，可以完全的利用网卡性能，且无丢包和出错情况，千M网卡流量到800Mb，软中断平均在 0.7%。
高并发小包情况下，带宽为750Mbps，包流量为250KPs的情况下(已经接近网卡极限)，软中断平均在 7%.
两种情况的测试结果表明，无论是高流量还是高并发，LVS 都能够在网卡的额定值内发挥正常。
以上测试均为对多队列网卡做软中断绑定的表现.

3. 响应时间测试

对比增加LVS前后相应时间变化

10000个并发，10W请求下

LVS 后端增加一台RealServer情况下

Concurrency Level:      10000Time taken for tests:   13.198 secondsTime per request:       0.132 [ms]

在未添加LVS 情况下，单独测试Realserver 数据

Concurrency Level:      10000Time taken for tests:   14.474 secondsTime per request:       0.145 [ms]

总结：

在增加了LVS前后，响应时间几乎没有影响.

4. 配置正确性测试

RR算法的预期值(基本功能)

分别用两台独立IP的机器对LVS做大量的长连接访问，如下为 LVS 的连接分布情况.

zhangbo3@rise-rs-135:/usr/local/nginx/conf$ sudo ipvsadm -lnIP Virtual Server version 1.2.1 (size=4096)Prot LocalAddress:Port Scheduler Flags  -> RemoteAddress:Port           Forward Weight ActiveConn InActConn     TCP  58.215.x.x:80 rr  -> 10.20.165.173:80             Masq    1      3332       14797       -> 10.20.165.174:80             Masq    1      3198       14931

总结:

RR算法，同一个Src IP也会定向到同一个LVS

多配置情况下的性能

初始情况下，普通配置时候，单台机器压测数据

Concurrency Level:      10000Time taken for tests:   5.530 secondsComplete requests:      50000Failed requests:        0Write errors:           0Keep-Alive requests:    49836Total transferred:      42149180 bytesHTML transferred:       30600000 bytesRequests per second:    9040.98 [#/sec] (mean)Time per request:       1106.074 [ms] (mean)Time per request:       0.111 [ms] (mean, across all concurrent requests)Transfer rate:          7442.78 [Kbytes/sec] received

向 LVS 中添加1W个端口映射后的压测数据

Concurrency Level:      10000Time taken for tests:   5.588 secondsComplete requests:      50000Failed requests:        0Write errors:           0Keep-Alive requests:    49974Total transferred:      42149870 bytesHTML transferred:       30600000 bytesRequests per second:    8948.49 [#/sec] (mean)Time per request:       1117.506 [ms] (mean)Time per request:       0.112 [ms] (mean, across all concurrent requests)Transfer rate:          7366.76 [Kbytes/sec] received

总结:

添加上网条端口映射后，对系统性能无影响.