云平台代理服务

Use case4:云平台代理服务

背景

云平台部把使用ubrpc的模块改造为使用brpc。由于使用了mcpack2pb的转换功能,这个模块既能被老的ubrpc client访问,也可以通过protobuf类的协议访问(baidu_std,sofa_pbrpc等)。

原有使用43台机器(对ubrpc也有富余),brpc使用3台机器即可(此时访问redis的io达到瓶颈)。当前流量4w qps,支持流量增长,考虑跨机房冗余,避免redis和vip瓶颈,brpc实际使用8台机器提供服务。

brpc改造后的connecter收益明显,可以用较少的机器提供更优质的服务。收益分3个方面:

相同配置的机器qps和latency的比较

通过逐渐缩容,不断增加connecter的压力,获得单机qps和latency的对应数据如下: img

机器配置:cpu: 24 Intel(R) Xeon(R) CPU E5645 @ 2.40GHz || mem: 64G

混布情况:同机部署了逻辑层2.0/3.0和C逻辑层,均有流量

图中可以看到随着压力的增大:

  • brpc的延时,增加微乎其微,提供了较为一致的延时体验
  • ubrpc的延时,快速增大,到了6000~8000qps的时候,出现queue full,服务不可用。

不同配置机器qps和延时的比较

qps固定为6500,观察延时。

机器名称
cpu24 Intel(R) Xeon(R) CPU E5645 @ 2.40GHz24 Intel(R) Xeon(R) CPU E5-2620 0 @ 2.00GHz
ubrpc8363.46(us)12649.5(us)
brpc3364.66(us)3382.15(us)

有此可见:

  • ubrpc在不同配置下性能表现差异大,在配置较低的机器下表现较差。
  • brpc表现的比ubrpc好,在较低配置的机器上也能有好的表现,因机器不同带来的差异不大。

相同配置机器idle分布的比较

机器配置:cpu: 24 Intel(R) Xeon(R) CPU E5645 @ 2.40GHz || mem:64G

img

在线上缩容 不断增大压力过程中:

  • ubrpc cpu idle分布在35%~60%,在55%最集中,最低30%;
  • brpc cpu idle分布在60%~85%,在75%最集中,最低50%; brpc比ubrpc对cpu的消耗低。

Last modified November 15, 2022: Update index.md (5373e25)