H5W3
当前位置:H5W3 > 其他技术问题 > 正文

Linux压测调优

Linux高并发调优

一 高并发概念

1.1 高并发概念

高并发(High Concurrency)是互联网分布式系统架构设计中必须考虑的因素之一,它通常是指,通过设计保证系统能够同时并行处理很多请求

1.2 高并发相关指标

  • 响应时间(Response Time)
    • 系统对请求做出响应的时间。例如系统处理一个HTTP请求需要200ms,这个200ms就是系统的响应时间
  • 吞吐量(Throughput)
    • 单位时间内处理的请求数量
  • 每秒查询率QPS(Query Per Second)
    • 每秒响应请求数。在互联网领域,这个指标和吞吐量区分的没有这么明显
  • 并发用户数(User Concurrence)
    • 同时承载正常使用系统功能的用户数量。例如一个即时通讯系统,同时在线量一定程度上代表了系统的并发用户数

1.3 高并发优化方面

  1. 单进程最大打开文件数限制
  2. 内核TCP参数方面
  3. IO事件分配机制

二 提升系统的并发能力

2.1 垂直扩展

  • 提升单机处理能力
    1. 增强单机硬件性能,例如:增加CPU核数如32核,升级更好的网卡如万兆,升级更好的硬盘如SSD,扩充硬盘容量如2T,扩充系统内存如128G
    2. 提升单机架构性能,例如:使用Cache来减少IO次数,使用异步来增加单服务吞吐量,使用无锁数据结构来减少响应时间

2.2 水平扩展

  • 增加服务器数量,就能线性扩充系统性能

2.3 常见互联网分层架构

(1)客户端层:典型调用方是浏览器browser或者手机应用APP

(2)反向代理层:系统入口,反向代理

(3)站点应用层:实现核心应用逻辑,返回html或者json

(4)服务层:如果实现了服务化,就有这一层

(5)数据-缓存层:缓存加速访问存储

(6)数据-数据库层:数据库固化数据存储

2.4 水平扩展架构

  1. 反向代理层的水平扩展

  2. 当nginx成为瓶颈的时候,只要增加服务器数量,新增nginx服务的部署,增加一个外网ip,就能扩展反向代理层的性能,做到理论上的无限高并发

  3. 通过“DNS轮询”实现的:dns-server对于一个域名配置了多个解析ip,每次DNS解析请求来访问dns-server,会轮询返回这些ip

  4. 站点层的水平扩展

    1. 通过“nginx”实现的。通过修改nginx.conf,可以设置多个web后端
    2. 当web后端成为瓶颈的时候,只要增加服务器数量,新增web服务的部署,在nginx配置中配置上新的web后端,就能扩展站点层的性能,做到理论上的无限高并发
  5. 服务层的水平扩展

    1. 通过“服务连接池”实现的
    2. 站点层通过RPC-client调用下游的服务层RPC-server时,RPC-client中的连接池会建立与下游服务多个连接,当服务成为瓶颈的时候,只要增加服务器数量,新增服务部署,在RPC-client处建立新的下游服务连接,就能扩展服务层性能,做到理论上的无限高并发
  6. 数据层的水平扩展

    1. 数据层(缓存,数据库)涉及数据的水平扩展,将原本存储在一台服务器上的数据(缓存,数据库)水平拆分到不同服务器上去,以达到扩充系统性能的目的。

    2. 存储一定范围的数据

      1. user0库,存储uid范围1-1kw
      2. user1库,存储uid范围1kw-2kw
    3. 按照哈希水平拆分

      1. user0库,存储偶数uid数据
      2. user1库,存储奇数uid数据

三 单台Linux服务器提升并发

3.1 iptables相关

  1. 关闭iptables防火墙,阻止kernel加载iptables模块

  2. 单进程最大打开文件数限制(默认单个进程最大打开1024个文件)

    1. ulimit –n 65535
      
  3. 修改Linux系统对用户的打开文件数的软限制和硬限制

    1. vim /etc/security/limits.conf
      * soft nofile 65535   #'*'表示修改所有用户的限制
      * hard nofile 65535
      
    2. #用户完成系统登录后读取/etc/security/limits.conf文件
      vim /etc/pam.d/login
      sessionrequired /lib/security/pam_limits.so
      

3.2 内核TCP参数

  1. ​ TIME_WAIT状态

    1. TCP连接断开后,会以TIME_WAIT状态保留一定的时间,然后才会释放端口。当并发请求过多的时候,就会产生大量的TIME_WAIT状态的连接,无法及时断开的话,会占用大量的端口资源和服务器资源

    2. #查看TIME_WAIT状态连接
      netstat -n | grep tcp | grep TIME_WAIT |wc -l
      
    3. # vim /etc/sysctl.conf
      net.ipv4.tcp_syncookies= 1 #表示开启SYNCookies。当出现SYN等待队列溢出时,启用cookies来处理,可防范少量SYN攻击,默认为0,表示关闭;
      net.ipv4.tcp_tw_reuse= 1 #表示开启重用。允许将TIME-WAITsockets重新用于新的TCP连接,默认为0,表示关闭;
      net.ipv4.tcp_tw_recycle= 1 #表示开启TCP连接中TIME-WAITsockets的快速回收,默认为0,表示关闭;
      net.ipv4.tcp_fin_timeout= 30  #修改系統默认的TIMEOUT 时间。
      

未经允许不得转载:H5W3 » Linux压测调优

赞 (0)

评论 0

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址