12.1、Linux配置优化

在Redis的开发和运维过程中,由于对于Redis的某些特性没有真正合理地使用,会遇到一些棘手的问题,本章将对一些典型的“陷阱”进行逐一分析并提出解决方案,主要内容包括:

  • Linux配置优化要点。

  • flushall/flushdb误操作快速恢复方法。

  • 安全的Redis如何设计。

  • 处理bigkey的方案与最佳实践。

  • 寻找热点key。

Linux配置优化

通常来看,Redis开发和运维人员更加关注的是Redis本身的一些配置优化,例如AOF和RDB的配置有优化、数据结构的配置优化等,但是对于操作系统是否需要对Redis做一些配置优化不甚了解或者不太关心。然而事实证明一个良好的系统操作配置能够为Redis服务良好运行保驾护航。

在第一章我们提到过,Redis的作者对于Window操作系统并不感兴趣,目前大部分公司都会将Web服务器、数据库等服务器部署在Linux操作系统上,Redis也不例外,所以接下来介绍Linux操作系统如何优化Redis。

  1. 内存分配控制

    1. vm.overcommit_memory

      在分析这个问题之前,首先要弄清楚什么是overcommit?Linux操作系统对大部分申请内存的请求都回复yes,以便能运行更多的程序。因为申请内存后,并不会马上使用内存,这种技术叫做overcommit。如果Redis在启动时有上面的日志,说明vm.overcommit_memory=0,Redis提示把它设置为1。

      vm.overcommit_memory用来设置内存分配策略,有三个可选值,如下表所示:

      含义
      0 表示内核将检查是否有足够的可用内存。如果有足够的可用内存,内存申请通过,否则内存申请失败,并把错误返回给应用进程
      1 表示内核允许超量使用内存直到用完为止
      2 表示内核决不过量的(“never overcommit”)使用内存,即系统整个内存地址空间不能超过swap+50%的RAM值,50%是overcommit_ratio默认值,此参数同样支持修改

      注意:本节的可用内存代表物理内存与swap之和。

      日志中的Background save代表的是bgsave和bgrewriteaof,如果当前可用内存不足,操作系统应用如何处理fork操作。如果vm.overcommit_memory=0,代表如果没有可用内存,就申请内存失败,对应到Redis就是执行fork失败,在Redis的日志会出现:

      Cannot allocate memory

      Redis建议把这个值设置为1,是为了让fork操作能够在低内存下也执行成功。

    2. 获取和设置

      获取:

      # cat /proc/sys/vm/overcommit_memory
      =
      

      设置:

      echo "vm.overcommit_memory=1" >> /etc/sysctl.conf
      sysctl vm.overcommit_memory=1
      
    3. 最佳实践

      • Redis设置合理的maxmemory,保证机器有20%~30%的闲置内存。

      • 集中化管理AOF重写和RDB的bgsave

      • 设置vm.overcommit_memory=1,防止极端情况下回造成fork失败。

  2. swappiness

    1. 参数说明

      swap对于操作系统比较重要,当物理内存不足时,可以将一部分内存页进行swap操作,以解燃眉之急。但世界上没有免费午餐,swap空间由硬盘提供,对于需要高并发、高吞吐的应用来说,磁盘IO通常会成为系统瓶颈。在Linux中,并不是要等到所有物理内存都是用完才会使用到swap,系统参数swappiness会决定操作系统使用swap的倾向程序。swappiness的取值范围是0~100,swappiness的值越大,说明操作系统可能使用swap的概率越高,swappiness值越低,表示操作系统更加倾向于适用于物理内存。swap的默认值是60,了解这个值的含义后,有利于Redis的性能优化。下表对swappiness的重要值进行了说明。

      策略
      0 Linux3.5以及以上:宁愿用OOM killer也不用swap,Linux3.4以及更早反之。
      1 Linux3.5以及以上:宁愿用swap也不用OOM killer
      60 默认值
      100 操作系统会主动地使用swap

      运维提示:OOM(Out Of Memory)killer机制是值Linux操作系统发现可用内存不足时,强制杀死一些用户进行(非内核进程),来保证系统有足够的可用内存进行分配。

      从上表可以看出,swappiness参数在Linux3.5版本前后的表现并不完全系统,Redis运维人员在设置这个值需要关注当前操作系统的内核版本。

    2. 设置方法

      swappiness设置方法如下:

      echo {bestvalue} > /proc/sys/vm/swappiness

      但是上述方法在系统重启后就会失效,为了让配置在重启Linux操作系统后立即生效,只需要在/etc/sysctl.conf追加vm.swappiness={bestvalue}即可。

      echo vm.swappiness={bestvalue} >> /etc/sysctl.conf

      需要注意/proc/sys/vm/swappiness是设置操作,/etc/sysctl.conf是追加操作。

    3. 如何监控swap

      (1)查看swap的总体情况

      Linux提供了free命令来查询操作系统的内存使用情况,其中也包含了swap的相关使用情况。

      (2)实时查看swap的使用

      Linux提供了vmstat命令查询系统的相关性能指标,其中包含负载、CPU、内存、swap、IO的相关属性。但其中和swap有关的指标是si和so,它们分别代表操作系统的swap in和swap out。下面是执行vmstat 1(每隔一秒输出)的效果,可以看到si和so都为0,代表当前没有使用swap。

      (3)查看指定进程的swap使用情况

      Linux操作系统中,/proc/{pid}目录是存储指定进程的相关信息,其中/proc/{pid}/smaps记录了当前进程所对应的内存映像信息,这个信息对于查询指定进程的swap使用情况很有帮助。如果Linux>3.5,vm.swapniess=1,否则vm.swapniess=0,从而实现如下两个目标:

      • 物理内存充足时候,使Redis足够快。

      • 物理内存不足时候,避免Redis死掉(如果当前Redis为高可用,死掉比阻塞更好)。

  3. THP

    Redis启动时日志中建议修改Transparent Huge Pages(THP)的相关配置,Linux kernel在2.6.38内核增加了THP特性,支持大内存也(2MB)分配,默认开启。当开启时可以加快fork子进程的速度,但fork操作之后,每个内存页从原来4KB变为2KB,会大幅增加重写期间父进程内存消耗。同时每次写命令引起的复制内存页单位放大了512倍,会拖慢写操作的执行时间,导致大量写操作慢查询,例如简单的incr命令也会出现在慢查询中。因此Redis气质中建议将此特性进行禁用,禁用方法如下:

    echo never > /sys/kernel/mm/transparent_hugepage/enabled

    为了使机器重启后THP配置依然生效,可以在/etc/rc.local中追加echo never > /sys/kernel/mm/transparen_hugepage/enablec。

    在设置THP配置时需要注意:有些Linux的发行版本没有将THP当道/sys/kernel/mm/transparent_hugepage/enabled中,例如Red Hat 6以上的THP配置放到/sys/kernel/mm/redhat_transparent_hugepage/enabled中。而Redis源码中检查THP时,把THP位置写死:

    FILE * fp = fopen("/sys/kernel/mm/transparent_hugepage/enabled", "r");
    if (!fp) return 0;
    

    所以在发行版中,虽然没有THP的日志提示,但是依然存在THP所带来的问题:

    echo never > /sys/kernel/mm/redhat_transparent_hugepage/enabled
    
  4. OOM killer

    OOM killer会在可用内存不足时选择性地杀掉用户进程,它的运行规则是怎样的,会选择哪些用户进程“下手”呢?OOM killer进程会为每个用户进程设置一个权值,这个权值越高,被“下手”的概率就越高,反之概率越低。每个进程的权值存放在/proc/{progress_id}/oom_score中,这个值是受/proc/{progress_id}/oom_adj的控制,oom_adj在不同的Linux版本中最小值不同,可以参考Linux源码中oom.h(从 -15到-17)。当oom_adj设置为最小值是,该进程将不会被OOM killer杀掉,设置方法如下:

    echo {value} > /proc/${process_id}/oom_adj

    对于Redis所在的服务器来说,可以将所有Redis的oom_adj设置为最低值或者稍小的值,降低被OOM killer杀掉的概率:

    for redis_pid in $(pgrep -f "redis-server")
    do
        echo -17 > /proc/${redis_pid}/oom_adj
    done
    
  5. 使用NTP

    NTP(Network Time Protocol,网络时间协议)是一种保证不同机器始终一致性的服务。向Redis Sentinel和Redis Cluster这两种功能需要多个Redis节点的类型,可能会涉及多台服务器。虽然Redis并没有对多个服务器的时钟有严格要求,但是假如多个Redis实例所在的服务器时钟不一致,对于一些异常情况的日志排查是非常困难的,例如Redis Cluster的故障转移,如果日志时间不一致,对于我们排查问题带来很大的困扰(注:但不会影响集群功能,集群节点依赖各自时钟)。一般公司里都会有NTP服务用来提供标准时间服务,从而达到纠正时钟的效果,为此我们可以每天定时去同步一次系统时间,从而使得集群中的时间保持统一。

  6. ulimit

    在Linux中,可以通过ulimit查看和设置系统当前用户进程的资源数。其中ulimit -a命令包含的open files参数,是单个用户同时打开的最大文件个数。

    Redis允许同时有多个客户端通过网络进程连接,可以通过配置maxclients来限制最大客户端连接数。对Linux操作系统来说,这些网络连接都是文件句柄。

  7. TCP backlog

    Redis默认的tcp-backlog值为511,可以通过修改配置tcp-backlog进行调整。

    查看方法:

    # cat /proc/sys/net/core/somaxconn
    128
    

    修改方法:

    echo 511 > /proc/sys/net/core/somaxconn
    
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 158,736评论 4 362
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,167评论 1 291
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,442评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,902评论 0 204
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,302评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,573评论 1 216
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,847评论 2 312
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,562评论 0 197
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,260评论 1 241
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,531评论 2 245
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,021评论 1 258
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,367评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,016评论 3 235
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,068评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,827评论 0 194
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,610评论 2 274
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,514评论 2 269

推荐阅读更多精彩内容

  • SWAP/swappiness/kswapd原理,swap分区优先级的妙用 概述 本文讨论的swap基于Linux...
    xywzhen阅读 5,018评论 1 5
  • 观其大纲 第1部分Linux的基础知识第1章Linux概述第2章Linux系统的安装KickStart开始自动安装...
    周少言阅读 1,371评论 1 10
  • Redis3.2.9/4.0.1集群部署配置优化 参考文档 http://www.redis.cn/topics/...
    三杯水Plus阅读 794评论 0 3
  • 随着年龄的增长,我们的道德感变得越发的强烈。同时,我们开始思考 这样的问题:我们过得是否快乐,曾经的付出是否值得,...
    鸭梨山大哎阅读 974评论 0 0
  • 有时候想,就比如现在,总是会想,如果人生真有如果就好了。好像去年,因为之前所谓的找人算,好像差不多到了结婚的...
    我们要开心n阅读 628评论 0 0