Enhanced SWAP特性介绍


Enhanced SWAP特性介绍

基本概念

ESwap(Enhanced Swap)提供了自定义新增存储分区作为内存交换分区的能力,并创建了一个常驻进程zswapd将ZRAM压缩后的匿名页加密换出到ESwap存储分区,从而能完全的空出一块可用内存,以此来达到维持Memavailable水线的目标。同时,配合这个回收机制,在整个内存框架上进行改进,优化匿名页和文件页的回收效率,并且使两者的回收比例更加合理以避免过度回收导致的refault问题造成卡顿现象。

ZRAM与ESwap配置指导

使能ESwap

  1. 打开相关配置项及依赖

    启用ESwap,需要通过编译内核时打开相应的配置项及依赖,ESwap相关CONFIG如下:

    CONFIG_HYPERHOLD=y
    CONFIG_HYPERHOLD_DEBUG=y
    CONFIG_HYPERHOLD_ZSWAPD=y
    CONFIG_HYPERHOLD_FILE_LRU=y
    CONFIG_HYPERHOLD_MEMCG=y
    CONFIG_ZRAM_GROUP=y
    CONFIG_ZRAM_GROUP_DEBUG=y
    CONFIG_ZLIST_DEBUG=y
    CONFIG_ZRAM_GROUP_WRITEBACK=y
    
    1
    2
    3
    4
    5
    6
    7
    8
    9

    另有部分CONFIG被依赖:

    CONFIG_MEMCG=y
    CONFIG_SWAP=y
    CONFIG_ZSMALLOC=y
    CONFIG_ZRAM=y
    
    1
    2
    3
    4
  2. 创建ESwap设备

    可以使用任意block设备作为ESwap交换设备,这里创建一个文件hpdisk挂载为loop6设备:

    // 通过dd命令创建一个文件hpdisk用于ESwap换出,具体大小需根据产品及需求调整,此处设置为512MB。
    dd if=/dev/random of=/data/hpdisk bs=4096 count=131072
    // 将上一步创建的hpdisk与ESwap device进行绑定。
    losetup /dev/block/loop6 hpdisk
    
    1
    2
    3
    4
  3. 配置ESwap

    将2中创建的设备绑定为ESwap换出设备:

    echo /dev/block/loop6 > /proc/sys/kernel/hyperhold/device
    
    1

    ESwap默认对换出数据使用软件加密,如果2中创建的ESwap设备支持inline加密,可以关闭ESwap的软件加密功能:

    // 需确认是否支持并开启硬加密,否则不要执行该操作。
    echo 0 > /proc/sys/kernel/hyperhold/soft_crypt
    
    1
    2

    icon-caution.gif 注意: 出于安全考虑,所有换出内容均需加密。因此若当前配置ESwap的设备不支持inline加密,或编译时未打开inline加密宏,则在关闭软加密时,ESwap无法enable。

  4. 使能ESwap

    使能ESwap,使能后无法更改上述配置:

    echo enable > /proc/sys/kernel/hyperhold/enable
    
    1

icon-note.gif 说明: 使能ESwap需要在使能ZRAM之前,不需要使用ESwap时, 也可以仅使能ZRAM。如部分设备不包括用于换出的存储设备,也没有新建相应的存储分区,那么可以仅使能ZRAM来通过zswapd进行内存回收。

使能ZRAM

  1. 初始化ZRAM

    设置ZRAM与ESwap的交互方式,并配置ZRAM的大小。

    // 打开ZRAM到ESwap的换入换出功能,该步骤必须要在配置ZRAM大小之前。
    echo readwrite > /sys/block/zram0/group
    // 配置ZRAM的大小,具体大小需根据产品及需求调整,此处设置为512MB。
    echo 512M > /sys/block/zram0/disksize
    
    1
    2
    3
    4

    icon-note.gif 说明: /sys/block/zram0/group可接受参数及作用为:

    • disable:表示disable;
    • readonly:表示只记录数据的cgroup信息,并不换出;
    • readwrite:表示打开ZRAM到eswap的换入换出功能。
  2. 使能ZRAM

    启用ZRAM设备为交换分区并将其使能。

    mkswap /dev/block/zram0
    swapon /dev/block/zram0
    
    1
    2

关闭ESwap与ZRAM

  1. 关闭ESwap

    echo disable > /proc/sys/kernel/hyperhold/enable
    或
    echo force_disable > /proc/sys/kernel/hyperhold/enable
    
    1
    2
    3

    icon-note.gif 说明: 两者的区别在于:

    • disable:表示如果ESwap中没有数据,则完全关闭,否则变为只读模式;
    • force_disable:表示如果没有数据,完全关闭,否则变为只读模式,并同步等待ESwap中数据完全读出,然后完全关闭。
  2. 关闭ZRAM及ZRAM group

    // 若已经执行过swapon,则需先执行swapoff
    swapoff /dev/block/zram0
    echo 1 > /sys/block/zram0/reset
    
    1
    2
    3

ESwap相关接口

ESwap提供了一些接口用于控制换入换出策略以及记录当前状态,这些接口位于memcg所挂载的目录当中,如/dev/memcg/

功能分类 接口名 描述
控制接口 avail_buffers 设置buffer区间
zswapd_single_memcg_param 设置当前memcg相关配置
zram_wm_ratio 设置zram换出水线
状态接口 zswapd_pressure_show 记录当前buffer以及refault
stat 检测ESwap实时情况
zswapd_vmstat_show 记录zswapd运行过程中各种事件

icon-caution.gif 注意: 除avail_buffers会因为调整了buffer水线而会主动去唤醒zswapd外,其余控制接口并不会主动唤醒zswapd,只是其配置需在zswapd所被唤醒后方可生效。

各接口的具体描述如下:

avail_buffers

avail_buffers接口用于设置buffer区间[min_avail_buffers, high_avail_buffers],当检测到当前的buffer低于min_avail_buffers时则会唤醒zswapd进行匿名页回收,期望的回收量为high_avail_buffers与当前系统buffer值的差值,实际可能会因为无法回收等原因而未回收那么多内存。avail_buffers为期望的内存正常状态buffer值,free_swap_threshold则是设置交换分区空闲容量的阈值,当zswapd唤醒并进行内存回收之后,会根据当前系统情况以及两者的设置记录当前内存压力事件,如medium press,critical press等。可主动调整来触发zswapd回收,如echo 1000 950 1050 0 > /dev/memcg/memory.avail_buffers

默认值:

	avail_buffers: 0
	min_avail_buffers: 0
	high_avail_buffers: 0
	free_swap_threshold: 0
1
2
3
4

限制:

0<=min_avail_buffers<=avail_buffers<=high_avail_buffers

0<=free_swap_threashold

取值均为整型。

zswapd_single_memcg_param

设置当前memcg的相关配置。score为当前memcg回收优先级,ub_mem2zram_ratio为内存压缩到ZRAM的比率,ub_zram2ufs_ratio为ZRAM换出到ESwap的比率,refault_threshold为refault的阈值,可通过调整比率来控制ZRAM压缩以及ESwap换出情况,如echo 60 10 50 > memory.zswapd_single_memcg_param

默认值:

	memcg score: 300
	memcg ub_mem2zram_ratio: 60
	memcg ub_zram2ufs_ratio: 10
	memcg refault_threshold: 50
1
2
3
4

限制:

0<=ub_mem2zram_ratio<=100

0<=ub_zram2ufs_ratio<=100

0<=refault_threshold<=100

取值均为整型。

zram_wm_ratio

设置ZRAM换出水线,即当当前ZRAM中压缩的匿名页大于ZRAM总大小*zram_wm_ratio时,会开始向ESwap进行换出,但是具体换出时间为zswapd因buffer水线而唤醒之后。设置为0时系统默认为37,可进行调整,如echo 30 > /dev/memcg/memory.zram_wm_ratio

默认值:

	zram_wm_ratio: 0
1

限制:

0<=zram_wm_ratio<=100

取值为整型。

zswapd_pressure_show

记录当前zswapd所需相关状态,buffer_size为当前系统的buffer值,recent_refault为最近产生的refault次数。

stat

在原有memcg.stat的基础上新增了Anon,File,zram,Eswap等项,用以监测ESwap的实时情况。

zswapd_vmstat_show

记录zswapd运行过程中的各种事件。

触发zswapd回收

可先通过cat /dev/memcg/memory.zswapd_pressure_show查看当前buffer值,比如当前为1200,那么便可通过主动调整buffer区间,来主动唤醒zswapd。

echo 1300 1250 1350 0 > /dev/memcg/memory.avail_buffers
1

ESwap配置大小示例

ZRAM与ESwap的大小配置需根据实际使用场景以及产品硬件特点进行适配。目前在rk3568板子上使用时,其ram为2G,因此设置的ZRAM与ESwap大小均为512MB。