nginx proxy 缓存简介

转自：

nginx 将用户已经访问过的内容保留在 nginx 服务器本地，这样在一段时间内用户再次访问该数据，就不需要 nginx 服务器对后端服务器发请求，减少 nginx 和后端服务器之间的网络阻塞，减小数据延迟，提高用户访问速度。即使后端服务器宕机，nginx 的 cache 也会返回给客户端请求，不至于服务不可用。 proxy cache 是把请求的链接用 md5 编码 hash 后保存，所以它可以支持任意链接，同时也支持 404/301/302 这样的非 200 状态。

nginx proxy cache 缓存配置

配置样例

proxy_cache_path /home/work/nginx/proxy_cache levels=1:2 keys_zone=cache:2g inactive=2d max_size=8g;location ~ ^/api {      proxy_buffering on;      proxy_upstream_tries 2;      proxy_cache cache;      proxy_cache_valid 200 304 15m;      proxy_cache_key $host$uri?Accept-Encoding=$http_accept_encoding;      proxy_ignore_headers "Cache-Control" "Expires" ;}

配置项说明

proxy_cache_path：本地路径，缓存文件存放路径。levels：cache 目录的层次，使用 2 级目录来存储缓存文件。keys_zone： 在共享内存中设置一块存储区域来存放缓存的 key 和 metadata（类似使用次数），这样 nginx 可以快速判断一个 request 是否命中或者未命中缓存，1m 可以存储 8000 个 key，10m 可以存储 80000 个 key。inactive : 未被访问文件在缓存中保留时间，本配置中如果 2 天未被访问，缓存控制程序会删掉文件，默认为 10 分钟。max_size : 最大 cache 空间，如果不指定，会使用掉所有 disk space，当达到配额后，会删除最少使用的 cache 文件。proxy_cache : 启用 proxy cache，指定 key_zone。proxy_cache_valid： 设置不同相应码的缓存时间，当不指定响应码的时候，例如 proxy_cache_valid 5m; 只对响应码为 200，301，302 的访问请求资源设置缓存时间。proxy_cache_key：若某个接口返回的值基本不变，或者是特定类别的，就可以根据请求的 url 的参数，自定义 cache key。proxy_ignore_headers：禁止处理来自代理服务器的应答，可以设置的字段有 ”X-Accel-Redirect”, “X-Accel-Expires”, “Expires” 或”Cache-Control。注意：proxy_cache_key 压缩方式 Accept-Encoding 应该指定为通用压缩格式，防止客户端不支持某种压缩方式。nginx log 里可以添加缓存命中状态，便于查看是否命中，统计缓存命中率，具体可以如下定义格式：

log_format  main  '$remote_addr - $remote_user [$time_local] "$host|$request" $status $body_bytes_sent '        '$request_length $request_body "$http_referer" "$http_user_agent" "$scheme" "$http_x_forwarded_for" '        '"$upstream_cache_status" "$http_accept_encoding" "$upstream_addr" "$request_time_usec" "$request_time_msec" '        '"$request_time" "$upstream_response_time"';

$upstream_cache_status 包含以下几种状态：

MISS：未命中，请求被传到后端HIT：缓存命中EXPIRED：缓存过期，请求被传到后端UPDATING：缓存正在更新，使用旧缓存应答STALE：后端将得到过期的应答

故障时利用 cache 对服务降级

当调用后端接口暂时故障时，比如用手机看视频拿不到播放数据，或者不出广告，这时候如果有 cache，nginx 会返回给客户端之前暂存的缓存数据，或者提前准备好的静态页面，用户不至于面对一个空白页面。对于重要的一级接口，可以每天请求一次填充 cache 到备份 nginx 服务器，即使线上后端接口完全不可用，流量冗余到备份服务器，对用户体验也不会有很大影响。

cache 优化

nginx 只有硬盘级别 cache，没有内置内存级别的 cache，为了利用内存加速，减少服务器响应时间，可以将 cache 目录挂载到 / dev/shm 内存目录。

mount --bind /dev/shm/proxy_cache /home/work/nginx/proxy_cache线上流量相差不大的情况下，将 cache 目录挂载到内存与未挂载到内存的耗时对比，还是有明显差距，将 cache 目录挂载到内存中，响应时间可以缩短 7 倍以上。

总结

缓存不是什么高深技术，但是正确利用缓存，在业务遭受大流量冲击下，会起到重要作用，缓存的 key 设置需合理，避免不正确缓存。

参考资料