最近排查一个web服务的问题,webserver使用的nginx,最终发现是踩了nginx中proxy_pass的一个坑,这里记录下来。
踩坑经过
一个线上的http服务,示例nginx关键配置如下:
server { listen 80; server_name ligang.gdemo.com; server_tokens off; keepalive_timeout 5; charset utf-8; include /home/ligang/devspace/gobox-demo/conf/http/general/gzip.conf; access_log logs/ligang.gdemo.com.log combinedio buffer=1k; error_log logs/ligang.gdemo.com.log.err; location / { include /home/ligang/devspace/gobox-demo/conf/http/general/http_proxy.conf; proxy_intercept_errors on; proxy_pass http://ligang.proxy.gdemo.com; }}
这里可以看到,请求 ligang.gdemo.com
时,nginx把请求反向代理到 ligang.proxy.gdemo.com 去做处理。
ligang.proxy.gdemo.com
这个服务在线上部署并解析到了A、B、C这3个机房,现在我想调整解析,去掉C机房,仅留A、B两个机房。
调整解析后,查看新的解析已经生效,但观察C机房的请求量,发现和之前一样,没有任何变化。
于是我观察C机房的nginx的log,发现请求来源还是 ligang.gdemo.com
的机器,域名解析调整后nginx那边依旧使用之前的IP。
于是我将 ligang.gdemo.com
的机器上的nginx全部reload后,C机房的请求终于没有了。
问题说明
上面的问题,说明在nginx的proxy_pass中如果使用了域名,那么nginx会把解析的结果缓存下来,貌似不会更新,因为上面的例子中,我调整解析后是几乎是隔了一天去看C机房的log发现流量没有任何变化的。
这样的话,如果你配置一个反向代理服务器,如果上游调整了域名,而你又没有得到通知,那么你的代理服务相当于不可用了。
从代码中看下nginx是如何解析主机ip的
有点好奇nginx是如何解析主机ip的,所以追踪下代码:
proxy_pass指令定义的地方(http/modules/ngx_http_proxy_module.c):
{ ngx_string("proxy_pass"), NGX_HTTP_LOC_CONF|NGX_HTTP_LIF_CONF|NGX_HTTP_LMT_CONF|NGX_CONF_TAKE1, ngx_http_proxy_pass, //处理方法 NGX_HTTP_LOC_CONF_OFFSET, 0, NULL },
ngx_http_proxy_pass方法(http/modules/ngx_http_proxy_module.c):
static char *ngx_http_proxy_pass(ngx_conf_t *cf, ngx_command_t *cmd, void *conf){ ngx_http_proxy_loc_conf_t *plcf = conf; size_t add; u_short port; ngx_str_t *value, *url; ngx_url_t u; ngx_uint_t n; ngx_http_core_loc_conf_t *clcf; ngx_http_script_compile_t sc; ...... url = &value[1]; ...... ngx_memzero(&u, sizeof(ngx_url_t)); u.url.len = url->len - add; u.url.data = url->data + add; u.default_port = port; u.uri_part = 1; u.no_resolve = 1; plcf->upstream.upstream = ngx_http_upstream_add(cf, &u, 0);}
新闻热点
疑难解答