linux上TCP connection timeout问题解决办法
linux上tcp connection timeout问题解决办法
最近在产线上经常出现connection timeout的问题,先看看java 中关于connection timeout 的异常如何产生
java中的timeout
java.net.sockettimeoutexception: connect timed out 客户端异常:connect timed out at java.net.plainsocketimpl.socketconnect(native method) at java.net.abstractplainsocketimpl.doconnect(abstractplainsocketimpl.java:345) at java.net.abstractplainsocketimpl.connecttoaddress(abstractplainsocketimpl.java:206) at java.net.abstractplainsocketimpl.connect(abstractplainsocketimpl.java:188) at java.net.sockssocketimpl.connect(sockssocketimpl.java:392) at java.net.socket.connect(socket.java:589)
我们能经常看到的connect timed out异常产生,看一下java 是如何生成这个异常
plainsocketimpl.c 中
while (1) { jlong newtime; #ifndef use_select { struct pollfd pfd; pfd.fd = fd; pfd.events = pollout; errno = 0; connect_rv = net_poll(&pfd, 1, timeout); } #else { fd_set wr, ex; struct timeval t; t.tv_sec = timeout / 1000; t.tv_usec = (timeout % 1000) * 1000; fd_zero(&wr); fd_set(fd, &wr); fd_zero(&ex); fd_set(fd, &ex); errno = 0; connect_rv = net_select(fd+1, 0, &wr, &ex, &t); } #endif if (connect_rv >= 0) { break; } if (errno != eintr) { break; } /* * the poll was interrupted so adjust timeout and * restart */ newtime = jvm_currenttimemillis(env, 0); timeout -= (newtime - prevtime); if (timeout <= 0) { connect_rv = 0; break; } prevtime = newtime; } /* while */ if (connect_rv == 0) { jnu_throwbyname(env, jnu_javanetpkg "sockettimeoutexception", "connect timed out"); /* * timeout out but connection may still be established. * at the high level it should be closed immediately but * just in case we make the socket blocking again and * shutdown input & output. */ set_blocking(fd); jvm_socketshutdown(fd, 2); return; }
这里可以看到在做connect的时候,是调用 net_poll 或者 net_select, 在linux 上就是使用 poll/select
当发生timeout的时候connect_rv=0 ,这里有个注意点虽然在poll/select 是传入timeout的时间,但是这是会被打断的,connect_rv返回的值为-1 ,所以jvm里面重新计算了timeout , 确保timeout 的时间片已经运行完了,才推出循环。
newtime = jvm_currenttimemillis(env, 0); timeout -= (newtime - prevtime); if (timeout <= 0) { connect_rv = 0; break; }
同时设置connect_rv 为0, 也是下面只有当connect_rv为0的时候才抛出connect timeout
什么是connect timeout ?
也就是client 发出 syn 包,server端在你指定的时间内没有回复ack,poll/select 返回0
server 端为什么没有回复ack, 因为syn包的回复是内核层的,要么网络层丢包,要么就是内核层back_log的queue满了,关于backlog在本片中就不详细描述了。
当时查看产线上的连接最高能到1000多,同时查看了backlog 的queue的大小
cat /proc/sys/net/ipv4/tcp_max_syn_backlog
有8192 在产线上没有这么多的客户端的连接,不可能backlog queue会满,虽然syn_backlog 的设置是8192 但并不代表服务器启动的时候设置成了8192,所以必须查这个端口所设置的backlog大小
ss -lt
看到send-q在8080端口是128 ,原来在服务器端启动listen 的时候设置了128的backlog
查看tomcat 的配置,默认bio的设置
<connector executor="tomcatthreadpool" port="8080" protocol="http/1.1" acceptcount="5000" connectiontimeout="25000" maxhttpheadersize="8192" usebodyencodingforuri="true" enablelookups="false" redirectport="8443" uriencoding="utf-8" maxthreads="500" maxkeepaliverequests="1000" keepalivetimeout="30000" />
产线上已经设置了acceptcount, 默认是100 但是这里设置了是5000 ,这与通过ss看到的send-q的结果严重不符合
通过内核代码分析,发现原来内核参数不仅仅是通过tcp_max_syn_backlog控制,同时也受somaxconn控制
查看
cat /proc/sys/net/core/somaxconn
发现值是128, ok 原因找到了,修改/etc/sysctl.conf 添加
net.core.somaxconn = 8192
sysctl -f /etc/sysctl.conf 重新加载一下,这样就能改变全局了
问题:是1000多个连接,500个工作线程,因为backlog的大小是受socket.accept控制的,我们通常境况下会单独起一个线程去serversocket.accept(),而当前server的load并不高,不因该会出现back_log queue出现满的情况,更何况只有1000多个连接,代码就是真相,查看tomcat的源码。
原来accptor 线程在accept 之前,会去countuporwaitconnection 发现接受到的的socket数目大于设置的work线程数目的时候,会停止accept.
<strong>countuporawaitconnection</strong>(); socket socket = null; try { // accept the next incoming connection from the server // socket socket = serversocketfactory.acceptsocket(serversocket); } catch (ioexception ioe) { countdownconnection(); // introduce delay if necessary errordelay = handleexceptionwithdelay(errordelay); // re-throw throw ioe; }
也就是说当并发超过628个连接以上,就有可能出现backlog queue满的情况,而出现connect timeout的情况,一切皆清楚了。
感谢阅读,希望能帮助到大家,谢谢大家对本站的支持!
上一篇: 支持移动端原生js轮播图