httpclient連接池相關參數的坑

今天早上UIOC，現象是發現調用某個服務的介面總是超時，這個環境昨晚沒有發版本無緣無故就出問題很是奇怪。到公司各種查，最終通過問題服務重啟前列印的堆棧信息看到幾乎所有的線程都在等待連接池釋放連接後獲取空閑連接。錯誤如下：

"xxxxxxxxxxxxx" prio=10 tid=0x00007f6b7c002800 nid=0x40ff waiting on condition [0x00007f6b37020000]

java.lang.Thread.State: TIMED_WAITING (parking)

at sun.misc.Unsafe.park(Native Method)

- parking to wait for <0x00000000f97918b8> (a java.util.concurrent.locks.AbstractQueuedSynchronizer$ConditionObject)

at java.util.concurrent.locks.LockSupport.parkUntil(LockSupport.java:239)

at java.util.concurrent.locks.AbstractQueuedSynchronizer$ConditionObject.awaitUntil(AbstractQueuedSynchronizer.java:2072)

at org.apache.http.pool.PoolEntryFuture.await(PoolEntryFuture.java:129)

at org.apache.http.pool.AbstractConnPool.getPoolEntryBlocking(AbstractConnPool.java:281)

at org.apache.http.pool.AbstractConnPool.access$000(AbstractConnPool.java:62)

at org.apache.http.pool.AbstractConnPool$2.getPoolEntry(AbstractConnPool.java:176)

at org.apache.http.pool.AbstractConnPool$2.getPoolEntry(AbstractConnPool.java:172)

at org.apache.http.pool.PoolEntryFuture.get(PoolEntryFuture.java:100)

at org.apache.http.impl.conn.PoolingClientConnectionManager.leaseConnection(PoolingClientConnectionManager.java:212)

問題已經很明顯，因為使用了連接池，但連接不夠用，造成大量的等待，後面的請求獲取不到連接所以最終超時，並且這種等待都有滾雪球的效應。

問題原因主要因為我們對httpclient連接池參數設置不合理造成，我們使用的是httpclient4.4.1，除了連接超時和響應超時這兩個參數之外，和連接池相關的兩個參數如下：

1、MaxtTotal：整個連接池的大小

2、DefaultMaxPerRoute：根據連接到的主機對MaxTotal的一個細分

比如：MaxtTotal=400 DefaultMaxPerRoute=200

只連接到http://x.com時，到這個主機的並發最多只有200；而不是400；

連接到http://x.com 和 http://y.com時，到每個主機的並發最多只有200；即加起來是400（但不能超過400）,所以起作用的設置是DefaultMaxPerRoute。

之前一直對線程池和連接池有點混淆，總結一下：

線程池和連接池（http連接池或db連接池）概念上其實是一樣的，反覆創建都要消耗系統資源，所以才需要使用池保存起來反覆使用。針對使用tomcat容器的場景，tomcat工作線程池中每個運行線程都在處理一個upstream請求，需要訪問第三方介面或DB時，都是從對應池中取連接進行同步請求操作（一般情況不會另外啟動一個線程來非同步請求第三方介面或DB）。同步請求操作中（請求發出後），tomcat工作線程會切換到等待狀態（WAITING），等請求響應返回後，操作系統再根據調度演算法，最終喚醒線程並切換到運行狀態（RUNNABLE），如果同步請求操作（訪問第三方介面或DB）響應很快，這個線程兩次上下文切換（context switch）也是很快的，用jstack幾乎是看不到中間狀態。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！