높은 동시성에서 몇 분당 CloseableHttpClient 블록

Question

http 요청을 처리하기 위해 httpcomponents를 사용하고 있습니다. connectionRequestTimeout, connectTimeout 및 socketTimeout을 같은 시간 (예 : 8000ms)으로 설정했습니다. 시스템은 동시성이 높으며 성능이 좋은 대부분의 시간이지만 일부 요청은 분당 시간 초과 (~ 8000ms)와 동일합니다.

이

RequestConfig config = RequestConfig.custom().setConnectionRequestTimeout(TIMEOUT).setConnectTimeout(TIMEOUT).setSocketTimeout(TIMEOUT).build(); 
    CloseableHttpClient client = HttpClientBuilder.create().setDefaultRequestConfig(config).build(); 
    HttpUriRequest request = null; 
    switch (method) { 
     case GET: 
      String getUrl = url; 
      if (null != paramData) { 
       getUrl += "?" + paramData; 
      } 
      request = new HttpGet(getUrl); 
      break; 
     case POST: 
      ... 
     default: 
      ... 
    } 
    CloseableHttpResponse response = null; 
    try { 
     long start = System.currentTimeMillis(); 
     response = client.execute(request); 
     long time = System.currentTimeMillis() - start; 
     // *************************** 
     // Sometime the log shows the cost is a few milliseconds more than TIMEOUT, 
     // but it does not throw any timeout exception and the response is fine. 
     // *************************** 
     LOG.debug("cost {}ms", time); 
     int resultCode = response.getStatusLine().getStatusCode(); 
     HttpEntity entity = response.getEntity(); 
     String resultJson = EntityUtils.toString(entity, UTF_8); 
     if (HttpStatus.SC_OK == resultCode) { 
      ... 
     } 
    } catch (Exception e) { 
     ... 
    } finally { 
     //abort the request 
     if (null != request && !request.isAborted()) { 
      request.abort(); 
     } 
     //close the connection 
     HttpClientUtils.closeQuietly(client); 
     HttpClientUtils.closeQuietly(response); 
    } 

httpcomponents의 버전은 4.5.2이며, JDK는 1.8.0_92 오픈 JDK입니다 : 여기에 코드입니다. 더 나은 성능을 위해 CloseableHttpClient을 싱글 톤으로 사용해야합니까?

Answer 1

CloseableHttpClient은 성능 향상을 위해 싱글 톤을 사용해야합니다. 요구 사항에 따라 연결 수를 HttpClientBuilder에 정의 할 수도 있습니다.

또한 socketTimeout이 connectionTimeOut 이상이어야합니다. 그러면 소켓을 읽을 시간이 더 늘어납니다.