获取 NoHttpResponseException 进行负载测试答案

【问题标题】：get NoHttpResponseException for load testing获取 NoHttpResponseException 进行负载测试
【发布时间】：2012-05-13 09:26:42
【问题描述】：

我正在为我的应用程序运行负载测试。我有两台服务器：一台用于我的应用程序，另一台用于获取响应。

在我的虚拟服务器中，我有以下 jsp 代码：

<%@ page import="java.util.Random" %>
<%@ page language="java" %>
<%@ page session="false" %>
<%
   String retVal = "some json string";
   Thread.sleep(50);
%>

我正在使用 tomcat7 运行应用程序。我的 server.xml 连接池（在两台服务器中）如下所示：

<Executor name="tomcatThreadPool" namePrefix="catalina-exec-" maxThreads="1500" minSpareThreads="1000" prestartminSpareThreads="true" /> 
<Connector port="9031" protocol="HTTP/1.1" 
           connectionTimeout="20000" 
           maxConnections="4000"
           executor="tomcatThreadPool"
           redirectPort="8443" />

我在服务器上运行的 java 代码是：

 HttpPost post = new HttpPost(bidderUrl);
 post.setHeader("Content-Type", "application/json");    
 // I'm using http client with ThreadSafeClientConnManager
 // total conn = 500,  max conn per route = 100, timeout=500millis
 HttpClient httpClient = httpClientFactory.getHttpClient();
    try {
        post.setEntity(new StringEntity(jsobBidRequest));
        HttpResponse response = httpClient.execute(post);
        ...
    catch (NoHttpResponseException e){
        log.error(e);
    }

我正在运行具有 50 个并发线程（没有循环）的 Jmetter，并得到很多这样的异常：

org.apache.http.NoHttpResponseException The target server failed to respond

虽然我只运行 5 或 10 个并发线程，但一切正常。

您能告诉我我的设置有什么问题吗？据我了解，我没有看到 50 个并发线程请求有任何错误。

【问题讨论】：

标签： java tomcat httpclient

【解决方案1】：

我找到了问题的根本原因。

由于某种原因，连接变得无效并且池不知道它。

在这种情况下，NoHttpResponseException 被抛出，请求就失败了。我认为此类问题应该在 HTTP 客户端池层中解决，并对我的代码透明，但这并不是它的行为。

为了解决这个问题，HTTP 客户端中的HttpRequestRetryHandler 应该被覆盖：

ThreadSafeClientConnManager cm = new ThreadSafeClientConnManager(schemeRegistry);
...
DefaultHttpClient httpClient = new DefaultHttpClient(cm, params);
httpClient.setHttpRequestRetryHandler(new HttpRequestRetryHandler() {
    @Override
    public boolean retryRequest(IOException exception, int executionCount, 
                                HttpContext context) {
        if (executionCount > 3) {
           LOGGER.warn("Maximum tries reached for client http pool ");
                return false;
        }
        if (exception instanceof org.apache.http.NoHttpResponseException) {
            LOGGER.warn("No response from server on " + executionCount + " call");
            return true;
        }
        return false;
      }
   });

【讨论】：

朱莉娅，这很有帮助！非常感谢您发布您的解决方案。这正是我想要的。
您的解决方案也帮助了我。就我而言，NoHttpResponseException 仅在我激活防病毒软件时偶尔发生。每次发送http请求时杀毒都会进行一些扫描，偶尔会稍微长一点，导致请求失败。
@Seigo - 我知道这是一个旧线程，但是您是否有一个 executionTimeout 导致请求失败？什么设置导致请求失败？
@AndyDufresne，我正在为 Windows 开发一个桌面应用程序，但由于防病毒软件的某些验证，一些用户的第一个请求总是失败。添加RetryHandler后，我的诊断得到了确认。已经很久了，这就是我现在记得的，希望它有所帮助。
这个解决方案对我有用，但 imo 你应该使用 new StandardHttpRequestRetryHandler(3, true) 而不是你自己实现的重试处理程序。 StandardHttpRequestRetryHandler 只会重试那些 http 方法是幂等的调用

【解决方案2】：

此解决方案适用于 HttpClient 4.5 及更高版本。 DefaultHttpClient 已弃用。

HttpClientBuilder clientBuilder = HttpClients.custom();
clientBuilder.setRetryHandler(new DefaultHttpRequestRetryHandler(3, false));

【讨论】：

它只对get、head等有用……幂等请求。发帖，删除不行。

【解决方案3】：

我在https://issues.apache.org/jira/browse/HTTPCLIENT-1610 记录的缺陷中发表了评论。如您所见，一旦我将不活动的 http 连接验证前重用时间从默认的 2000 毫秒减少到 100 毫秒，我就看不到任何 NoHttpResponseException 了。我没有测试找出阈值是多少在我的环境中使用陈旧的连接无效，但 100 毫秒在我的环境中绝对足够短。

【讨论】：