【问题标题】:Spring-Boot + Camel + producerTemplate = thousands of threadsSpring-Boot + Camel + producerTemplate = 千线程
【发布时间】:2015-11-12 12:37:28
【问题描述】:

---更新---
事实证明,堆在一段时间后会被清空。然而,线程的数量只是无止境地增长。在具有 8Gb RAM 的 Mac 上我很好,但在具有 1Gb 的生产机器上我得到:

线程“Thread-341”java.lang.OutOfMemoryError 中的异常:无法创建新的本机线程


我确实使用 Spring Boot (1.2.7.RELEASE) 和 Apache Camel (2.15.0) 编写了一个简单的应用程序。该应用程序很简单,只有 1 条路由:计时器每 1 秒调用一次 bean 上的方法。调用的方法将使用ProducerTemplate ssh 进入远程机器,执行一个小脚本,并将输出打印到控制台。很简单吧?
但是,在对此进行分析时,我可以看到线程数,并且堆通过屋顶!似乎为 ssh 创建的任何线程都不会被杀死,而是被停放。因此,我运行 OOM 的速度非常快。
让我向您展示一些分析器输出:

正如您所见,线程/堆的上升速度非常快。 应用程序代码很少,所以我将在此处提供所有内容以供参考。
pom.xml:

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>

    <groupId>tests</groupId>
    <artifactId>camel-producer-template-testing</artifactId>
    <version>1.0-SNAPSHOT</version>

    <properties>
        <start-class>app.Application</start-class>
        <camel.version>2.15.0</camel.version>
        <spring-boot.version>1.2.7.RELEASE</spring-boot.version>
    </properties>

    <dependencies>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>

        <dependency>
            <groupId>org.apache.camel</groupId>
            <artifactId>camel-core</artifactId>
            <version>${camel.version}</version>
        </dependency>
        <dependency>
            <groupId>org.apache.camel</groupId>
            <artifactId>camel-spring</artifactId>
            <version>${camel.version}</version>
        </dependency>
        <dependency>
            <groupId>org.apache.camel</groupId>
            <artifactId>camel-spring-boot</artifactId>
            <version>${camel.version}</version>
        </dependency>
        <dependency>
            <groupId>org.apache.camel</groupId>
            <artifactId>camel-ftp</artifactId>
            <version>${camel.version}</version>
        </dependency>
        <dependency>
            <groupId>org.apache.camel</groupId>
            <artifactId>camel-ssh</artifactId>
            <version>${camel.version}</version>
        </dependency>
    </dependencies>

    <dependencyManagement>
        <dependencies>
            <dependency>
                <!-- Import dependency management from Spring Boot -->
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-dependencies</artifactId>
                <version>${spring-boot.version}</version>
                <type>pom</type>
                <scope>import</scope>
            </dependency>
        </dependencies>
    </dependencyManagement>

    <build>
        <finalName>${project.artifactId}-${project.version}</finalName>
        <plugins>
            <plugin>
                <groupId>org.apache.maven.plugins</groupId>
                <artifactId>maven-compiler-plugin</artifactId>
                <version>3.2</version>
                <configuration>
                    <source>1.8</source>
                    <target>1.8</target>
                </configuration>
            </plugin>
            <plugin>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-maven-plugin</artifactId>
                <version>${spring-boot.version}</version>
                <executions>
                    <execution>
                        <goals>
                            <goal>repackage</goal>
                        </goals>
                    </execution>
                </executions>
            </plugin>
        </plugins>
    </build>

</project>

Application.java:

import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.EnableAutoConfiguration;
import org.springframework.context.annotation.ComponentScan;
import org.springframework.context.annotation.Configuration;

import java.util.TimeZone;

@Configuration
@EnableAutoConfiguration
@ComponentScan
public class Application {
    public static void main(String[] args) {
        TimeZone.setDefault(TimeZone.getTimeZone("UTC"));
        SpringApplication application = new SpringApplication(Application.class);
        application.run(args);
    }
}

MyAppContext.java:

import org.apache.camel.CamelContext;
import org.apache.camel.RoutesBuilder;
import org.apache.camel.builder.RouteBuilder;
import org.apache.camel.spring.SpringCamelContext;
import org.apache.sshd.common.keyprovider.FileKeyPairProvider;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.context.ApplicationContext;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.context.annotation.PropertySource;

@Configuration
@PropertySource("application.properties")
public class MyAppContext {

    private final String sshKeyPath = "/Users/gruszd/.ssh/id_rsa";

    @Autowired
    private ApplicationContext applicationContext;

    @Bean
    public CamelContext camelContext() {
        return new SpringCamelContext(applicationContext);
    }

    @Bean
    FileKeyPairProvider keyPairProvider() {
        return new FileKeyPairProvider(new String[]{sshKeyPath});
    }

    @Bean
    RoutesBuilder myRouter() {
        return new RouteBuilder() {
            @Override
            public void configure() throws Exception {
                from("timer://foo?period=1000").to("bean:sftpStager?method=stage");
            }
        };
    }
}

SftpStager.java:

import org.apache.camel.ProducerTemplate;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Component;

@Component
public class SftpStager {

    @Autowired
    private ProducerTemplate producerTemplate;

    public void stage() throws Exception {
        String response = producerTemplate.requestBody(
                "ssh://_remote.machine.url.here_?username=_username_&keyPairProvider=#keyPairProvider",
                "/home/_username_/some_temp_script.sh",
                String.class);
        System.out.println("----");
        System.out.println(response);
        System.out.println("----");
    }
}

正如您所见,该应用程序非常小,并且可以正常工作(我可以在运行该应用程序的控制台中看到远程脚本的输出)。但就像我说的,它会像新鲜饼干一样消耗记忆!
现在我确实阅读了 this 。但是,在我的应用程序中,ProducerTemplate 是由 Camelcontext 本身实例化的 bean。因此我不能producerTemplate.stop() 因为下一个触发器会抛出一个异常,说模板没有启动...
所以我的主要问题是:我是否以错误的方式使用ProducerTemplate?如果我这样做了,我应该如何使用它?
如果我没有做错任何事,那是错误吗?我应该举报吗?

【问题讨论】:

  • 您能否尝试使用最新发布的 Camel 2.15.4 版本执行相同的测试?只是为了继续与同一个未成年人打交道。
  • 最新Camel的情况完全一样。运行 3 分钟后,我有将近 2000 个线程坐在那里......
  • 愚蠢的问题:你为什么要使用 ProducerTemplate?只需从("timer://foo?period=1000").setBody(simple("/home/_username_/some_temp_script.sh")).to("ssh://_remote.machine.url.这里_?username=_username_&keyPairProvider=#keyPairProvider").log(...)
  • 我展示的示例是非常简化的场景。实际上,我正在生成 url,用户名是根据其他一些事情等动态选择的。此外,根据 spring 配置文件,我可能会加载 bean 的不同实现等。

标签: spring ssh memory-leaks spring-boot apache-camel


【解决方案1】:

如原海报所述:

原来这是 Apache Camel 本身的一个错误,应该 [并且已经] 在 2.16.2 中修复:Jira Issue here

【讨论】:

    【解决方案2】:

    您必须停止/清除 producerTemplate 的状态。

    有像 producerTemplate.stop() 这样的内置方法,或者在您的情况下,由于您已经自动装配了 Producer 模板,您可以尝试 producerTemplate.cleanUp()

    【讨论】:

      猜你喜欢
      • 2018-07-23
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2018-01-17
      • 2017-02-26
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多