有时无法使用火花打开本机连接

Question

我正在使用 Spark 1.4 版和 Cassandra 2.18 运行 Spark 作业。我从 master 远程登录，它适用于 cassandra 机器。有时工作运行良好，有时我得到以下异常。为什么这种情况只是偶尔发生？

“线程“主”org.apache.spark.SparkException 中的异常：作业因阶段失败而中止：阶段 0.0 中的任务 0 失败 4 次，最近一次失败：阶段 0.0 中丢失任务 0.3 (TID 7, 172.28. 0.162): java.io.IOException: 无法在 {172.28.0.164}:9042 打开到 Cassandra 的本机连接 在 com.datastax.spark.connector.cql.CassandraConnector$.com$datastax$spark$connector$cql$CassandraConnector$$createSession(CassandraConnector.scala:155) "

它有时也会给我这个例外以及上面的例外：

原因：com.datastax.driver.core.exceptions.NoHostAvailableException：所有主机尝试查询失败（尝试：/172.28.0.164:9042（com.datastax.driver.core.TransportException：[/172.28 .0.164:9042] 连接已关闭））

Answer 1

这周我在将 Python spark 移植到 Java Spark 时多次遇到第二个错误“NoHostAvailableException”。

我遇到了驱动线程几乎耗尽内存的问题，并且 GC 占用了我的所有内核（所有 8 个内核的 98%），一直暂停 JVM。

在 python 中，当这种情况发生时（对我来说）更加明显，所以我花了一些时间才意识到发生了什么，所以我多次遇到这个错误。

我有两个关于根本原因的理论，但解决方案不是让 GC 发疯。

1. 第一个理论是，因为它经常暂停，我就是无法连接到 Cassandra。
2. 第二种理论：Cassandra 与 Spark 在同一台机器上运行，并且 JVM 占用了所有 CPU 的 100%，因此 Cassandra 无法及时响应，并且它看起来像没有 Cassandra 主机一样的驱动程序。

希望这会有所帮助！