JavaMail (SMTPS) + Grizzly，握手失败答案

【问题标题】：JavaMail (SMTPS) + Grizzly, handshake failureJavaMail (SMTPS) + Grizzly，握手失败
【发布时间】：2014-12-01 22:06:16
【问题描述】：

我目前正在尝试测试我自己在 Grizzly 框架之上制作的 SMTP 服务器实现，现在在 JavaMail 的帮助下检查 SMTPS 支持时遇到了握手问题。
我发现similar problem 与握手但希望（或不适合我）我不为 Grizlly SSLEngineConfigurator 使用客户端模式，所以我想问题的根源应该不同。
我的 Grizzly SSL 配置初始化代码（在集成测试中）如下所示：

try (InputStream keystoreStream = TransportEncryptionIT.class.getResourceAsStream("server_keystore.jks")) {
     SSLContextConfigurator sslCon = new SSLContextConfigurator();
     sslCon.setSecurityProtocol("TLSv1.2");
     sslCon.setKeyStoreType("JKS");
     sslCon.setKeyStoreBytes(IOUtils.toByteArray(keystoreStream));
     sslCon.setKeyStorePass("");
     sslConf = new SSLEngineConfigurator(sslCon, false, false, false);
}

我还在 TransportFilter（链中的第一个过滤器）之后立即将 SSLFilter 安装到 FilterChain（使用服务器 SSL 配置）。

filterChainBuilder.add(new SSLFilter(sslConf , null));

并通过以下方式为 SMTPS 配置 javamail：

Properties properties = new Properties();
properties.setProperty("mail.transport.protocol", "smtps");
properties.setProperty("mail.smtps.host", ${host});
properties.setProperty("mail.smtps.port", ${port});
//need this since i'm using self signed certificate which is not added to truststore
properties.setProperty("mail.smtps.ssl.trust", "*");

握手结果（SSL调试服务器）：

[Raw read]: length = 163
0000: 01 00 00 9F 03 01 54 7C   D5 30 98 30 CA 59 39 D7  ......T..0.0.Y9.
0010: B0 4A B6 FC 8F 8D E9 BD   4B 88 D6 BF EE E8 F9 FF  .J......K.......
0020: 8A EB 28 CF 98 AB 00 00   38 C0 0A C0 14 00 35 C0  ..(.....8.....5.
0030: 05 C0 0F 00 39 00 38 C0   09 C0 13 00 2F C0 04 C0  ....9.8...../...
0040: 0E 00 33 00 32 C0 07 C0   11 00 05 C0 02 C0 0C C0  ..3.2...........
0050: 08 C0 12 00 0A C0 03 C0   0D 00 16 00 13 00 04 00  ................
0060: FF 01 00 00 3E 00 0A 00   34 00 32 00 17 00 01 00  ....>...4.2.....
0070: 03 00 13 00 15 00 06 00   07 00 09 00 0A 00 18 00  ................
0080: 0B 00 0C 00 19 00 0D 00   0E 00 0F 00 10 00 11 00  ................
0090: 02 00 12 00 04 00 05 00   14 00 08 00 16 00 0B 00  ................
00A0: 02 01 00                                           ...
Grizzly-worker(1), READ: TLSv1 Handshake, length = 163
Grizzly-worker(2), fatal error: 80: problem unwrapping net record
javax.net.ssl.SSLProtocolException: Handshake message sequence violation, 1
Grizzly-worker(2), SEND TLSv1.2 ALERT:  fatal, description = internal_error
Grizzly-worker(2), WRITE: TLSv1.2 Alert, length = 2

握手结果（SSL调试客户端）：

[Raw read]: length = 249
0000: 01 00 00 F5 03 03 54 7C   D5 30 6E 1C E7 B3 36 DE  ......T..0n...6.
0010: A6 26 73 78 2B 66 D1 D1   E8 C4 94 CA 63 34 22 BF  .&sx+f......c4".
0020: 60 9D 13 03 59 1F 00 00   70 C0 24 C0 28 00 3D C0  `...Y...p.$.(.=.
0030: 26 C0 2A 00 6B 00 6A C0   0A C0 14 00 35 C0 05 C0  &.*.k.j.....5...
0040: 0F 00 39 00 38 C0 23 C0   27 00 3C C0 25 C0 29 00  ..9.8.#.'.<.%.).
0050: 67 00 40 C0 09 C0 13 00   2F C0 04 C0 0E 00 33 00  g.@...../.....3.
0060: 32 C0 07 C0 11 00 05 C0   02 C0 0C C0 2C C0 2B C0  2...........,.+.
0070: 30 00 9D C0 2E C0 32 00   9F 00 A3 C0 2F 00 9C C0  0.....2...../...
0080: 2D C0 31 00 9E 00 A2 C0   08 C0 12 00 0A C0 03 C0  -.1.............
0090: 0D 00 16 00 13 00 04 00   FF 01 00 00 5C 00 0A 00  ............\...
00A0: 34 00 32 00 17 00 01 00   03 00 13 00 15 00 06 00  4.2.............
00B0: 07 00 09 00 0A 00 18 00   0B 00 0C 00 19 00 0D 00  ................
00C0: 0E 00 0F 00 10 00 11 00   02 00 12 00 04 00 05 00  ................
00D0: 14 00 08 00 16 00 0B 00   02 01 00 00 0D 00 1A 00  ................
00E0: 18 06 03 06 01 05 03 05   01 04 03 04 01 03 03 03  ................
00F0: 01 02 03 02 01 02 02 01   01                       .........
main, READ: TLSv1.2 Handshake, length = 249
main, handling exception: javax.net.ssl.SSLProtocolException: Handshake message sequence     violation, 1
main, SEND TLSv1.2 ALERT:  fatal, description = unexpected_message
main, WRITE: TLSv1.2 Alert, length = 2
[Raw write]: length = 7
0000: 15 03 03 00 02 02 0A                               .......
main, called closeSocket()

对我来说奇怪的是 SMTP + StartTLS 与我的服务器完美配合，握手成功，我通过 ssl 调试检查了这一点。

我不确定的唯一一点是我正在使用未添加到信任库的自行创建的证书。会不会是 java 邮件选项“mail.${protocol}.ssl.trust”适用于 SMTP + StartTLS 但不知何故不适用于 SMTPS？
我还尝试使用MailSSLSocketFactory 强制 javamail 信任服务器证书，但它似乎甚至没有被调用（用调试器检查）。

JavaMail 版本 1.4.7
灰熊 2.3.17

更新

最后我发现源代码的不同之处，似乎与 javamail 无关，而是我使用 Grizzly 框架和将 SSLFilter 安装到 FilterChain。当我将服务器作为 SMTPS 服务器启动时，过滤器的安装方式如下：

    filterChainBuilder.add(new TransportFilter());

    if (configuration.getSslConfig() != null) {
        sslFilter = new SSLFilter(configuration.getSslConfig(), null);
        if (configuration.isSmtpsEnabled()) {
            filterChainBuilder.add(sslFilter);
        }
    }

    smtpLineCodecFilter = new SmtpLineCodecFilter();
    filterChainBuilder.add(smtpLineCodecFilter);

但是对于 StartTLS（因为客户端可能会要求提高传输加密）它以另一种方式完成：

    FilterChain securedFilterChain = new DefaultFilterChain(defaultChain);
    int transportFilterindex = defaultChain.indexOfType(TransportFilter.class);
    // Add connection security layer to the chain
    securedFilterChain.add(transportFilterindex + 1, sslFilter);

这种差异导致要安装不同的过滤器，因此过滤器链如下所示：
在第一种情况下 - SSLBaseFilter.SSLTransportFilterWrapper -> SSLFilter
在第二种情况下 - TransportFilter -> SSLFilter

现在我不确定哪种方法是正确的，但至少第二种情况对我有用。
我非常感谢灰熊大师的回答:)

【问题讨论】：

如果你分享源代码（比如在 github 上）——我可以帮忙
嗨，Alexey，感谢您的回复，我会这样做并在此处发布链接。

标签： ssl jakarta-mail grizzly

【解决方案1】：

您正在为“smtps”协议配置所有内容，但也许您实际上并没有使用 smtps 协议？你是如何连接到服务器的？尝试使用 getTransport("smtps")，如 this JavaMail FAQ entry 中的代码示例。另外，请确保您是not using Session.getDefaultInstance。如果这不起作用，请发布JavaMail debug output。

【讨论】：

嗨，我不使用 Session.getDefaultInstance。我也在使用 mail.transport.protocol=smtps，它等于 .getTransport("smtps")。
无论如何，当我回到家时，我会尝试您的建议并在我的问题中发布更多详细信息。

【解决方案2】：

我终于找到了握手失败的原因。

这完全是关于在 handleAccept 方法中打印 SMTP 服务器横幅。
对于普通的 SMTP 连接和 StartTLS 情况是可以的，因为在客户端建立连接之后没有立即握手。但是对于 SMTPS，它不会以这种方式工作，因为客户端需要服务器 helo 而不是欢迎横幅。
真是愚蠢的错误：/

Link to repository with source code

【讨论】：