为 websocket 应用程序提供更好的 AWS 自动缩放和负载平衡策略

Question

我们正在构建在 Amazon 中运行的可扩展 websocket 云服务。我正在寻找更好的自动缩放和负载平衡策略来与我们的 websocket API 实例一起使用。

目前我们的自动缩放策略只是基于 CPU 使用率，例如“当平均 CPU > 80% - 启动更多实例，当 CPU

任何人都可以分享经验或推荐一些关于在 AWS 中运行可扩展 websocket 应用程序的最佳实践的好读物吗？

Answer 1

关于连接共享，我建议你阅读best practices doc 的第 9 页。希望对您有所帮助。

Answer 2

如果不收集更多信息，任何人都不容易回答。 本质上，您要问的是，是在云中进行规模设计的基础。

您的问题的答案是，收集更多数据。

我知道这可能会惹恼您，这不仅仅是一个答案，但我向您保证，这是您将在这里得到的最佳答案。 您的解决方案的有效性将取决于您收集更多数据的能力。 但是，嘿！这个行业最好的一点是，所有准确的数据都在那里，如果你慢慢来，就没有猜测工作了。

回去收集：

• 有关使用何种工作负载的信息，只是批处理 喜欢加工？还是大量的GETS或一般数据流？ 读/写？
• 什么是用户行为？
• 从数据的角度来看，典型的用户是什么样子的，画我们 一张照片。
• 哪些用例最常在您的应用程序中执行？
• 依赖于你的webservice层，收集所有的httpd日志
• 将此与 cloudwatch/aws 日志记录相关联
  • 结合所有基础架构日志、应用程序、系统、事件日志
  • 寻找模式，模式识别是我们最擅长的，确定足够的模式，您将开发出更好的系统。