【问题标题】:IoT Streaming Architecture [closed]物联网流式架构[关闭]
【发布时间】:2016-05-31 12:16:46
【问题描述】:

我刚开始学习物联网和数据流。如果这个问题看起来太明显或太笼统,我们深表歉意。

我正在开展一个学校项目,该项目涉及来自数百个(可能是数千个)物联网传感器的流数据,将所述数据存储在数据库中,然后检索该数据以显示在基于 Web 的 UI 上。

需要注意的是:

  1. 容错和接受不完整数据输入的能力
  2. 数据库必须具备按流加载和查询数据的能力


我在 Google 上查看了有关如何构建可以支持这些要求的架构的一些想法。这是我的想法:

  1. 传感器数据由 FluentD 收集并转换为流
  2. Apache Spark 管理 MongoDB 服务器集群
        MongoDB 服务器连接到同一个存储
         b. Spark 将处理 MongoDB 服务器之间的容错和负载平衡
  3. BigQuery 将用于处理来自 UI/Web 应用程序的查询。

我目前对 IoT 流式架构的想法:
现在的问题是这种架构是否可行,或者它是否可以工作。我愿意接受任何想法和建议。

提前致谢!

【问题讨论】:

  • 当然,试试看。为什么在这里需要批准?你是学生。这才是真正的学习。
  • 好吧,尝试一切。你会学会所有的,你会明白的。毕竟你是学生。在 SO 中,我们提出有关具体问题的问题,而不是征求意见。你可以在谷歌上搜索这些不同的技术并坚持使用其中一种。

标签: mongodb apache-spark google-bigquery iot fluentd


【解决方案1】:

请注意,您可以将设备数据直接流式传输到 BigQuery 并避免中间缓冲步骤。

见: https://cloud.google.com/bigquery/streaming-data-into-bigquery

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2017-05-17
    • 2014-10-30
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多