【问题标题】:Apache Derby Application with large csv files带有大型 csv 文件的 Apache Derby 应用程序
【发布时间】:2013-01-16 14:31:22
【问题描述】:

我正在设计一个数据管理器,用于汇总从自主水下航行器收集的大型 CSV 文件。时间分辨率非常好,因此这些文件在长时间运行时会变得非常大。它收集了很多参数,俯仰、滚动、高度等。我正在研究为此使用嵌入式 Apache Derby 数据库。我已经看到 derby 确实可以批量导入 CSV 文件,但是导入的大小可能会有一些限制。

我的问题是,嵌入式数据库是否非常适合此应用程序?如果是这样,在为这种特定类型的数据创建表时应该考虑什么。我在数据库方面的经验仅限于 Web 应用程序的少量持久数据的反应性。

这是我正在处理的数据类型的示例。它们通常被拆分为多个文件,以供单次运行,每个文件大约 10,000 行,最多 80 列。

【问题讨论】:

    标签: database csv derby


    【解决方案1】:

    我不太确定您的问题是什么,但过去我已将 CSV 文件导入 Derby,在 CSV 文件中包含超过 200,000 行,没有任何问题。

    【讨论】:

    • 谢谢。如果您查看图像链接,您可以看到我正在使用的数据类型。这个想法是存储大量此类数据,并能够获取时间框架并绘制它。我只是不确定组织此类数据的最佳方法。我想一个解决方案是为每次运行创建一个表,并且行可以是每次轮询传感器(毫秒分辨率)。
    猜你喜欢
    • 2019-02-27
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2015-03-28
    • 1970-01-01
    相关资源
    最近更新 更多