【发布时间】:2011-06-08 07:01:21
【问题描述】:
我想知道是否有一种数据结构经过优化,可以针对以数据库表格格式存储的数据计算频率。例如,以下数据采用(逗号)分隔格式。
col1, col2, col3
x, a, green
x, b, blue
...
y, c, green
现在我只想计算 col1=x 或 col1=x 和 col2=green 的频率。我一直将数据存储在数据库表中,但在我的分析和经验观察中,数据库连接是瓶颈。我也尝试过使用内存数据库解决方案,效果很好;唯一的问题是内存需求和古怪的 init/destroy 调用。
另外,我主要使用 java,但有使用 .net 的经验,并且想知道是否有任何 api 可以使用 java 以 linq 方式处理“表格”数据。
感谢任何帮助。
【问题讨论】:
-
你是如何使用数据库的?通过正确的查询,数据库应该可以很好地满足您正在做的事情......
-
我只是创建了一个数据库表。我知道有一些方法可以优化查询(即使用索引),但它们因数据库而异。此外,无法知道要创建哪些索引(在哪些列或列组合上),因为在运行时,算法会确定哪些列是相关的。此外,该程序接受任何表格数据集作为输入,因此我在运行时创建数据库表。
标签: java data-structures data-mining