【发布时间】:2013-04-09 17:40:46
【问题描述】:
我在一个制表符分隔的文件中有 1800 列和大约 400 万行。我正在尝试将其加载为 mysql 关系。 Mysql 给我ERROR 1117 (HY0000): Too many columns。
我在网上查了一下,发现 MySQL 无法处理这么大的数据,有人建议将表垂直分区。
我正在寻找的是有关如何对此进行分区以及如何对分区表执行选择查询的示例。
谢谢
【问题讨论】:
-
如果你有 1800 列,你可能想要标准化一点。
-
1800 列是相当...疯狂。
-
为什么需要这么多列?你能描述一下这些列是什么吗?
-
我会拨打 1-800-NORMALIZE
-
@user1140126 - 即使您需要所有这些数据,您也不必将它们保存为单个表的列。例如,如果其中一些字段代表测试结果,您可以创建
tests表并将它们全部放在那里。你可以更进一步,将tests拆分成test_types和test_results,以此类推。
标签: mysql sql partitioning bigdata