【发布时间】:2012-11-08 23:17:42
【问题描述】:
我是一名学生,正在进行一些涉及数据挖掘的研究。我有几个志愿者“节点”服务器,它们收集并生成 SQL 文件,供我在我的服务器上导入和分析。
问题是,这些文件非常大,我需要一种快速导入它们的方法。网络最近扩展了,现在硬盘驱动器上没有足够的吞吐量让 MySQL 控制台在它们进入时导入它们。时间很重要——研究有一个截止日期,我想事先尽可能多地积极聚集,不要有等待插入的队列。
我想知道是否有更好的方法来导入非常大的文件 - 每个文件的重量约为 100 MB。我试过 "\.myfile.sql"" 但这太慢了。PHPMyAdmin 不会接受那么大的文件。
有什么想法吗?谢谢!
【问题讨论】:
-
你能用mysqlimport吗?
-
@PinnyM 因为我得到 Connor Peet 处理 SQL 文件,不是吗?所以
mysqlimport会在这里多一些 -
选择 CLI 客户端选项而不是 PHPMyAdmin。但是物理服务器的限制当然适用,调整 MySQL 配置以获得最佳吞吐量可能更适合 serverfault.com
-
如果您可以访问您的配置文件,请尝试访问:daipratt.co.uk/importing-large-files-into-mysql-with-phpmyadmin。
-
这能回答你的问题吗? MySQL Large Table Import