【发布时间】:2012-08-15 23:16:09
【问题描述】:
我需要以 CSV 格式转储 MySQL 中的所有表。
是否有使用mysqldump 的命令仅 以 CSV 格式输出每个表格的每一行?
【问题讨论】:
-
您可以使用
mysql.exe程序执行此操作,尝试 SELECT * FROM table INTO OUTFILE 'file_name'。但是你应该手动指定每个表。
我需要以 CSV 格式转储 MySQL 中的所有表。
是否有使用mysqldump 的命令仅 以 CSV 格式输出每个表格的每一行?
【问题讨论】:
mysql.exe 程序执行此操作,尝试 SELECT * FROM table INTO OUTFILE 'file_name'。但是你应该手动指定每个表。
首先,我可以给你一个表的答案:
所有这些INTO OUTFILE 或--tab=tmpfile(和-T/path/to/directory)答案的问题在于它需要在与 MySQL 服务器相同的服务器上运行 mysqldump ,并拥有这些访问权限。
我的解决方案是简单地使用 mysql (not mysqldump) 和 -B 参数,使用 -e 内联 SELECT 语句,然后使用 sed 按摩 ASCII 输出,并以包含标题字段行的 CSV 结束:
例子:
mysql -B -u username -p password database -h dbhost -e "SELECT * FROM accounts;" \
| sed "s/\"/\"\"/g;s/'/\'/;s/\t/\",\"/g;s/^/\"/;s/$/\"/;s/\n//g"
"id","登录名","密码","文件夹","电子邮件" "8","玛丽安娜","xxxxxxxxxx","玛丽安娜","" "3","squaredesign","xxxxxxxxxxxxxxxxx","squaredesign","mkobylecki@squaredesign.com" "4","miedziak","xxxxxxxxxx","miedziak","miedziak@mail.com" "5","萨科","xxxxxxxxx","萨科","" "6","罗技 波兰","xxxxxxxxxxxxxx","LogitransPoland","" "7","阿莫斯","xxxxxxxxxxxxxxxxxxxx","阿莫斯","" "9","安娜贝尔","xxxxxxxxxxxxxxxx","安娜贝尔","" “11”,“品牌之父和 儿子","xxxxxxxxxxxxxxxxx","BrandfathersAndSons","" “12”,“想象一下 组","xxxxxxxxxxxxxxxx","ImagineGroup","" "13","EduSquare.pl","xxxxxxxxxxxxxxxxx","EduSquare.pl","" "101","tmp","xxxxxxxxxxxxxxxxxxxxx","_","WOBC-14.squaredesign.atlassian.net@yoMama.com"
在该单行代码的末尾添加一个> outfile.csv,以获取该表的 CSV 文件。
接下来,获取所有您的表的列表
mysql -u username -ppassword dbname -sN -e "SHOW TABLES;"
从那里开始,只需再执行一步即可创建循环,例如,在 Bash shell 中迭代这些表:
for tb in $(mysql -u username -ppassword dbname -sN -e "SHOW TABLES;"); do
echo .....;
done
在do 和; done 之间插入我在上面第1 部分中编写的长命令,但用$tb 替换您的表名。
【讨论】:
| sed "s/\"/\"\"/;s/'/\'/;s/\t/\",\"/g;s/^/\"/;s/$/\"/;s/\n//g" (Properly escape a double quote in CSV)
| sed "s/\"/\"\"/g;s/'/\'/;s/\t/\",\"/g;s/^/\"/;s/$/\"/;s/\n//g" ,添加 g 选项以使输入中的每个 " 加倍?Ruby CSV 期望这样的约定。
此命令将在 /path/to/directory table_name.sql 和 table_name.txt 中创建两个文件。
SQL 文件将包含表创建模式,而 txt 文件将包含 mytable 表的记录,其中字段由逗号分隔。
mysqldump -u username -p -t -T/path/to/directory dbname table_name --fields-terminated-by=','
【讨论】:
SHOW VARIABLES LIKE "secure_file_priv"; 并在您的 mysqldump 命令中使用您被告知的文件夹作为输出文件夹,如果您无法重新启动 mysql 服务器。
如果您使用 MySQL 或 MariaDB,最简单且高效的方式为单个表转储 CSV 是 -
SELECT customer_id, firstname, surname INTO OUTFILE '/exportdata/customers.txt'
FIELDS TERMINATED BY ',' OPTIONALLY ENCLOSED BY '"'
LINES TERMINATED BY '\n'
FROM customers;
现在您可以使用其他技术对多个表重复此命令。在此处查看更多详细信息:
【讨论】:
mysqldump 具有 CSV 格式选项:
--fields-terminated-by=name
Fields in the output file are terminated by the given
--lines-terminated-by=name
Lines in the output file are terminated by the given
name 应包含以下内容之一:
`--fields-terminated-by`
\t 或 "\""
`--fields-enclosed-by=name`
Fields in the output file are enclosed by the given
和
--lines-terminated-by
\r\n\r\n当然,您应该单独对每个表进行 mysqldump。
我建议您将所有表名收集在一个文本文件中。然后,遍历所有运行 mysqldump 的表。这是一个脚本,可以一次转储和 gzip 10 个表:
MYSQL_USER=root
MYSQL_PASS=rootpassword
MYSQL_CONN="-u${MYSQL_USER} -p${MYSQL_PASS}"
SQLSTMT="SELECT CONCAT(table_schema,'.',table_name)"
SQLSTMT="${SQLSTMT} FROM information_schema.tables WHERE table_schema NOT IN "
SQLSTMT="${SQLSTMT} ('information_schema','performance_schema','mysql')"
mysql ${MYSQL_CONN} -ANe"${SQLSTMT}" > /tmp/DBTB.txt
COMMIT_COUNT=0
COMMIT_LIMIT=10
TARGET_FOLDER=/path/to/csv/files
for DBTB in `cat /tmp/DBTB.txt`
do
DB=`echo "${DBTB}" | sed 's/\./ /g' | awk '{print $1}'`
TB=`echo "${DBTB}" | sed 's/\./ /g' | awk '{print $2}'`
DUMPFILE=${DB}-${TB}.csv.gz
mysqldump ${MYSQL_CONN} -T ${TARGET_FOLDER} --fields-terminated-by="," --fields-enclosed-by="\"" --lines-terminated-by="\r\n" ${DB} ${TB} | gzip > ${DUMPFILE}
(( COMMIT_COUNT++ ))
if [ ${COMMIT_COUNT} -eq ${COMMIT_LIMIT} ]
then
COMMIT_COUNT=0
wait
fi
done
if [ ${COMMIT_COUNT} -gt 0 ]
then
wait
fi
【讨论】:
--fields-enclosed-by 中添加了双引号。
mysqldump: You must use option --tab with --fields-...
--tab选项。
这对我很有效:
mysqldump <DBNAME> --fields-terminated-by ',' \
--fields-enclosed-by '"' --fields-escaped-by '\' \
--no-create-info --tab /var/lib/mysql-files/
或者如果你只想转储一个特定的表:
mysqldump <DBNAME> <TABLENAME> --fields-terminated-by ',' \
--fields-enclosed-by '"' --fields-escaped-by '\' \
--no-create-info --tab /var/lib/mysql-files/
我转储到/var/lib/mysql-files/ 以避免此错误:
mysqldump: Got error: 1290: The MySQL server is running with the --secure-file-priv option so it cannot execute this statement when execution 'SELECT INTO OUTFILE'
【讨论】:
看起来其他人也有这个问题,现在there is a simple Python script,用于将 mysqldump 的输出转换为 CSV 文件。
wget https://raw.githubusercontent.com/jamesmishra/mysqldump-to-csv/master/mysqldump_to_csv.py
mysqldump -u username -p --host=rdshostname database table | python mysqldump_to_csv.py > table.csv
【讨论】:
您也可以使用dbForge Studio for MySQL 中的数据导出工具来完成。
它将允许您选择部分或所有表格并将其导出为 CSV 格式。
【讨论】: