【问题标题】:Is there a way to export data from S3 to Amazon Aurora serverless with lambda?有没有办法使用 lambda 将数据从 S3 导出到 Amazon Aurora 无服务器?
【发布时间】:2020-01-16 13:58:02
【问题描述】:

因此,我一直在寻找可以让我将 S3 数据导出到 Aurora Serverless 的解决方案。我知道 LOAD DATA 请求仅适用于 Aurora 集群,而不适用于无服务器集群。 我找到了一些关于从 S3 到 RDS MySQL 的数据注入的文档,但我不知道这是否仍然适用于 Amazon Aurora MySQL。

【问题讨论】:

  • 该解决方案是否需要 lambda,或者这只是实现它的一种方式?
  • 确实需要 lambda

标签: amazon-web-services amazon-s3 aws-lambda aws-aurora-serverless


【解决方案1】:

如果您可以暂时将数据放在 ec2 实例上,您可以分两步完成:

aws s3 cp s3://path/to/mydatafile /local/path/to/mydatafile

mysql --defaults-file=/path/to/.my.cnf -e "load data local infile '/local/path/to/mydatafile' into table sampletable"

参考文献

StackOverflow discussion 加载数据

MySQL "load data" reference

Copying from s3

Using MySQL options files

【讨论】:

  • @Buddha 是的,这适用于 Aurora 无服务器
  • 如果 Aurora 实例的 secure_file_priv 参数处于活动状态,您将要加载的文件放在哪里?
  • 我刚刚在 MySQL 文档上读到了这个(dev.mysql.com/doc/refman/5.7/en/load-data.html):When using LOCAL with LOAD DATA, a copy of the file is created in the directory where the MySQL server stores temporary files
  • @vmaldosan secure_file_priv 参数不适用于 Aurora Serverless(并且不可修改),因为您无法控制底层基础架构或文件系统。
  • 是的,我意识到在我阅读了我粘贴在第二条评论上的句子之后。我现在执行它时遇到的问题是command not found,可能是由于我在整个命令中使用了多行。明天我会粘贴它,以防任何人看到它有什么问题。
猜你喜欢
  • 1970-01-01
  • 1970-01-01
  • 2021-02-22
  • 2015-07-30
  • 2021-10-22
  • 2018-08-31
  • 2010-09-06
  • 1970-01-01
  • 1970-01-01
相关资源
最近更新 更多