【问题标题】:How to store RDS data in S3 in near real-time? (aws dms)如何近乎实时地将 RDS 数据存储在 S3 中? (AWS DMS)
【发布时间】:2020-11-14 00:35:00
【问题描述】:

我的目标是在 S3 上实时存储 RDS 数据。

我找到的是 aws dms 服务,但它的具体工作原理并没有记录,所以我很犹豫是否要介绍它。

  1. 满载如何工作?

我正在考虑的是满载 + CDC。但是,我不知道满载是如何工作的。 只是select * from table吗?

我想知道当前通过满负荷运行的服务器是否有任何问题。

例如,由于select导致表锁,导致死锁。

  1. 已知 CDC 以日志格式存储。

我不知道如何处理此日志以使其进入决赛桌。

最终目标是配置 CDC 日志,以便可以使用转换后的数据从 AWS athena 查询它。

RDS:MariaDB 版本 10.2.21

【问题讨论】:

    标签: amazon-web-services aws-dms amazon-dms


    【解决方案1】:

    我建议使用 aws 数据管道,因为您可以将数据导出为 csv 并将其存储到 s3 中

    https://docs.aws.amazon.com/datapipeline/latest/DeveloperGuide/dp-template-copyrdstos3.html

    您可以根据自己的要求安排工作:

    https://docs.aws.amazon.com/datapipeline/latest/DeveloperGuide/dp-object-schedule.html

    【讨论】:

    • 感谢您的回答。但我所在地区不支持数据管道
    猜你喜欢
    • 2022-10-25
    • 2021-08-30
    • 2022-11-25
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2022-12-20
    • 2021-10-15
    • 1970-01-01
    相关资源
    最近更新 更多