【问题标题】:Is it possible to create a AWS glue classifier which can convert the csv file to pipe delimited是否可以创建一个可以将 csv 文件转换为管道分隔的 AWS 胶水分类器
【发布时间】:2018-09-12 05:20:14
【问题描述】:

我想将每月供稿转换为使用 AWS Glue Crawler 将 csv 转换为管道分隔。是否可以创建一个分类器,可以将 csv 文件转换为管道分隔符(使用 Grok 或其他东西),并且每月计划的爬虫可以创建 Glue 目录

【问题讨论】:

    标签: amazon-web-services grok aws-glue


    【解决方案1】:

    Glue Crawler 用于使用表填充 AWS Glue 数据目录,因此您无法仅使用此功能将文件从 csv 格式转换为管道分隔符。正确的步骤应该是这样的:

    1. 在 Glue 数据目录中创建两个表。一种用于 CSV 格式的文件,一种用于管道分隔格式。要对源表进行编目,您可以使用 Glue Crawler。
    2. 创建粘合作业以在这些表之间传输数据。

    本文并未完全提及您的问题,但您可以查看这些提到的步骤的外观:

    https://aws.amazon.com/blogs/big-data/build-a-data-lake-foundation-with-aws-glue-and-amazon-s3/

    您在 Glue 控制台中也有教程(在左侧菜单的底部)

    【讨论】:

      猜你喜欢
      • 2020-03-25
      • 1970-01-01
      • 2012-09-18
      • 2023-03-15
      • 1970-01-01
      • 2018-01-19
      • 1970-01-01
      • 2013-10-04
      • 2021-10-26
      相关资源
      最近更新 更多