【问题标题】:AWS athena giving error when trying to query files in S3 that have already been catalogued in Glue data catalogAWS athena 在尝试查询 S3 中已在 Glue 数据目录中编目的文件时出错
【发布时间】:2021-10-10 23:52:52
【问题描述】:

尝试使用 S3 为 .csv.gz 格式的文件构建数据湖,然后在 AWS 环境本身中进一步清理/处理数据。 首先使用 AWS Glue 创建数据目录\(爬虫能够识别所有表)。 目录中的表在 AWS Athena 中也可用,但是当我尝试从表中运行 Select * 时,它给了我以下错误。

使用 org.apache.hadoop.mapred.TextInputFormat 打开 Hive 拆分 s3://BUCKET_NAME/HEADER FOLDER/FILENAME.csv.gz(偏移量=0,长度=44354)时出错:S3 路径上的权限被拒绝: 3://BUCKET_NAME/HEADER FOLDER/FILENAME.csv.gz.

可能是该文件是 CSV.GZ 格式,这就是为什么它无法按原样访问,还是我需要为用户或角色授予对这些文件的特定访问权限?

【问题讨论】:

    标签: amazon-s3 gzip amazon-iam amazon-athena


    【解决方案1】:

    您需要修复您的权限。该错误表示运行查询的主体(用户/角色)无权读取 S3 上的对象。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2022-06-13
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多