【发布时间】:2021-10-10 23:52:52
【问题描述】:
尝试使用 S3 为 .csv.gz 格式的文件构建数据湖,然后在 AWS 环境本身中进一步清理/处理数据。 首先使用 AWS Glue 创建数据目录\(爬虫能够识别所有表)。 目录中的表在 AWS Athena 中也可用,但是当我尝试从表中运行 Select * 时,它给了我以下错误。
使用 org.apache.hadoop.mapred.TextInputFormat 打开 Hive 拆分 s3://BUCKET_NAME/HEADER FOLDER/FILENAME.csv.gz(偏移量=0,长度=44354)时出错:S3 路径上的权限被拒绝: 3://BUCKET_NAME/HEADER FOLDER/FILENAME.csv.gz.
可能是该文件是 CSV.GZ 格式,这就是为什么它无法按原样访问,还是我需要为用户或角色授予对这些文件的特定访问权限?
【问题讨论】:
标签: amazon-s3 gzip amazon-iam amazon-athena