【发布时间】:2021-04-16 13:12:21
【问题描述】:
Following the question in this link,还有一个关于在Hadoop HDFS上创建目录的问题。
我是 Hadoop/Flume 的新手,我选择了一个使用 Flume 将 csv 数据保存到 HDFS 的项目。 Flume sink 的设置如下:
contract-snapshot.sinks.hdfs-sink-contract-snapshot.hdfs.path = /dev/wimp/contract-snapshot/year=%Y/month=%n/day=%e/snapshottime=%k%M
通过这个 Flume 设置,对应的 csv 文件将被保存到 HDFS 的文件夹下:
"/wimp/contract-snapshot/year=2020/month=6/day=10/snapshottime=1055/contract-snapshot.1591779548475.csv"
我正在尝试在本地设置整个系统,我在我的 Windows 电脑上本地安装了 hadoop,如何创建一个目录“/wimp/contract-snapshot/year=2020/month=6/day=10/ snapshottime=1055/" 在本地 hdfs 上?
在cmd终端,代码:
hadoop fs -mkdir /wimp/contract-snapshot
可以创建文件夹/wimp/contract-snapshot。但是以下代码在 cmd 终端中不起作用
hadoop fs -mkdir /wimp/contract-snapshot/year=2020
如何按年、月、日创建hdfs目录?
【问题讨论】:
标签: csv hadoop hive hdfs flume