【问题标题】:How a HDFS directory by year month and day is created?如何按年月日创建 HDFS 目录?
【发布时间】:2021-04-16 13:12:21
【问题描述】:

Following the question in this link,还有一个关于在Hadoop HDFS上创建目录的问题。

我是 Hadoop/Flume 的新手,我选择了一个使用 Flume 将 csv 数据保存到 HDFS 的项目。 Flume sink 的设置如下:

contract-snapshot.sinks.hdfs-sink-contract-snapshot.hdfs.path = /dev/wimp/contract-snapshot/year=%Y/month=%n/day=%e/snapshottime=%k%M

通过这个 Flume 设置,对应的 csv 文件将被保存到 HDFS 的文件夹下:

"/wimp/contract-snapshot/year=2020/month=6/day=10/snapshottime=1055/contract-snapshot.1591779548475.csv"

我正在尝试在本地设置整个系统,我在我的 Windows 电脑上本地安装了 hadoop,如何创建一个目录“/wimp/contract-snapshot/year=2020/month=6/day=10/ snapshottime=1055/" 在本地 hdfs 上?

在cmd终端,代码:

hadoop fs -mkdir /wimp/contract-snapshot

可以创建文件夹/wimp/contract-snapshot。但是以下代码在 cmd 终端中不起作用

hadoop fs -mkdir /wimp/contract-snapshot/year=2020

如何按年、月、日创建hdfs目录?

【问题讨论】:

    标签: csv hadoop hive hdfs flume


    【解决方案1】:

    hadoop fs -mkdir "/wimp/contract-snapshot/year=2020"

    加引号解决问题。

    【讨论】:

      猜你喜欢
      • 2015-10-10
      • 1970-01-01
      • 1970-01-01
      • 2014-05-14
      • 1970-01-01
      • 2011-09-11
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多