【发布时间】:2021-09-23 11:07:13
【问题描述】:
如何对数据块中的传入文件进行审计检查。 希望 python 代码进行零字节检查(应该检查文件是否有数据),如果文件有数据,那么它应该继续该过程,否则它应该停止该过程并发送电子邮件。
【问题讨论】:
标签: python pyspark databricks
如何对数据块中的传入文件进行审计检查。 希望 python 代码进行零字节检查(应该检查文件是否有数据),如果文件有数据,那么它应该继续该过程,否则它应该停止该过程并发送电子邮件。
【问题讨论】:
标签: python pyspark databricks
Databricks 有dbutils.fs,它返回目录中的文件列表,包括文件大小。您可以使用该信息来检查每个用例。
【讨论】: