【问题标题】:Read json with glue crawler return UNKNOWN classification用胶水爬虫读取json返回UNKNOWN分类
【发布时间】:2021-07-08 12:11:06
【问题描述】:

我有一个json文件,格式如下

{"result": [{"key1":"value1", "key2":"value2", "key3":"value3"}]}

当我使用爬虫时,创建的表具有分类 UNKOWNN。我做了一些研究,如果您使用 JsonPath $[*] 制作自定义分类器,您应该能够获得整个数组。不幸的是,这不起作用,至少对我来说。我在创建分类器后创建了一个新的爬虫,因为如果使用分类器更新旧的爬虫,它将无法工作。

有没有人遇到过这个问题并可以提供帮助?

【问题讨论】:

    标签: json amazon-web-services aws-glue


    【解决方案1】:

    您的 JSONPath 假设根是一个集合,例如。

    [{"result ..},{}]
    

    由于您的根不是集合,请尝试这样的 JSONPath:

    $.result
    

    假设整个对象是你想要的值,你可能也想做:

    $.result[*]
    

    这会将结果集合中的每个条目作为一个单独的对象。

    【讨论】:

    • 感谢您的回答,@jonlegend。我实际上已经尝试了你的两个建议,但没有运气。我仍然得到未知的分类..
    【解决方案2】:

    我找到了解决方法..

    在我的 python 脚本中,我选择了“结果”数组。换句话说,我现在没有“结果”键。然后我可以使用带有以下 JsonPath $[*] 的分类器。这种解决方法对我来说效果很好。

    祝你愉快!

    【讨论】:

      猜你喜欢
      • 2020-07-20
      • 1970-01-01
      • 2023-01-23
      • 2019-10-31
      • 1970-01-01
      • 1970-01-01
      • 2021-01-09
      • 1970-01-01
      • 2023-04-04
      相关资源
      最近更新 更多