Scrapy动态创建对象+json导出

Question

我创建了一个新的蜘蛛来抓取网站。 这个爬虫获取网站上liste的每个视频游戏并为其创建一个对象：

class gameInfos(Item):
    title = Field()
    desc = Field()
    kind = Field()

对于每个游戏，网站都包含一个可变的经销商列表。我得到了对象中的每个经销商：

class buyInfos(Item):
    name = Field()
    address = Field()
    price = Field()

现在，我的问题：

我想将 buyInfos 对象放入 gameInfos 对象中，并且我的 json 文件看起来：

[
   {
    "title": "BF3",
    "desc": "a beautiful game",
    "kind" : "FPS",
    "buy" : 
           [
              {name : "cdiscount", "address" : "example", "price" : "45 €"},
              {name : "amazon", "address" : "example amazon", "price" : "40 €"},
               //... other resellers
           ]
   },
   {
    "title": "COD 42",
    "desc": "a game",
    "kind" : "FPS",
    "buy" :
   }, 
   //... other games
]

所以我尝试在我的主对象中创建一个对象。它可以工作，但最后，我只有一个要填充的对象，而我想在我的主对象中创建一些对象。

感谢您的帮助

Answer 1

解决方案很简单。创建一个对象为：

class GameInfo(Item):
    title = Field()
    desc = Field()
    kind = Field()
    listeBuys = Field()

然后，在您的蜘蛛中，实例 GameInfo：

gameInfo = GameInfo()

然后，所需字段的实例 python 列表：

gameInfo['listeBuys'] = []

最后，随意添加：

gameInfo['listeBuys'].append(asyouwant)

感谢 dm03514 的帮助！

Answer 2

Scrapy Field 类是 dict 的子类。如果您想让其中一个字段能够包含Items 的列表，我相信您可以创建一个列表字段。

class ListField(list):
  pass

class GameInfo(Item):
    title = Field()
    desc = Field()
    kind = Field()
    buys = ListField()

现在您可以在您的蜘蛛中创建gameInfos，它将能够包含所有相关的buyInfos

game_info = GameInfo()
# create your buy info and append to game info
game_info['buys'].append(new_buy_info)