如何将 scrapyjs 功能集成到 Scrapy 项目中

Question

我使用 Scrapy 框架制作了一个网络爬虫，从 this website 获取音乐会门票数据。我已经能够成功地从页面上每张票的内部元素中抓取数据，除了只能通过单击“票”按钮进入票页并从票中抓取票价来访问的价格在页面上。

经过大量谷歌搜索，我发现 Scrapy.js（基于 Splash）可以在 Scrapy 中与页面上的 JavaScript 进行交互（例如需要单击的按钮）。我已经看到了一些关于如何使用 Splash 与 JavaScript 交互的基本示例，但它们都没有展示 Splash 与 Scrapy 的集成（甚至在文档中也没有）。

我一直遵循使用项目加载器将抓取的元素存储在解析方法中的格式，然后发出一个请求，该请求应该转到另一个链接并通过调用第二个解析方法从该页面解析 html

(e.g. yield scrapy.Request(next_link, callback=self.parse_price)

但是由于我将使用 Scrapy js，因此代码会有所改变。为了合并 Scrapyjs，我正在考虑使用类似这样的函数：

function main(splash)
  splash:go("http://example.com")
  splash:wait(0.5)
  local title = splash:evaljs("document.title")
return {title=title}

来自this site，但由于 javascript 不能直接在 python 程序中编写，我什至如何/在哪里将这种函数合并到程序中，以便能够通过单击导航到下一页按钮并解析html？我显然是网络抓取的新手，所以任何帮助都将不胜感激。蜘蛛的代码如下：

concert_ticket_spider.py

​​>

from scrapy.contrib.spiders import CrawlSpider , Rule
from scrapy.selector import HtmlXPathSelector
from scrapy.selector import Selector
from scrapy.contrib.loader import XPathItemLoader
from scrapy.contrib.loader.processor import Join, MapCompose
from concert_comparator.items import ComparatorItem

bandname = raw_input("Enter a bandname \n")
vs_url = "http://www.vividseats.com/concerts/" + bandname + "-tickets.html"

class MySpider(CrawlSpider):
    handle_httpstatus_list = [416]
    name = 'comparator'
    allowed_domains = ["www.vividseats.com"]
    start_urls = [vs_url]
    #rules = (Rule(LinkExtractor(allow=('/' + bandname + '-.*', )), callback='parse_price'))
    # item = ComparatorItem()
    tickets_list_xpath = './/*[@itemtype="http://schema.org/Event"]'
    item_fields = {
        'eventName' : './/*[@class="productionsEvent"]/text()',
        'eventLocation' : './/*[@class = "productionsVenue"]/span[@itemprop  = "name"]/text()',
        'ticketsLink' : './/a/@href',
        'eventDate' : './/*[@class = "productionsDate"]/text()',
        'eventCity' : './/*[@class = "productionsVenue"]/span[@itemprop  = "address"]/span[@itemprop  = "addressLocality"]/text()',
        'eventState' : './/*[@class = "productionsVenue"]/span[@itemprop  = "address"]/span[@itemprop  = "addressRegion"]/text()',
        'eventTime' : './/*[@class = "productionsTime"]/text()'
    }


    item_fields2 = {
            'ticketPrice' : '//*[@class="eventTickets lastChild"]/div/div/@data-origin-price]',


   }
    def parse_price(self, response):
            l.add_xpath('ticketPrice','.//*[@class =  "price"]/text()' )
            yield l.load_item()


        def parse(self, response):
            """

            """

        selector = HtmlXPathSelector(response)
        # iterate over tickets
        for ticket in selector.select(self.tickets_list_xpath):

            loader = XPathItemLoader(ComparatorItem(), selector=ticket)
            # define loader
            loader.default_input_processor = MapCompose(unicode.strip)
            loader.default_output_processor = Join()
            # iterate over fields and add xpaths to the loader
            for field, xpath in self.item_fields.iteritems():
                loader.add_xpath(field, xpath)
                yield Request(vs_url, self.parse_result, meta= {
                    'splash': {
                        'args':{
                            #set rendering arguments here
                            'html' :1

                            # 'url' is prefilled from request url
                        },
                        #optional parameters
                        function main(splash)
                            splash:autoload("https://ajax.googleapis.com/ajax/libs/jquery/2.1.3/jquery.min.js")
                            splash:go(vs_url)
                            splash:runjs("$('#some-button').click()")
                            return splash:html()
                        end                    
                        }
                    })
                for field, xpath in self.item_fields2.iteritems():
                    loader.add_xpath(field, xpath)

            yield loader.load_item()

Answer 1

这里的重点是scrapyjs 提供了一个scrapyjs.SplashMiddleware 中间件，你需要configure。然后，每个具有splash meta key 的请求都将由中间件处理。

仅供参考，我之前个人成功使用过Scrapy 和scrapyjs。