在 Laravel 项目中将 Crawler 脚本放在哪里？

Question

我创建了一个非常简单的 PHP 爬虫，我想在 Laravel 项目中实现它。我不知道把它放在哪里.. 我想启动脚本并在应用程序启动时运行它。

我知道它不应该在控制器或 Cron 计划中，所以有什么建议在哪里设置它？

$homepage = 'https://example.com';
$already_crawled = [];
$crawling = [];


function follow_links($url){
  global $already_crawled;
  global $crawling;

  $doc = new DOMDocument();
  $doc->loadHTML(file_get_contents($url));

  $linklist = $doc->getElementsByTagName('a');

  foreach ($linklist as $link) {
    $l = $link->getAttribute("href");
    $full_link = 'https://example.com'.$l;

    if (!in_array($full_link, $already_crawled)) {
      $already_crawled[] = $full_link;
      $crawling[] = $full_link;
      echo $full_link.PHP_EOL;
      // Insert data in the DB
    }
  }

  array_shift($crawling);
  foreach ($crawling as $link) {
    follow_links($link);
  }
}

follow_links($homepage);

Answer 1

我会推荐 Service 类、Command 和可能的 Jobs 的组合——然后从 worker processes 运行它们。

您的服务将是一个包含所有用于抓取页面的逻辑的类。然后，爬虫服务由工匠命令、排队作业或两者的组合使用。

您是对的，您不想直接从内置的 Laravel 调度程序运行爬虫（因为它可能会运行很长时间并阻止其他计划任务运行）。但是，一种选择是使用您的 Laravel 计划来运行一个任务，该任务检查需要重新抓取的 url，并将排队的 jobs 分派到您的 worker 进程，这些进程是在 Laravel 中很容易实现。

每个新发现的 url 都可以被视为一个单独的任务并单独排队等待抓取，而不是在应用程序在线时“连续”运行该进程。