Puppeteer：如何获取节点列表的每个元素的内容？

Question

我正在尝试实现一些非常微不足道的事情：获取元素列表，然后对每个元素的 innerText 执行一些操作。

const tweets = await page.$$('.tweet');

据我所知，这会返回一个节点列表，就像浏览器中的 document.querySelectorAll() 方法一样。

我如何遍历它并获得我需要的东西？我尝试了各种东西，例如：

[...tweets].forEach(tweet => {
  console.log(tweet.innerText)
});

Answer 1

page.$$():

您可以使用elementHandle.getProperty() 和jsHandle.jsonValue() 的组合从ElementHandle 中获取innerText，使用page.$$()：

const tweets = await page.$$('.tweet');

for (let i = 0; i < tweets.length; i++) {
  const tweet = await (await tweets[i].getProperty('innerText')).jsonValue();
  console.log(tweet);
}

如果您设置使用forEach() 方法，您可以将循环包装在一个promise 中：

const tweets = await page.$$('.tweet');

await new Promise((resolve, reject) => {
  tweets.forEach(async (tweet, i) => {
    tweet = await (await tweet.getProperty('innerText')).jsonValue();
    console.log(tweet);
    if (i === tweets.length - 1) {
      resolve();
    }
  });
});

page.evaluate():

或者，您可以完全跳过使用page.$$()，而使用page.evaluate()：

const tweets = await page.evaluate(() => Array.from(document.getElementsByClassName('tweet'), e => e.innerText));

tweets.forEach(tweet => {
  console.log(tweet);
});

Answer 2

根据 puppeteer 文档 here，$$ 不返回节点列表，而是返回 ElementHandle 的 Promise of Array。它与 NodeList 完全不同。

有几种方法可以解决这个问题。

1。使用名为 page.$$eval 的循环的内置函数

此方法在页面内运行Array.from(document.querySelectorAll(selector))，并将其作为第一个参数传递给pageFunction。

所以要获取 innerText 如下所示，

// Find all .tweet, and return innerText for each element, in a array.
const tweets = await page.$$eval('.tweet', element => element.innerText);

2。将elementHandle 传递给page.evaluate

无论你从await page.$$('.tweet') 得到什么，都是一个 elementHandle 数组。如果您控制台，它会根据类型显示JShandle 或ElementHandle。

忘记硬解释，演示更容易。

// let's just call them tweetHandle 
const tweetHandles = await page.$$('.tweet');

// loop thru all handles
for(const tweethandle of tweetHandles){

   // pass the single handle below
   const singleTweet = await page.evaluate(el => el.innerText, tweethandle)

   // do whatever you want with the data
   console.log(singleTweet) 
}

当然有多种方法可以解决这个问题，Grant Miller 在另一个答案中也回答了其中的几个。