CNode

node.js 爬虫工具 - 结贴:推荐使用Puppeteer

问答
Iiori2882发布于7 年前最后回复7 年前10 回复11239 浏览0 收藏

最近有爬虫网页的需求,node有什么好用的框架或工具么?麻烦大家推荐一下........如果有教程那最好了,以前没接触过爬虫这部分...麻烦大家了...

查看回复

回复 (10)

D
DevinXian#1·7 年前

puppeteer 完美

C
cnvp#2·7 年前

puppeteer

L
linliny#3·7 年前

puppeteer

S
sunfeng90#4·7 年前
L
LuckyHH#5·7 年前

https://github.com/LuckyHH/WebSpider 其实很多都是superagent加cheerio搭配,这种只能抓HTML上有的数据,原理就是下载网页进行分析。抓取ajax数据什么的,需要无头浏览器。

I
iori2882#6·7 年前
引用 sunfeng90https://github.com/sunfeng90/node spider @iori2882 可以看一下

@sunfeng90 谢谢例子简单正用的上.....学习一下

I
iori2882#8·7 年前

谢谢大家,Puppeteer 很好,正适合我目前的需求!!!!!

B
blackmatch#9·7 年前

request + cheerio,还不行就上puppeteer。。。

G
gaoqiming0523#10·7 年前

用 node + selenium + webdriverio 也可以实现,5.0以上支持无头浏览器

参与回复
登录后即可参与回复。登录