request 和 superagent 模块 都可以拿来做爬虫,怎么选择呢?有点迷糊了
回复 (7)
L
做爬虫首选py
C
爬虫用Scrapy做过,觉得还可以的,推荐一下。。。
S
引用 lzq920做爬虫首选py
@lzq920 e,这不是nodejs 社区吗
S
引用 cnlile爬虫用Scrapy做过,觉得还可以的,推荐一下。。。
@cnlile @lzq920 e,这不是nodejs 社区吗
J
我用的 request-promise 还不错,加上 cheerio
然后用的是 egg.js 的 定时任务定时爬取。
Y
superagent可以使用superagent.agent();自动处理cookie,包装的cookiejar。在需要登录后爬取数据的,很有用
S
参与回复
登录后即可参与回复。登录