CNode

关于 nodejs 抓取网页时 301 错误

Llolocoo发布于13 年前最后回复13 年前5 回复5686 浏览0 收藏

website: mafengwo

nodejs 抓取网页时 301 错误, 用 request (It supports HTTPS and follows redirects by default.) 包也还是不可以,其他的网站都可以,唯独目标网站不行。

用其他语言抓取就可行, 求解!

查看回复

回复 (5)

C
chloe#1·13 年前

这个是重定向,你可以直接抓取目标网页,或者根据响应头去做正理 request里面有个参数followRedirects:false

C
chloe#3·13 年前
B
bsspirit#4·13 年前

http包就有这个问题

用request包就行了,自动转向。 http://blog.fens.me/nodejs-crawler-douban/

C
chloe#5·13 年前
引用 bsspirithttp包就有这个问题 用request包就行了,自动转向。 http://blog.fens.me/nodejs crawler douban/

如果request的时候响应了cookie重定向之后是不会把cookie加到头中的

参与回复
登录后即可参与回复。登录