CNode

douban的www域名request抓不到吗?

Ffirhome发布于12 年前最后回复12 年前6 回复5934 浏览0 收藏

看了很多例子都是拿douban做爬虫的例子..

然后我也试试.

发现 request('http://movie.douban.com/') 有用

request('http://www.douban.com/') 没用

是什么原因呢?

查看回复

回复 (6)

G
guoliangchen#1·12 年前

我也测试了一下 好像真的没用

W
whatsmynick#2·12 年前

douban主站禁了空的user-agent

Y
yaochun#3·12 年前

####亲测:

body: '<html>\r\n<head><title>403 Forbidden</title></head>\r\n<body bgcolor="white">\r\n<center><h1>403 Forbidden</h1></center>\r\n<hr><center>nginx</center>\r\n</body>\r\n</html>\r\n'
N
nodejser#4·12 年前

你们这些淫啊,把user agent 设置为 GFW ,douban 速度就尿了。。。

H
hades#6·12 年前

......

参与回复
登录后即可参与回复。登录