CNode

http://www.kuaidaili.com/free/inha/2/ 这个网站 防爬 防得这么好?

问答
Gguirenpei发布于9 年前最后回复9 年前9 回复5986 浏览0 收藏

我已经加了所有的header和cookie,然而并没有什么卵用。依旧访问不了这个网站。对了,我用的是postman。。。。。。有大手子帮帮忙么。。。

查看回复

回复 (9)

A
alsotang#1·9 年前

我试了试,它的策略确实是需要研究一下才能搞定。去试试phantomjs来抓吧,反正抓它的频率也不高。

G
guirenpei#2·9 年前

nightmare也可以吧

A
alsotang#3·9 年前

应该是用了类似 csrf 的技术,对于初次访问的ua做了判断。初次访问的ua需要具备js执行能力

G
guirenpei#4·9 年前

好吧 ,谢谢啦

Y
ystyle#5·9 年前

其实你可以写浏览器的插件版爬虫. 所有网站 都防不了浏览器插件.....

J
jiangli373#6·9 年前
var request = require("request");

var options = { 
  method: 'GET',
  gzip:true,
  url: 'http://www.kuaidaili.com/free/inha/3/',
};

request(options, function (error, response, body) {
  if (error) throw new Error(error);

  console.log(body);
});

untitled1.png

设置下gzip,我这能正常请求回来,使用的是request模块

G
guirenpei#7·9 年前

@jiangli373 谢谢啦。。。

J
jiangzhuo#8·9 年前

用代理爬吧。我用的快代理30/天的, 爬了一天的kuaidaili 没出现什么问题

T
TimLiu1#9·9 年前

估计就是没设置gzip的问题

参与回复
登录后即可参与回复。登录