CNode

我开发了一个云爬虫开发框架,可以在云上编写和运行爬虫,求种子用户来拍砖

分享
Ssanwenshi发布于10 年前最后回复10 年前48 回复10814 浏览0 收藏

我觉得对于开发者来说,能脚本化编写爬虫是一件挺开心的事情( ̄▽ ̄)"。 所以我们团队开发了一个专门让开发者用简单的几行 javascript 就能在云上编写和运行复杂爬虫的系统, 叫神箭手云爬虫开发平台: http://www.shenjianshou.cn 。 只要有些代码基础,稍微参考下开发者的文档,文档地址:http://doc.shenjianshou.cn/ 就能很快的写出爬虫来了。 这里也有些网站的爬虫源码可供参考,https://github.com/ShenJianShou/crawler_samples 欢迎同行们来试用拍砖,尽情给俺们提意见。有想法的可以加群讨论: 566855261

查看回复

回复 (48)

V
vipzrx#1·10 年前

您要加的群已经满员了@

Y
yakczh#3·10 年前

有没有保存抓取网站面面规则的网站 分析过网站以后,直接保存起来

S
sanwenshi#4·10 年前
引用 vipzrx@sanwenshi 群满了

@vipzrx 566855261 这个是②群群号

S
sanwenshi#5·10 年前
引用 yakczh有没有保存抓取网站面面规则的网站 分析过网站以后,直接保存起来

@yakczh 没有太明白你的意思,是说把网页填进去,自动分析然后抓取是嘛

S
sanwenshi#6·10 年前

后面会支持API,增加数据源

S
sonong#7·10 年前

有意思 我得研究研究

mark

A
alsotang#9·10 年前

看着有点意思

H
haichongsihao#10·10 年前

star

M
MirrorWang#11·10 年前

mark From Noder

S
sanwenshi#12·10 年前
引用 alsotang看着有点意思

@alsotang 多谢支持,有兴趣的话可以加群讨论~

W
winglight#13·10 年前

进了群问了问题没人理啊。。。

S
sanwenshi#14·10 年前
引用 winglight进了群问了问题没人理啊。。。

@winglight 一般技术都会回答的,你问的是什么问题?

F
flamingtop#15·10 年前
W
winglight#16·10 年前

我就是问:是否支持dicuz论坛的抓取?

S
sanwenshi#17·10 年前
引用 winglight我就是问:是否支持dicuz论坛的抓取?

@winglight 当然支持了,而且抓取的结果可以直接发布到DZ论坛,主流CMS系统都支持的。

C
cobrano1#18·10 年前

需要登陆的页面也可以抓取么? https 的呢?

S
sanwenshi#19·10 年前
引用 cobrano1需要登陆的页面也可以抓取么? https 的呢?

@cobrano1 也可以的,你想爬哪个网站的

S
santosvalen#20·10 年前

正想找找相关资料,node爬虫必将崛起

K
kenshinhu#21·10 年前

不错的样子咯

1
13241491189#22·10 年前

公司已经在玩Node爬虫了 资料正好可以参考参考

L
liuxufei#23·10 年前

不错,玩玩看

S
sanwenshi#24·10 年前
S
sanwenshi#25·10 年前
引用 13241491189公司已经在玩Node爬虫了 资料正好可以参考参考

@13241491189 有兴趣的话欢迎加群交流哦~

Q
Qquanwei#27·10 年前

再开个ftp服务造福大众~

S
sanwenshi#28·10 年前
引用 Qquanwei再开个ftp服务造福大众

@Qquanwei 哈哈,可以考虑哦

D
DevinXian#29·10 年前
引用 Qquanwei再开个ftp服务造福大众

@Qquanwei 我是网警,小伙子,一起喝杯茶吧~

E
enmoon#30·10 年前

挺好的,网站访问好慢

B
broven#31·10 年前

不错,正有这个需求

S
sanwenshi#32·10 年前
引用 enmoon挺好的,网站访问好慢

@enmoon 现在好些了嘛

S
sanwenshi#33·10 年前
引用 broven不错,正有这个需求

@broven 欢迎来写爬虫哦

S
sanwenshi#34·10 年前

多谢大家的支持 欢迎对爬虫有兴趣的,没兴趣的都过来交流~

S
sanwenshi#35·10 年前

最近有活动,写爬虫写的好,还有现金奖励哦 有兴趣参加的看看这个 http://my.oschina.net/datafactory12/blog/684769?fromerr=VHMtXaAJ

O
o6875461#36·10 年前

看起来不错哇~

H
hillwah#37·10 年前

不错哦,有个python的pyspider也挺好

S
sanwenshi#38·10 年前
引用 o6875461看起来不错哇~

@o6875461 多谢支持,欢迎过来写爬虫~

S
sanwenshi#39·10 年前

最近有个爬虫活动,投稿选中的话,奖励100元现金哦,有兴趣的小伙伴可以看下 详情:http://www.jianshu.com/p/fe537993cbf9

V
vivianwendy#40·10 年前

支持python嘛

4
44886#41·10 年前

这网站很赞

4
44886#42·10 年前

这网站很赞

S
sanwenshi#43·10 年前
引用 vivianwendy支持python嘛

@vivianwendy 现在还不支持哦,不过会python的话,用这个写起来也不太困难。

S
sanwenshi#44·10 年前
引用 44886这网站很赞

@44886 多谢支持了,有兴趣的话可以过来交流~

G
glj1102#45·10 年前

V
vivianwendy#46·10 年前
引用 sanwenshi@vivianwendy 现在还不支持哦,不过会python的话,用这个写起来也不太困难。

@sanwenshi 大概看了下开发文档,文档写的不错,继续加油

S
sanwenshi#47·10 年前
引用 glj1102

@glj1102 现在速度好些了嘛

S
sanwenshi#48·10 年前
引用 vivianwendy@sanwenshi 大概看了下开发文档,文档写的不错,继续加油

@vivianwendy 谢谢支持了,欢迎过来写爬虫

参与回复
登录后即可参与回复。登录