CNode

web站点抓取beat1.0出世啦。

Cchinawomen发布于13 年前最后回复13 年前2 回复5568 浏览0 收藏

目前主要是抓取文档型网站。 现在抓取http://w3school.com.cn/这个站点 6688个html页面用时大约140s node的并发确实给力 不过内存飙升。 其他网站还没有抓取测试呢 https://github.com/jackzhaojun/GrabWeb 有兴趣的一起来玩啊

查看回复

回复 (2)

Y
yakczh#1·13 年前

怎么抽取数据,只是抓整个html页面吗?

C
chinawomen#2·13 年前
引用 yakczh怎么抽取数据,只是抓整个html页面吗?

嗯。然后制作成chm。后续会加点别的功能 抽取数据正则了

参与回复
登录后即可参与回复。登录