1.简介
WebMagic是一个非常优秀的Java开源爬虫框架,其功能覆盖了网络爬虫的整个生命周期,包括URL提取、网页内容下载、网页内容解析和数据存储。WebMagic项目的源码可以在github上进行下载。
<dependency>
<groupId>us.codecraft</groupId>
<artifactId>webmagic-core</artifactId>
<version>0.7.3</version>
</dependency>
<dependency>
<groupId>us.codecraft</groupId>
<artifactId>webmagic-extension</artifactId>
<version>0.7.3</version>
</dependency>