A crawler to scratch datas of delicious

Clone this repo:

Branches

  1. 318757f 增加了一些注释说明 Signed-off-by: Bronts <bronts@163.com> by Bronts · 9 years ago master
  2. 6b9276f Update README.md by Bronts · 9 years ago
  3. 166c502 Update README.md by Bronts · 9 years ago
  4. 8e4455e Update README.md by Bronts · 9 years ago
  5. 187adc1 Update README.md by Bronts · 9 years ago

SCrawler

A crawler to scratch datas of delicious

项目简介

这个项目最初是用来抓取几个网站的数据的,使用纯Java完成。 这个项目是本人边学Java前后几个月写完的,架构比较简单,甚至非常初级。 但是还是能够完成抓取指定网页内容、图片,转换GPS坐标等一些功能。

项目依赖

本项目使用了几个第三方库来实现一些基本的网页抓取和数据库操作功能,罗列如下:
1.Jsoup 用于网页的抓取和解析,使用了非常简便的类似CSS选择器,详见:http://jsoup.org
2.Httpclient 一个强大的Http协议客户端编程工具包,详见:http://hc.apache.org
3.log4j 一个日志输出工具,用来记录程序运行日志 详见:http://logging.apache.org/log4j/2.x/
4.MySQL Connector 用于进行数据库操作的驱动包 详见:http://dev.mysql.com/downloads/connector/j/

其他补充

1.本项目涉及了坐标的转换,同时由于国内坐标进行了加偏(火星坐标),所以使用GPS来定位是会有问题的,而转换算法经过一些神秘人士的研究,已经有了比较和谐的解决方案 详见 http://blog.csdn.net/coolypf/article/details/8686588
2.抓取的网站有得做了防火墙策略,大量IP访问的时候会被重定向,因此考虑使用了代理绕过,详见代码。