java爬虫抓取动态网页(本篇文章抓取目标网站的链接的基础上，进一步提高难度)

　　java爬虫抓取动态网页(本篇文章抓取目标网站的链接的基础上，进一步提高难度)

　　本文文章在链接的基础上爬取目标网站进一步增加难度，在目标页面抓取我们需要的内容并保存到数据库中。这里的测试用例使用了我经常使用的电影下载网站()。本来想抓取网站上所有电影的下载链接，后来觉得时间太长，所以改成抓取2015年电影的下载链接。

　　一原理介绍

　　其实原理和第一个文章类似。不同的是，考虑到这个网站的分类列表太多，如果不选择这些标签，会花费难以想象的时间。

　　

　　不需要类别链接和标签链接。不要使用这些链接来爬取其他页面，只需使用页面底部的所有类型电影的选项卡即可获取其他页面上的电影列表。同时，对于电影详情页，只爬取了片名和迅雷下载链接，并没有进行深度爬取。详情页上的一些推荐电影和其他链接不是必需的。

　　

　　最后一步是将获取到的所有电影的下载链接保存在videolinkmap集合中，遍历这个集合将数据保存到mysql

　　二代码实现

　　实现原理上面已经说了，代码中有详细的注释，这里就不多说了，代码如下：

<p>

package action;

import java.io.bufferedreader;

import java.io.ioexception;

import java.io.inputstream;

import java.io.inputstreamreader;

import java.net.httpurlconnection;

import java.net.malformedurlexception;

import java.net.url;

import java.sql.connection;

import java.sql.preparedstatement;

import java.sql.sqlexception;

import java.util.linkedhashmap;

import java.util.map;

import java.util.regex.matcher;

import java.util.regex.pattern;

public class videolinkgrab {

public static void main(string[] args) {

videolinkgrab videolinkgrab = new videolinkgrab();

videolinkgrab.savedata("http://www.80s.la/movie/list/-2015----p");

}

/**

* 将获取到的数据保存在数据库中

*

* @param baseurl

* 爬虫起点

* @return null

* */

public void savedata(string baseurl) {

map oldmap = new linkedhashmap(); // 存储链接-是否被遍历

map videolinkmap = new linkedhashmap(); // 视频下载链接

string oldlinkhost = ""; // host

pattern p = pattern.compile("(https?://)?[^/\\s]*"); // 比如：http://www.zifangsky.cn

matcher m = p.matcher(baseurl);

if (m.find()) {

oldlinkhost = m.group();

}

oldmap.put(baseurl, false);

videolinkmap = crawllinks(oldlinkhost, oldmap);

// 遍历，然后将数据保存在数据库中

try {

connection connection = jdbcdemo.getconnection();

for (map.entry mapping : videolinkmap.entryset()) {

preparedstatement pstatement = connection

.preparestatement("insert into movie(moviename,movielink) values(?,?)");

pstatement.setstring(1, mapping.getkey());

pstatement.setstring(2, mapping.getvalue());

pstatement.executeupdate();

pstatement.close();

// system.out.println(mapping.getkey() + " : " + mapping.getvalue());

}

connection.close();

} catch (sqlexception e) {

e.printstacktrace();

}

}

/**

* 抓取一个网站所有可以抓取的网页链接，在思路上使用了广度优先算法 对未遍历过的新链接不断发起get请求， 一直到遍历完整个集合都没能发现新的链接

* 则表示不能发现新的链接了，任务结束

*

* 对一个链接发起请求时，对该网页用正则查找我们所需要的视频链接，找到后存入集合videolinkmap

*

* @param oldlinkhost

* 域名，如：http://www.zifangsky.cn

* @param oldmap

* 待遍历的链接集合

*

* @return 返回所有抓取到的视频下载链接集合

* */

private map crawllinks(string oldlinkhost,

map oldmap) {

map newmap = new linkedhashmap(); // 每次循环获取到的新链接

map videolinkmap = new linkedhashmap(); // 视频下载链接

string oldlink = "";

for (map.entry mapping : oldmap.entryset()) {

// system.out.println("link:" + mapping.getkey() + "--------check:"

// + mapping.getvalue());

// 如果没有被遍历过

if (!mapping.getvalue()) {

oldlink = mapping.getkey();

// 发起get请求

try {

url url = new url(oldlink);

httpurlconnection connection = (httpurlconnection) url

.openconnection();

connection.setrequestmethod("get");

connection.setconnecttimeout(2500);

connection.setreadtimeout(2500);

if (connection.getresponsecode() == 200) {

inputstream inputstream = connection.getinputstream();

bufferedreader reader = new bufferedreader(

new inputstreamreader(inputstream, "utf-8"));

string line = "";

pattern pattern = null;

matcher matcher = null;

//电影详情页面，取出其中的视频下载链接，不继续深入抓取其他页面

if(ismoviepage(oldlink)){

boolean checktitle = false;

string title = "";

while ((line = reader.readline()) != null) {

//取出页面中的视频标题

if(!checktitle){

pattern = pattern.compile("([^\\s]+).*?");

matcher = pattern.matcher(line);

if(matcher.find()){

title = matcher.group(1);

checktitle = true;

continue;

}

}

// 取出页面中的视频下载链接

pattern = pattern

.compile("(thunder:[^\"]+).*thunder[rr]es[tt]itle=\"[^\"]*\"");

matcher = pattern.matcher(line);

if (matcher.find()) {

videolinkmap.put(title,matcher.group(1));

system.out.println("视频名称： "

+ title + " ------ 视频链接："

+ matcher.group(1));

break; //当前页面已经检测完毕

}

}

}

//电影列表页面

else if(checkurl(oldlink)){

while ((line = reader.readline()) != null) {

pattern = pattern

.compile("