抓取网页视频(文末2015年电影的下载链接（包括：电影名称和迅雷下载）)

　　抓取网页视频(文末2015年电影的下载链接（包括：电影名称和迅雷下载）)

　　前言：这是Java爬虫实战第二篇文章。在第一篇文章只是抓取目标网站的链接的基础上，进一步增加难度，在我们需要的内容上抓取目标页面并存入数据库。这里的测试用例使用了一个我经常使用的电影下载网站()。本来想把网站上所有电影的下载链接都抓取，但是觉得时间太长，就改成抓取2015年电影的下载链接了。

　　注：文末有我抓取的整个列表的下载链接（包括：电影名和迅雷下载链接）

　　原理介绍

　　其实原理和第一个文章是一样的，不同的是，由于这个网站里面的分类列表太多了，如果不选中这些标签，会耗费难以想象的时间。

　　

　　类别链接和标签链接都不是必需的。而不是通过这些链接爬取其他页面，只能通过页面底部所有类型电影的分页来获取其他页面上的电影列表。同时，对于电影详情页，只抓取电影片名和迅雷下载链接，不进行深度爬取。详细信息页面上的一些推荐电影和其他链接不是必需的。

　　

　　最后就是将所有获取到的电影的下载链接保存在videoLinkMap集合中，通过遍历这个集合将数据保存到MySQL

　　注：如果原理还不够清楚，推荐阅读我之前的文章文章：爬虫实战（一）：抓取一个网站上的所有链接/

　　两码实现

　　实现原理上面已经讲过了，代码里面有详细的注释，这里就不多说了。代码如下：

<p>package action;

import java.io.BufferedReader;

import java.io.IOException;

import java.io.InputStream;

import java.io.InputStreamReader;

import java.net.HttpURLConnection;

import java.net.MalformedURLException;

import java.net.URL;

import java.sql.Connection;

import java.sql.PreparedStatement;

import java.sql.SQLException;

import java.util.LinkedHashMap;

import java.util.Map;

import java.util.regex.Matcher;

import java.util.regex.Pattern;

public class VideoLinkGrab {

public static void main(String[] args) {

VideoLinkGrab videoLinkGrab = new VideoLinkGrab();

videoLinkGrab.saveData("http://www.80s.la/movie/list/-2015----p");

}

/**

 * 将获取到的数据保存在数据库中

 * 

 * @param baseUrl

 *            爬虫起点

 * @return null

 * */

public void saveData(String baseUrl) {

Map oldMap = new LinkedHashMap(); // 存储链接-是否被遍历

Map videoLinkMap = new LinkedHashMap(); // 视频下载链接

String oldLinkHost = ""; // host

Pattern p = Pattern.compile("(https?://)?[^/\\s]*"); // 比如：http://www.zifangsky.cn

Matcher m = p.matcher(baseUrl);

if (m.find()) {

oldLinkHost = m.group();

}

oldMap.put(baseUrl, false);

videoLinkMap = crawlLinks(oldLinkHost, oldMap);

// 遍历，然后将数据保存在数据库中

try {

Connection connection = JDBCDemo.getConnection();

for (Map.Entry mapping : videoLinkMap.entrySet()) {

PreparedStatement pStatement = connection

.prepareStatement("insert into movie(MovieName,MovieLink) values(?,?)");

pStatement.setString(1, mapping.getKey());

pStatement.setString(2, mapping.getValue());

pStatement.executeUpdate();

pStatement.close();

// System.out.println(mapping.getKey() + " : " + mapping.getValue());

}

connection.close();

} catch (SQLException e) {

e.printStackTrace();

}

}

/**

 * 抓取一个网站所有可以抓取的网页链接，在思路上使用了广度优先算法 对未遍历过的新链接不断发起GET请求， 一直到遍历完整个集合都没能发现新的链接

 * 则表示不能发现新的链接了，任务结束

 * 

 * 对一个链接发起请求时，对该网页用正则查找我们所需要的视频链接，找到后存入集合videoLinkMap

 * 

 * @param oldLinkHost

 *            域名，如：http://www.zifangsky.cn

 * @param oldMap

 *            待遍历的链接集合

 * 

 * @return 返回所有抓取到的视频下载链接集合

 * */

private Map crawlLinks(String oldLinkHost,

Map oldMap) {

Map newMap = new LinkedHashMap(); // 每次循环获取到的新链接

Map videoLinkMap = new LinkedHashMap(); // 视频下载链接

String oldLink = "";

for (Map.Entry mapping : oldMap.entrySet()) {

// System.out.println("link:" + mapping.getKey() + "--------check:"

// + mapping.getValue());

// 如果没有被遍历过

if (!mapping.getValue()) {

oldLink = mapping.getKey();

// 发起GET请求

try {

URL url = new URL(oldLink);

HttpURLConnection connection = (HttpURLConnection) url

.openConnection();

connection.setRequestMethod("GET");

connection.setConnectTimeout(2500);

connection.setReadTimeout(2500);

if (connection.getResponseCode() == 200) {

InputStream inputStream = connection.getInputStream();

BufferedReader reader = new BufferedReader(

new InputStreamReader(inputStream, "UTF-8"));

String line = "";

Pattern pattern = null;

Matcher matcher = null;

//电影详情页面，取出其中的视频下载链接，不继续深入抓取其他页面

if(isMoviePage(oldLink)){

boolean checkTitle = false;

String title = "";

while ((line = reader.readLine()) != null) {

//取出页面中的视频标题

if(!checkTitle){

pattern = Pattern.compile("([^\\s]+).*?");

matcher = pattern.matcher(line);

if(matcher.find()){

title = matcher.group(1);

checkTitle = true;

continue;

}

}

// 取出页面中的视频下载链接

pattern = Pattern

.compile("(thunder:[^\"]+).*thunder[rR]es[tT]itle=\"[^\"]*\"");

matcher = pattern.matcher(line);

if (matcher.find()) {

videoLinkMap.put(title,matcher.group(1));

System.out.println("视频名称： "

+ title + "  ------  视频链接："

+ matcher.group(1));

break;  //当前页面已经检测完毕

}

}

}

//电影列表页面

else if(checkUrl(oldLink)){

while ((line = reader.readLine()) != null) {

pattern = Pattern

.compile("