php抓取网页数据插入数据库(接到一个备注内容具体实现代码如下＞＞文本备注)

　　php抓取网页数据插入数据库(接到一个备注内容具体实现代码如下＞＞文本备注)

　　我接到了一个任务，要在我们的网站中添加一些中国名牌网站的内容。这些 网站 上的某些页面是 文章 链接的列表。点击链接会出现文章详细的内容展示页面，根据这个规则，结合正则表达式、XMLHTTP技术、Jscript服务器端脚本、ADO技术，写了一个小程序，将这些内容抓取到本地数据库。抓起来比较方便，然后把数据库中的数据导入到数据库中。首先创建一个Access数据库，结构如下

　　id自动编号识别，主键

　　oldID number 旧数据编码

　　标题标题文字

　　备注内容

　　具体实现代码如下

　　＜%@LANGUAGE="JSCRIPT" CODEPAGE="936"%＞

＜!-- METADATA NAME="Microsoft ActiveX Data Objects 2.5 Library"

TYPE="TypeLib" UUID="{00000205-0000-0010-8000-00AA006D2EA4}" --＞

＜%

　//打开数据库

　try

　{

　　var strConnectionString = "Provider=Microsoft.Jet.OLEDB.4.0;Data Source=" + Server.MapPath("#db.mdb");

　　var objConnection = Server.CreateObject("ADODB.Connection");

　　objConnection.Open(strConnectionString);

　}

　catch(e)

　{

　　Response.Write(e.description);

　　Response.End();

　}

%＞

　　＜script language="jscript" runat="server"＞

//远程获取数据

function GetData()

{

　var xHttp = new ActiveXObject("microsoft.xmlhttp");

　xHttp.open("POST","http://kukusoft.net/",false);

　xHttp.send();

　return(xHttp.responseText);

}

//利用正则表达式提取符合条件的链接

function GetLinks(str)

{

　var re = new RegExp("＜a[^＜＞]+?\＞((.|\n)*?)＜\/a＞", "gi");

　var a = str.match(re); //第一次搜索 for(var i=0;i＜a.length;i++)

　{

　　var t1,t2;

　　var temp;

　　var r = /qy.php\?id=(\d+)/ig;

　　if(!r.test(a[i]))continue;

　　temp = a[i].match(/qy.php\?id=(\d+)/ig);

　　t1 = RegExp.$1;

　　temp = a[i].match(/＜font[^＜＞]+?color=\"#000000\"\＞(.*?)＜\/font＞/ig);

　　t2 = RegExp.$1;

　　if(t1 == t2)continue;

　　SaveArticle(t1,t2,GetContent(t1));

　}

}

//通过提取的链接获取ID，并通过这个ID取抓取相应的文章

function GetContent(id)

{

　var xHttp = new ActiveXObject("microsoft.xmlhttp");

　xHttp.open("POST","http://kukusoft.net/qy.php?id=" + id,false);

　xHttp.send();

　var str = xHttp.responseText;

　var re = new RegExp("＜span[^＜＞]+?style=\"font-size:10\.8pt\"＞(.*?)＜\/span＞", "gi");

　var a = str.match(re);

　return(RegExp.$1);

}

//入库

function SaveArticle(oldID,Title,Content)

{

　var oRst = Server.CreateObject("ADODB.Recordset");

　var sQuery;

　sQuery = "SELECT oldID,Title,Content FROM Articles"

　oRst.Open(sQuery,objConnection,adOpenStatic,adLockPessimistic);

　oRst.AddNew();

　oRst("oldID") = oldID;

　oRst("Title") = Title;

　oRst("Content") = Content;

　oRst.Update();

　oRst.Close();

　Response.Write(Title + "抓取成功" + "＜br＞");

}

＜/script＞

　　＜HTML＞

　　＜头部＞

　　＜TITLE＞抢文章＜/TITLE＞