asp.net 抓取网页数据(本节静态网页和动态网页的相关概念(一)_)

优采云 发布时间: 2021-11-16 22:22

  asp.net 抓取网页数据(本节静态网页和动态网页的相关概念(一)_)

  本节我们先来看看静态网页和动态网页的相关概念。如果您熟悉前端语言,那么您可以快速了解本节中的知识。

  我们在编写爬虫程序的时候,首先要弄清楚要爬取的页面是静态的还是动态的。只有确定了页面类型,才能方便后续的网页分析和编程。对于不同类型的网页,编写爬虫时使用的方法也不尽相同。

  静态页面

  静态网页是标准的 HTML 文件,可以通过 GET 请求方法直接获取。文件扩展名为.html、.htm等,网页界面可以收录文字、图片、声音、FLASH*敏*感*词*、客户端脚本和其他插件程序等。静态网页是构建网站的基础,早期的网站一般都是由静态网页制作的。静态不是静态的,它还收录一些*敏*感*词*效果,这一点不要误会。

  我们知道,当网站信息量较大时,网页的生成速度会降低。因为静态网页的内容比较固定,不需要连接后端数据库,响应速度非常快。但是静态网页更新比较麻烦,每次更新都需要重新加载整个网页。

  静态网页的数据都收录在 HTML 中,因此爬虫可以直接从 HTML 中提取数据。通过分析静态网页的URL,找到URL查询参数的变化规律,就可以实现页面爬取。与动态网页相比,静态网页对搜索引擎更加友好,有利于搜索引擎收录。

  动态网页

  动态网页是指使用动态网页技术的网页,例如 AJAX(指一种用于创建交互式和快速动态网页应用程序的网页开发技术)、ASP(动态交互式网页和强大的网页应用程序)、JSP( Java 语言动态网页创建技术标准)等技术,无需重新加载整个页面内容,即可实现网页的局部更新。

  动态页面利用“动态页面技术”与服务器交换少量数据,从而实现网页的异步加载。我们来看一个具体的例子:打开百度图片(),搜索Python。当鼠标滚轮滚动时,网页会自动从服务器数据库加载数据并呈现页面。这是动态网页和静态网页之间最基本的区别。如下:

  /img.php?img=https://p0.ssl.img.360kuai.com/t01f3ff11bd906f12bb.jpg

  除了 HTML 标记语言,动态网页还收录一些特定功能的代码。这些代码允许浏览器和服务器进行交互。服务端会根据客户端的不同请求生成网页,其中涉及到数据库连接、访问、查询等一系列IO操作,因此其响应速度比静态网页稍差。

  注:一般网站通常采用动静结合的方式来达到平衡状态。可以参考《网站构建动静态组合》简单理解。

  当然,动态网页也可以是纯文字,页面中还可以收录各种*敏*感*词*效果。这些只是网络内容的表达。其实不管网页有没有动态效果,只要使用了动态网站技术,那么这个网页就叫做动态网页。

  爬取动态网页的过程比较复杂,需要通过动态抓包的方式获取客户端与服务器交互的JSON数据。抓包时可以使用谷歌浏览器开发者模式(快捷键:F12)Network选项,然后点击XHR找到获取JSON数据的URL,如下图:

  /img.php?img=https://p0.ssl.img.360kuai.com/t0156e36d271bee2993.jpg

  或者也可以使用专业的抓包工具Fiddler(点击访问)。动态网页的数据抓取将在后续内容中详细说明。

  公开课广场-人才学习交流平台

  ASP技术在静态和动态网页中的应用——网页制作——:这个有点外行。哈哈。首先,ASP是Active Server Page的缩写,意思是“活动服务器网页”。ASP 是微软开发的用来替代 CGI 脚本程序的一种可以与数据库和其他程序进行交互的应用程序。它是一个简单方便的编程工具。ASP网页文件格式...

  ASP 是如何编程的:ASP 简单的说就是动态显示网页内容。ASP 不是一种可编程语言。需要使用VBS或JS脚本语言进行编程。

  网站ASP是如何应用的-:asp是一种服务器端脚本技术。还有jsp、php等。这些服务器端脚本技术主要用于实现一些必须由程序处理的功能。比如你我找到了一个新闻管理系统或者内容管理系统,发布了一些新闻。您想在您制作的页面上发布一些新闻...

  简述ASP.NET应用程序开发步骤: 在Visual Studio 2005中开发;脚步; 1)使用Visual Studio 2005创建网站。2)使用Visual Studio 2005工具箱中的控件,根据程序设计合理要求的应用程序界面。3)设置相关控件的属性。4)编写相关控件的事件代码。5)运行调试程序。6)保存网站文件在7)已发布网站。

  ASP.NET开发流程__,(越详细越好!!)-:简单开发步骤:1、打开VS2008,2、VS2008菜单栏点击“新建”->“项目”或网站”(自己选择),这里以网站为例,选择“网站”,会弹出一个框,选择“ASP.NET网站@ >”,注意“位置”和“语言”设置。设置好后,选择“确定...

  什么是asp,学习asp最好用什么软件,asp如何实现web开发:上面两个都说了哈哈~~建议你学.net

  网站开发ASP-:我们先学习ASP。将页面与数据库连接起来并不困难。最好去网站看原代码,最简单的显示、添加、修改、删除新闻的方法,如果你把asp学得透彻,你就能学会.net和PHP。祝你好运!...

  asp编程-asp编程是一种基于vbscript、javascript等脚本语言的web开发语言。默认的脚本语言是 vbscript.asp,意思是活动服务页面动态页面。Gas asp可以实现诸如网络聊天、bbs、留言板、新闻发布系统等网络应用,其语法简单易学易掌握。不管是什么web编程语言,主要是针对数据库操作,读写数据库。使用动态语言开发网页应用,无需修改特定网页,即可实时更新您的网站数据。web开发语言有很多种,主要有asp、php、jsp等,各有千秋

  ASP是制作动态网页的软件吗?紧急!~急!~-: ASP 是一种网络文件格式,不是软件...

  XP系统配置IIS开发ASP.NET WEB应用-:首先看你的XP是家庭版。常见的 Windows XP 有两个版本,专业版和家庭版。这两个版本基本相同,但在细节上,专业版比家庭版功能更多。比如XP专业版支持双CPU、多语言、加入域、EFS文件加密……

0 个评论

要回复文章请先登录注册


官方客服QQ群

微信人工客服

QQ人工客服


线