浙江天宇-智能互联网信息采集系统

　　浙江天宇-智能互联网信息采集系统

　　新闻媒体、政府部门、大型企事业单位纷纷通过互联网技术搭建网路信息搜集平台：新闻媒体须要获取大量的互联网上新闻资料，充实新闻资料库；政府机关须要搜集与自身业务相关的文献资料，提升办公与决策效率；大型企事业单位须要快速获取行业宏观环境、政策动态与竞争对手信息……

　　天宇智能互联网信息采集系统（CGSEEK）集成了网页搜索、内容智能提取与过滤、自动分类、自动去重等技术，实现了对互联网信息采集、过滤、提取与批量上载的自动化与一体化。

　　系统结构

　　系统主要功能

　　信息采集

　　支持各类标准格式信息资源的采集，如HTML页面、文本信息、表格、图片、声音、视频等。

　　实现对网页与内联图片的统一采集。

　　支持简体页面（BIG5码）的采集，并手动转换为标准的繁体码（GB码），支持Unicode码集。

　　支持由程序手动生成的页面内容的采集，如由JavaScript生成的页面。

　　能便捷将抓取网站上后台数据库的内容（JSP，ASP，CGI），和抓取须要通过用户身分校准的网站内容。

　　支持单篇网页及网站历史数据的批量下载。

　　信息借助

　　可以将采集下来的网页信息放置到本地机器指定的某个文件夹下，进行借助。

　　系统支持采集的文本内容批量上载到天宇CGRS全文数据库中，可以借助天宇采盘发系统及全文检索系统进行信息采编、审核、发布与全文检索等借助。

　　经过智能提取的文本内容，可以上载到SQL Server等主流的关系型数据库中，充实资料库，也可以借助第三方应用系统对信息进行采编、发布与检索等应用。

　　系统特征

　　网页采集内容全面

　　适应网站内容格式的多变性，能完整地获取须要采集的页面，遗漏少，网页采集内容的完整性在99%以上。

　　内容准确度高

　　能便捷地将网页中的信息提取下来，如日期，标题，作者，栏目等内容；过滤网页中的无用信息。

　　精确定义采集范围

　　精确描述须要采集的网站范围，可以精确到整个网站、特定栏目、特定页面。

　　使用方便，自动化程度高

　　系统参数设置简单，一次设置多次使用，修改便捷、直观、快捷。

　　信息采集快

　　系统通过多线程处理技术，可以同时启动多个搜索器，快速高效地对目标站点或栏目进行信息采集。

　　系统性能

　　采集速度：每分钟采集数百个最新目标页面（与机器性能及网路带宽有关）；

　　处理速率：每分钟提取、过滤与上载数百个网页；

　　自动分类：页面内容手动分类准确率90%以上；

　　提取效率：页面内容（标题、日期、作者、正文等）准确提取率达99%以上。

　　运行环境

　　普通PC机，256M以上显存；

　　操作系统：Windows 2000/2003/XP。

　　行业应用

　　网络传媒：自动跟踪与采集*敏*感*词*网路媒体信息，可以使用要害词过滤搜索或批量采集的形式，实现各种新闻的有效采集、分类、编辑、治理、发布与检索一体化；系统支持第三方应用系统，如采编系统、发布系统、检索系统。

　　党政机关：实时搜集与业务工作相关的信息资源或新闻，在外网或内网上实时动态地发布下来，满足办公人员对互联网信息的须要，提高办公与办事效率。

　　大型企事业单位：通过系统实时追踪与搜集行业新政、宏观环境、竞争对手等相关情报资料，有利于提高企业综合竞争力。