python使用newspaper快速抓取新闻文章
优采云 发布时间: 2020-08-09 08:44最近忽然想到newspaper,是一个算是专门拿来抓取新闻正文,标题,图片等的一个包。
这个包是须要自己重新安装的。
在settings配置环境,添加包newspaper。
如果添加不进去就使用pip命令添加
打开命令行窗口,输入
pip3 install --ignore-installed --upgrade newspaper3k
如果文章没有指明使用的哪些语言的时侯,Newspaper会尝试手动辨识。
import newspaper
from newspaper import Article
#这里的url可以填写你需要爬取的网址
url = 'http://www.sohu.com/a/284738650_162522?_f=index_chan08news_10'
news = Article(url,language = 'zh')
news.download()
news.parse()
print(news.url)
#news.url为获取网址的url
print(news.text)
# news.text为获取页面的所有text文字
print(news.title)
# news.title为获取页面的所有标题
print(news.html)
# news.html为获取页面的所有源码
print(news.authors)
print(news.top_image)
print(news.movies)
print(news.keywords)
print(news.summary)
print(news.images)
print(news.imgs)
之后还有好多方式,但是具体每位方式如何用就不做详尽解释了;
看关键词应当也都能明白一二。