python使用newspaper快速抓取新闻文章

优采云 发布时间: 2020-08-09 08:44

  最近忽然想到newspaper,是一个算是专门拿来抓取新闻正文,标题,图片等的一个包。

  这个包是须要自己重新安装的。

  

  在settings配置环境,添加包newspaper。

  如果添加不进去就使用pip命令添加

  打开命令行窗口,输入

  pip3 install --ignore-installed --upgrade newspaper3k

  如果文章没有指明使用的哪些语言的时侯,Newspaper会尝试手动辨识。

  import newspaper

from newspaper import Article

#这里的url可以填写你需要爬取的网址

url = 'http://www.sohu.com/a/284738650_162522?_f=index_chan08news_10'

news = Article(url,language = 'zh')

news.download()

news.parse()

print(news.url)

#news.url为获取网址的url

print(news.text)

# news.text为获取页面的所有text文字

print(news.title)

# news.title为获取页面的所有标题

print(news.html)

# news.html为获取页面的所有源码

print(news.authors)

print(news.top_image)

print(news.movies)

print(news.keywords)

print(news.summary)

print(news.images)

print(news.imgs)

  之后还有好多方式,但是具体每位方式如何用就不做详尽解释了;

  看关键词应当也都能明白一二。

0 个评论

要回复文章请先登录注册


官方客服QQ群

微信人工客服

QQ人工客服


线