微信公众号内容采集,比较怪异,其参数,post参数需要话费时间去搞定
优采云 发布时间: 2021-08-18 01:17微信公众号内容采集,比较怪异,其参数,post参数需要话费时间去搞定
微信公众号采集的内容很奇怪。它的参数和后期参数需要时间来弄清楚。这里采集是topic标签的内容,用pdfkit打印出来的内容。
这里实现了两个版本。第一个是直接网络访问。它的真实地址,post URL,也有更多的参数。我没试过。得到的内容只是其中的一部分,并不理想。第二个版本是使用无头浏览器直接访问,获取网页源代码,分析,获取你想要的内容。
这个人渣现在比较懒,代码都是以前用的,现成的,复制的,修改的,直接用!
版本一:
#微信公众号内容获取打印pdf<br />#by 微信:huguo00289<br />#https://mp.weixin.qq.com/mp/homepage?__biz=MzA4NjQ3MDk4OA==&hid=5&sn=573b1b806f9ebf63171a56ee2936b883&devicetype=android-29&version=27001239&lang=zh_CN&nettype=WIFI&a=&session_us=gh_7d55ab2d943f&wx_header=1&fontScale=100&from=timeline&isappinstalled=0&scene=1&subscene=2&clicktime=1594602258&enterid=1594602258&ascene=14<br /># -*- coding: UTF-8 -*-<br />import requests<br />from fake_useragent import UserAgent<br />import os,re<br />import pdfkit<br /><br /><br />confg = pdfkit.configuration(<br /> wkhtmltopdf=r'D:\wkhtmltox-0.12.5-1.mxe-cross-win64\wkhtmltox\bin\wkhtmltopdf.exe')<br /><br />class Du():<br /> def __init__(self,furl):<br /> ua=UserAgent()<br /> self.headers={<br /> "User-Agent": ua.random,<br /> }<br /> self.url=furl<br /><br /><br /> def get_urls(self):<br /><br /> response=requests.get(self.url,headers=self.headers,timeout=8)<br /> html=response.content.decode('utf-8')<br /> req=re.findall(r'var data={(.+?)if',html,re.S)[0]<br /> urls=re.findall(r',"link":"(.+?)",',req,re.S)<br /><br /><br /> urls=set(urls)<br /> print(len(urls))<br /><br /><br /> return urls<br /><br /><br /><br /> def get_content(self,url,category):<br /> response = requests.get(url, headers=self.headers, timeout=8)<br /> print(response.status_code)<br /> html = response.content.decode('utf-8')<br /> req = re.findall(r'
(.+?)varfirst_sceen__time',html,re.S)[0]#获取标题
h1=re.findall(r' (.+?)',req,re.S)[0]
h1=h1.strip()
pattern=r"[\/\\\:\*\?\"\\|]"
h1=re.sub(pattern,"_",h1)#用下划线替换
打印(h1)#获取详情
detail=re.findall(r'
(.+?)