分享web开发知识

注册/登录|最近发布|今日推荐

主页 IT知识网页技术软件开发前端开发代码编程运营维护技术分享教程案例
当前位置:首页 > 运营维护

web crawling(plus2) comment crawling

发布时间:2023-09-06 01:15责任编辑:胡小海关键词:暂无标签
#Author:Mini
#!/usr/bin/env python
import urllib.request
import re
import urllib.error
headers=("User-Agent","Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:56.0) Gecko/20100101 Firefox/56.0")
opener=urllib.request.build_opener()
opener.addheaders=[headers]
urllib.request.install_opener(opener)
comid="6315179284605088209"
for i in range(4,7):
url="https://coral.qq.com/article/1003390161/comment?commentid="+comid+"&reqnum=20&tag=&callback=jQuery112409214906389806301_1507082215770&_=150708221577"+str(i)

data=urllib.request.urlopen(url).read().decode("utf-8","ignore")
patnext=‘"last":"(.*?)"‘
nextid=re.compile(patnext).findall(data)[0]
patcom=‘"content":"(.*?)",‘
comdata=re.compile(patcom).findall(data)
for j in range(0,len(comdata)):
????print(str(i)+"."+str(j)+"comment:")
????print(eval(‘u"‘+comdata[j]+‘"‘))
url="https://coral.qq.com/article/1003390161/comment?commentid="+nextid+"&reqnum=20&tag=&callback=jQuery112409214906389806301_1507082215770&_=150708221577"+str(i)
print(url)

web crawling(plus2) comment crawling

原文地址:http://www.cnblogs.com/rabbittail/p/7625447.html

知识推荐

我的编程学习网——分享web前端后端开发技术知识。 垃圾信息处理邮箱 tousu563@163.com 网站地图
icp备案号 闽ICP备2023006418号-8 不良信息举报平台 互联网安全管理备案 Copyright 2023 www.wodecom.cn All Rights Reserved