分享web开发知识

注册/登录|最近发布|今日推荐

主页 IT知识网页技术软件开发前端开发代码编程运营维护技术分享教程案例
当前位置:首页 > IT知识

urllib库:分析Robots协议

发布时间:2023-09-06 02:29责任编辑:彭小芳关键词:url
 1from urllib.robotparser import RobotFileParser
2import ssl
3from urllib.request import urlopen
4ssl._create_default_https_context = ssl._create_unverified_context
5
6rp = RobotFileParser()
7rp.set_url(‘http://www.jianshu.com/robots.txt‘)
8rp.read()
9print(rp.can_fetch(‘*‘, ‘http://www.jianshu.com/p/b6755402d7d‘))
10print(rp.can_fetch(‘*‘, ‘http://www.jianshu.com/search?q=python&page=1&type=note‘))

parse()读取分析

1rp = RobotFileParser()
2rp.parse(urlopen(‘http://www.jianshu.com/robots.txt‘).read().decode(‘utf-8‘).split(‘\n‘))

`

urllib库:分析Robots协议

原文地址:https://www.cnblogs.com/gxj521test/p/10206559.html

知识推荐

我的编程学习网——分享web前端后端开发技术知识。 垃圾信息处理邮箱 tousu563@163.com 网站地图
icp备案号 闽ICP备2023006418号-8 不良信息举报平台 互联网安全管理备案 Copyright 2023 www.wodecom.cn All Rights Reserved