分享web开发知识

注册/登录|最近发布|今日推荐

主页 IT知识网页技术软件开发前端开发代码编程运营维护技术分享教程案例
当前位置:首页 > 技术分享

28.分析采集美团网站信息-3

发布时间:2023-09-06 02:25责任编辑:林大明关键词:暂无标签
 
今天又捋一下思路,在兼职,也没时间去坐下来仔细思考分析问题:

1.首先获取分类,比如先获取美食,再划分其分类,分类里有火锅、蛋糕、小吃快餐等等后面都显示了共有多少个搜索结果。
2.获取完分类id也知道了其总的结果个数,然后再配置请求data参数里的offset,其offset每次加载15条数据,可以根据获取的总个数n去算一共m页,再做循环请求m次。

3.没请求一次数据就会获取15条数据,是json格式的数据。
4.获取到请求的数据,再提取数据中的两个重要参数,poiid和ctpoi。
5.请求拼接url,进入详情页面。
如下所示:
https://meishi.meituan.com/i/poi/98254777?ct_poi=311181748887990495663158755820426747567_a98254777_c0_e9203518743247516983


这里想要继续深度采集的话,比如,查看全部评价,则就需要再深一个层次。

其实自己也想尝试一下手机端去采集试一下的,可以试着看看情况。

值得注意的是这边也是被检测到异常了:

28.分析采集美团网站信息-3

原文地址:https://www.cnblogs.com/lvjing/p/10066834.html

知识推荐

我的编程学习网——分享web前端后端开发技术知识。 垃圾信息处理邮箱 tousu563@163.com 网站地图
icp备案号 闽ICP备2023006418号-8 不良信息举报平台 互联网安全管理备案 Copyright 2023 www.wodecom.cn All Rights Reserved