分享web开发知识

注册/登录|最近发布|今日推荐

主页 IT知识网页技术软件开发前端开发代码编程运营维护技术分享教程案例
当前位置:首页 > 软件开发

DotnetSpider (二) Downloader的设置 Request自定义数据字典

发布时间:2023-09-06 01:51责任编辑:赖小花关键词:暂无标签

本篇主要分享自定义Downloader和Request信息,实现自定义请求内容,及将自定义内容存储。

 

   ** 温馨提示:如需转载本文,请注明内容出处。**

 

     本文连接:http://www.cnblogs.com/grom/p/8968905.html 

 

接上一篇,在原项目的基础上进行改造,为EntitySpider设置Downloader。

 

自定义Downloader类:

public class AtzucheDownloader : DotnetSpider.Core.Downloader.BaseDownloader
???????{
???????????  protected override Page DowloadContent(Request request, ISpider spider)
???????????  {
???????????????    var site = spider.Site;
???????????????    request.Extras = new Dictionary<string, dynamic>();
???????????????    request.Extras.Add("Date", DateTime.Now.ToString("yyyy-MM-dd"));
???????????????    Page page = new Page(request);
???????????????    return new DotnetSpider.Core.Downloader.HttpClientDownloader().Download(request,spider);
???????????  }
???????}

注释为:

     这里的数据字典可以在选择器中使用SelectorType.Enviroment来使用

  

  如图所示,Url为Request自带Key,Date就是我们上面设置的属性了,通过这种方法,达到了在数据库内插入一列自定义数据,我这里的作用是记录抓取日期。

  结果:

  

  本次的分享就到这里,谢谢。。。

 

DotnetSpider (二) Downloader的设置 Request自定义数据字典

原文地址:https://www.cnblogs.com/grom/p/8968905.html

知识推荐

我的编程学习网——分享web前端后端开发技术知识。 垃圾信息处理邮箱 tousu563@163.com 网站地图
icp备案号 闽ICP备2023006418号-8 不良信息举报平台 互联网安全管理备案 Copyright 2023 www.wodecom.cn All Rights Reserved