便携式应急电源
镀铜焊丝的缺陷检测方法、装置、设...
电码的自动识别方法及存储介质
基于强化学习的楼栋摆放方法、装置...
用于观测水下生物的系统及其方法
一种电子设备的空中固件差分升级方...
一种印刷模切张力自动控制系统及其...
低功耗状态监控设备
一种利用RTP扩展头部解决视频帧...
一种高衍射效率相位型空间光调制器...
一种家装板材运输用包装机器人
航空发动机精密管路及其航空发动机...
宽光谱吸收的薄膜太阳能电池及光伏...
一种基于磁通压缩的脉冲磁体装置及...
一种总线访问仲裁装置及方法
一种处理网络抖动的方法及装置
基于光芯片的数据处理方法、装置、...
一种基于小基线条件下的大畸变广角...
一种自动识别设备间网络拓扑结构的...
基于光芯片的数据处理方法、装置、...
企业介绍页面,左右侧内容分别复制到相应容器即可,起始结束位置代码已作标注
专利名称一种基于探测网页更新周期的抓取方法
申请日2013-01-08
申请号/专利号CN201310007246.7
专利权人北京航空航天大学
申请人北京航空航天大学
发明人/设计人王丽华;牟宏磊;王宝会;蒙洋;贾佳;李明亮;杨磊
公告日2015-10-07
公告号CN103020313B
法律状态有效
专利类型发明
行业分类

摘要

本发明提供一种基于探测网页更新周期的抓取方法,所述方法为通过周期性探测网页内容获取网页更新时间进行设置规则,设置内容包括页面url链接,ip地址,网页获取方式,网页获取UA等。页面的url链接主要是指定抓取网页的目标链接,此链接可以依据给予的网页源进行设置或者依旧历史抓取信息进行设置。Ip地址用于指明此链接服务器的ip地址信息,获取方式为服务器返回或者历史信息中获得。网页获取方式依据网页更新时间进行修改设置。网页获取UA可依据需求进行设置为实名和匿名。本发明能够在获取不同网页的同时很好地获取同一网页源的不同时期的网页信息。
  关于我们  | 帮助中心  |  服务清单  |  发展历程 |  网站地图  |  手机访问

Copyrights 2016-2020  

南京锐阳信息科技有限公司 版权所有

苏ICP备17027521号-1

地址: 南京市秦淮区永智路5号五号楼3层