便携式应急电源
镀铜焊丝的缺陷检测方法、装置、设...
电码的自动识别方法及存储介质
基于强化学习的楼栋摆放方法、装置...
用于观测水下生物的系统及其方法
一种电子设备的空中固件差分升级方...
一种印刷模切张力自动控制系统及其...
低功耗状态监控设备
一种利用RTP扩展头部解决视频帧...
一种高衍射效率相位型空间光调制器...
一种家装板材运输用包装机器人
航空发动机精密管路及其航空发动机...
宽光谱吸收的薄膜太阳能电池及光伏...
一种基于磁通压缩的脉冲磁体装置及...
一种总线访问仲裁装置及方法
一种处理网络抖动的方法及装置
基于光芯片的数据处理方法、装置、...
一种基于小基线条件下的大畸变广角...
一种自动识别设备间网络拓扑结构的...
基于光芯片的数据处理方法、装置、...
企业介绍页面,左右侧内容分别复制到相应容器即可,起始结束位置代码已作标注
专利名称一种分布式网络爬虫系统
申请日2013-07-02
申请号/专利号CN201310274951.3
专利权人北京航空航天大学
申请人北京航空航天大学
发明人/设计人王宝会;于雷;王丽华;王新河;尹科
公告日2016-09-28
公告号CN103310012B
法律状态有效
专利类型发明
行业分类

摘要

一种分布式网络爬虫系统,适用于网络信息采集领域,包括:管理门户、中心节点服务器、分布式子节点服务器;管理门户是爬虫系统对管理员提供的Web接口,能够查看中心节点服务器和分布式子节点服务器的日志,设置添加主题,更新某个主题的URL种子,配置主题的抓取频率参量,控制爬虫的状态;中心节点服务器和分布式子节点服务器爬虫是系统的主体,完成主题操作、数据抽取器的学习、页面分析以及目标页面的存储。本发明实现了一个爬虫容纳不同主题的抓取,提高了抓取网页的速度和质量不能满足了用户要求。
  关于我们  | 帮助中心  |  服务清单  |  发展历程 |  网站地图  |  手机访问

Copyrights 2016-2020  

南京锐阳信息科技有限公司 版权所有

苏ICP备17027521号-1

地址: 南京市秦淮区永智路5号五号楼3层