便携式应急电源
镀铜焊丝的缺陷检测方法、装置、设...
电码的自动识别方法及存储介质
基于强化学习的楼栋摆放方法、装置...
用于观测水下生物的系统及其方法
一种电子设备的空中固件差分升级方...
一种印刷模切张力自动控制系统及其...
低功耗状态监控设备
一种利用RTP扩展头部解决视频帧...
一种高衍射效率相位型空间光调制器...
一种家装板材运输用包装机器人
航空发动机精密管路及其航空发动机...
宽光谱吸收的薄膜太阳能电池及光伏...
一种基于磁通压缩的脉冲磁体装置及...
一种总线访问仲裁装置及方法
一种处理网络抖动的方法及装置
基于光芯片的数据处理方法、装置、...
一种基于小基线条件下的大畸变广角...
一种自动识别设备间网络拓扑结构的...
基于光芯片的数据处理方法、装置、...
企业介绍页面,左右侧内容分别复制到相应容器即可,起始结束位置代码已作标注
专利名称任务分配方法、装置、服务器和存储介质
申请日2019-11-14
申请号/专利号CN201911115472.0
专利权人北京知道创宇信息技术股份有限公司
申请人北京知道创宇信息技术股份有限公司
发明人/设计人张昊
公告日2020-03-06
公告号CN110866167A
法律状态审中
专利类型发明
行业分类信息技术

摘要

本申请实施例提供一种任务分配方法、装置、服务器和存储介质,该方法可应用于分布式爬虫系统中的主节点,该任务分配方法包括:向从节点发送任务数量为第一数量的第一任务;接收从节点返回的第一数量的第一任务的任务执行结果;根据任务执行结果计算从节点当前的处理能力值;根据当前的处理能力值对从节点的任务数量进行更新,以在下一次发送任务时根据更新后的任务数量向从节点发送任务。以此能够改善现有技术中爬虫集群的处理效率低的问题。
  关于我们  | 帮助中心  |  服务清单  |  发展历程 |  网站地图  |  手机访问

Copyrights 2016-2020  

南京锐阳信息科技有限公司 版权所有

苏ICP备17027521号-1

地址: 南京市秦淮区永智路5号五号楼3层