解决方案:一种物联网数据采集器动态分发方法及系统与流程

优采云 发布时间: 2022-11-09 07:26

  解决方案:一种物联网数据采集器动态分发方法及系统与流程

  1、本发明涉及数据采集技术领域,具体涉及一种物联网数据采集器动态分发方法及系统。

  背景技术:

  2、随着物联网技术的发展,数据采集终端的种类和规模不断增加,对数据采集系统的部署和采集效率提出了更高的要求. 对于大型采集系统,负载均衡和动态部署是保证采集终端数据高效的基础。

  3、传统的data采集部署方式,通常以中间件的形式实现。比如data采集模块用于完成业务调度和执行,从上层调用data采集逻辑。控制数据采集终端实现数据采集。当这种方法配置为最小粒度(指标)时,每个指标被视为一个采集任务,每个采集任务需要单独配置,采集的效率为低的。而data采集器负载均衡依赖中间件,运维难度大,没有动态部署机制。当系统需要增加对其他数据源的支持时,需要扩展新的data采集协议,需要重新部署,维护工作量大,可扩展性差。对于*敏*感*词*数据采集 任务,它有明显的局限性。

  技术实施要素:

  4、为了克服现有技术的不足,本发明提供了一种物联网数据动态分发采集器的方法和系统,首先将需要采集的终端指标重组为采集按照一定的规则。>任务列表发送到对应的物联网网关,然后初始化采集执行器的执行环境,最后根据采集任务实例化采集执行器完成数据采集 工作。本发明不仅可以降低数据采集系统的部署和维护难度,而且在系统增加新的数据源时不需要重新部署,保证了系统的稳定性和可靠性。系统数据采集和改进<

  5、一种物联网数据动态分布采集器的方法,主要包括:

  6.s1:查找所有终端指标,根据终端和数据源对终端指标进行分组,得到指标组列表;

  7.s2:根据不同的数据源对指标组列表进行分组,得到数据源指标组;根据数据源指定的分配算法,将数据源指标组列表中的指标分配给搜索到的物联网网关,获取每个网关采集需要执行的任务列表,并将任务发送给对应的网关;

  8.s3:根据采集任务查找是否有初始化的采集executor执行环境,如果没有,转步骤s4,如果有,转步骤s7;

  9.s4:查找是否有本地缓存​​的采集执行器文件,如果没有,转步骤s5,如果有,转步骤s6;

  10.s5:平台向物联网平台请求采集执行器文件后,将文件发送给物联网网关,网关接收到文件后,执行步骤s6;

  11.s6:加载并初始化采集执行器的执行环境,然后进行步骤s7;

  12.s7:根据采集任务实例化采集器并启动,执行数据采集,通过

  网关上传到物联网平台。

  13、进一步,在步骤s1中,终端指标为数据采集的最小单位,如压力、流量、温度、湿度等。

  14、进一步地,在步骤s1中,查找所有终端指示灯的查询条件为:终端状态开启,终端指示灯状态开启,采集状态为等待。终端状态包括:启用、禁用和删除,指示灯状态包括:启用、禁用和删除,以及采集 状态包括:停止、等待、采集和错误。

  15、进一步地,当终端的数据和终端索引中与数据采集相关的信息发生变化时,启动终端索引采集的配置重组,则步骤s1为触发。

  16、进一步地,在步骤s2中,采集任务列表收录数据源信息和采集指标组列表。

  17、进一步的,一个数据源通过其编号与多个网关的网关编号相关联,在数据源指标组中查找与该数据源关联的网关的规则为:网关可以正常运行采集> 数据源。任务; 寻找:与此数据源相关联,状态为启用,运行状态为备用或采集;运行状态包括:standby、采集、stopped。

  18、进一步地,在步骤s2中,分配算法包括轮询、加权轮询、总分配、资源负载和动态负载算法。对于环境相对固定的场景,使用轮询、加权四舍五入。查询和总分配算法,对于环境变化频繁的场景,使用资源负载和动态负载算法。

  19、进一步,在步骤s3中,当采集任务在当前网关中出现数据采集通道故障时,将重新分配当前采集任务,并将对应的数据源当前网关将被标记为发生故障,在故障修复后状态重置为备用之前,它不会参与后续分配中的分配。

  20、进一步地,步骤s4中,采集执行器文件包括:采集执行器相关代码和类库。

  21.一种物联网数据采集器动态分发系统,用于上述数据采集器动态分发方法,包括:

  22、指标组列表获取模块,用于查找所有终端指标,根据终端和数据源对终端指标进行分组,得到指标组列表;

  

  23、采集任务列表获取模块,用于根据不同的数据源对指标组列表进行分组,得到数据源指标组;根据数据源指定的分配算法,将数据源指标组列表中的指标分配给数据源。找到物联网网关,获取每个网关要执行的采集任务列表,并将任务发送到对应的网关;

  24、执行环境判断模块,用于根据采集任务判断是否存在初始化的采集执行器执行环境;

  25、采集执行器文件判断模块,用于查找本地是否有缓存的采集执行器文件;

  26、文件传输模块用于向物联网平台请求采集执行器文件,平台将文件发送到物联网网关。网关接收到文件后,执行加载和初始化模块的功能;

  27、加载和初始化模块,用于加载和初始化采集执行器的执行环境;

  28、data采集模块用于实例化采集器并根据采集任务启动,执行data采集,并转换成统一结构上传它通过网关连接到物联网平台。

  29、本发明提供的技术方案带来的有益效果是:本发明可以实现系统内系统任务的负载均衡和动态部署,只需要在系统数据采集时部署网关即可。 ,而当系统需要添加对其他数据源的支持时,不需要重新部署,只需要实现数据源对应的采集执行器并打包上传到物联网平台即可。由于网关的变化相对于采集执行器来说是相对固定的,相对于传统的基于中间件的方式,

  目前的负载均衡和动态部署降低了data采集系统的整体部署和维护难度,提高了系统的可扩展性,保证了系统data采集的稳定性和可靠性,完善了系统表现。采集故障转移的效率。

  图纸说明

  30、下面结合附图和实施例对本发明作进一步说明,其中:

  31. 图。图1为本发明实施例的物联网数据采集器动态分发方法流程图。

  32. 图。图2为本发明实施例的物联网数据采集器动态分布原理*敏*感*词*。

  详细方法

  33、为了更清楚地理解本发明的技术特征、目的和效果,现结合附图对本发明的具体实施方式进行详细说明。

  34、本发明实施例提供了一种物联网数据采集器的动态分发方法和系统。

  35. 请参考图。请参阅图1,为本发明实施例的物联网数据采集器动态分发方法的流程图,具体包括:

  36.s1:查找所有终端指标,根据终端和数据源对终端指标进行分组,得到指标组列表。

  37、终端指标是数据采集的最小单位,如压力、流量、温度、湿度等。

  38、查找终端指示灯的查询条件为:所属终端状态为:启用,终端指示灯状态为:启用,采集状态为:等待。

  39、终端状态包括:启用、禁用和删除,指示灯状态包括:启用、禁用和删除,采集状态包括:停止、等待、采集和错误。

  40、当终端数据和终端索引中的数据采集相关信息发生变化时,将发起终端索引采集的配置重新合并,执行步骤1被触发。

  41.s2:根据不同的数据源对指标组列表进行分组,得到数据源指标组。根据数据源指定的分配算法,将数据源指标组列表中的指标分配给搜索到的物联网网关,获取每个网关要执行的采集任务列表,并将任务下发给对应的物联网网关网关。

  42. 采集 任务收录数据源信息和采集 指标组列表。

  43、一个数据源可以通过数据源编号关联多个网关的网关编号。在数据源指标组中查找与数据源关联的网关的规则是:网关可以正常运行数据源的采集任务;查找:与此数据源关联,状态已启用,运行状态为备用或采集。

  44. 运行状态包括:待机、采集 和已停止。

  45. 分配算法包括轮询、加权轮询、总分配、资源负载和动态负载算法。各个算法的具体定义如下:

  46、轮询算法是指将指标组平均分配到各个网关的算法;

  

  47、加权轮询算法是指根据每个网关的权重分配指标组的算法;

  48、总分配算法是指分配每个网关当前任务数的算法,使网关上的任务总数相近;

  49、资源负载算法是指分配各个网关当前的硬件负载(cpu、内存、网络)的算法,使网关的负载相对均衡;

  50、动态负载算法是指第一次使用资源分配策略进行分配,然后结合资源负载变化动态调整的算法。

  51.对于采集环境比较固定的场景,可以使用round-robin、weighted round-robin、total allocation算法。对于环境变化频繁的采集场景,使用资源加载和动态加载算法。

  52、当数据源或其绑定网关的数据中与数据采集相关的信息发生变化时,将重新分配指标组触发步骤2。

  53.s3:根据采集任务查找是否有初始化的采集executor执行环境,如果有,转步骤s7,否则转步骤s4。采集executor 是运行 采集 任务的相关代码。

  54、当采集任务在当前网关出现数据采集通道故障时,将重新分配当前采集任务,并将当前网关对应的数据源标记为失败,将执行后续分配。中间不参与分配,直到故障修复后状态重置为待机。

  55.s4:根据采集执行器的id查找本地是否有缓存的采集执行器文件,如果有,转步骤s6,否则转步骤s5。采集executor文件收录:采集executor相关的代码和类库。

  56.s5:向物联网平台请求采集执行器文件,平台将文件发送给物联网网关,网关收到文件后执行步骤s6。

  57.s6:加载并初始化采集执行器的执行环境,加载后执行第7步。

  58.s7:根据采集任务实例化并启动采集执行器,对数据采集进行处理,转换成统一的结构,通过网关上传到物联网平台. 一种实现上述数据采集器动态分发方法的物联网数据采集器动态分发系统,具体包括:

  59、指标组列表获取模块,用于查找所有终端指标,根据终端和数据源对终端指标进行分组,得到指标组列表;

  60.采集任务列表获取模块,用于根据不同的数据源对指标组列表进行分组,得到数据源指标组;根据数据源指定的分配算法,将数据源指标组列表中的指标分配给数据源。找到物联网网关,获取每个网关要执行的采集任务列表,并将任务发送到对应的网关;

  61、执行环境判断模块,用于根据采集任务判断是否存在初始化的采集执行器执行环境;

  62、采集执行器文件判断模块,用于查找本地是否有缓存的采集执行器文件;

  63、文件传输模块用于向物联网平台请求采集执行器文件,平台将文件发送至物联网网关。网关接收到文件后,执行加载和初始化模块的功能;

  64、加载和初始化模块,用于加载和初始化采集执行器的执行环境;

  65、data采集模块用于实例化采集器并根据采集任务启动,执行data采集,并将其转换成统一结构并上传它通过网关连接到物联网平台。

  66. 图。图2为本发明实施例的物联网数据采集器动态分布原理*敏*感*词*。

  67. 具体实施方式:

  68、如图2所示,添加终端指标后,分发服务在平台监测到新终端指标后,触发与指标关联的数据源重新分发采集任务。任务重新分配后,发送到网关服务,网关服务将任务发送到物联网网关,网关实例化任务,为data采集工作创建采集器连接数据源,采集器采集>接收到的数据通过物联网网关上传到网关服务。

  69、当有新的物联网网关连接时,状态服务会通知分发服务

  与网关关联的数据源重新分配采集的任务,重新分配后将任务发送给网关服务。网关服务向物联网网关发送任务,网关实例化任务并创建一个采集器连接数据源为data采集工作,采集器接收的数据采集会通过物联网网关上传到网关服务。

  70、本发明的有益效果是:本发明可以实现系统内系统任务的负载均衡和动态部署,只需要在系统数据采集时部署网关,系统需要新增数据到其他数据源支持的情况下,无需重新部署,只需实现数据源对应的采集执行器并打包上传到物联网平台即可。由于网关的变化相对于采集执行器来说是相对固定的,相对于传统的基于中间件的方式来实现负载均衡和动态部署,降低了数据的整体部署和维护难度采集> 系统和改进它提高了系统的可扩展性,

  71、以上所述仅为本发明的较佳实施例而已,并不用于限制本发明。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应收录在本发明之内。保护范围内。

  免费的:SEO自动推广工具,免费SEO有用吗?

  当你运行一个SEO项目时,你经常会想,如果你能自动优化SEO,那该有多好,如果你能免费做,那就完美了。因此,大量的SEO在

  进入行业时,往往习惯走捷径,愿意寻找那些SEO自动推广工具,创造方便的优化条件。

  所以,搜索引擎优化

  自动推广工具,免费SEO有用吗?

  根据之前对SEO工具的研究,冠联认为这个问题应该分为两个来看待,比如:

  1. 提交 PBN

  所谓PBN反向链接是*敏*感*词*产品,近两年*敏*感*词*贸SEO朋友经常讨论这个问题,这和国内博客反向链接类似,主要是指自建网站采集

  但唯一不同的是,它强调所有PBN网站的独立操作,国外一些SEO自动推广工具收录了一键提交到这些PBN网站的功能。

  有时,您无法合理评估这种免费的SEO贡献行为是否无效。

  

  2. 自动插件

  如果您使用的是像WordPress这样的博客系统,您会发现那里有大量相关的插件,并且许多免费插件提供SEO自动使用功能,例如

  :

  (1) 根据实际字数设置自动提取网页描述标签。

  (2) 生成页面时自动添加锚文本网站。

  (3) 更新网站时,自动生成网站地图。

  事实上,这些免费的SEO功能有一定的积极作用。

  3. 分组发送外部链接

  在众多的SEO推广中

  软件中,最流行的SEO自动推广工具之一是群组反向链接,通常主要分为以下内容:

  (1)超级反向链接

  

  所谓超级反向链接,主要是在短时间内,在相应网站中做出具有一定权重的相关搜索查询,从而瞬间产生大量的外部查询链接。

  (2) 站群分组发送

  对于站群组反向链接,通常是

  价格低,只需要花一小笔费用,就可以在网站发布上千个反向链接,通常这类网站,基本上不会被百度收录,同时,网站运营的时间段也比较短。

  链接到这两个使用免费SEO的策略显然对SEO没有用,偶尔会适得其反。

  4. 快速排名

  搜索引擎优化

  Quick Ranking,相关软件,是常见的SEO自动推广工具,但它并不是完全免费的SEO,而是需要你充值一定量来模拟真实用户行为刷点击。

  显然,这不是真正的用户搜索点击,理论上短期内可能对SEO有用,但从长远来看,它不会有任何用处。

  总结:免费SEO的相关自动推广工具对SEO结果是否有用,有时候需要具体问题,具体分析,以上内容仅供参考!

0 个评论

要回复文章请先登录注册


官方客服QQ群

微信人工客服

QQ人工客服


线