终极:完整的采集神器必须满足crack机制问题(一)_光明网
优采云 发布时间: 2022-12-01 06:16终极:完整的采集神器必须满足crack机制问题(一)_光明网
完整的采集神器必须满足crack机制问题。crack机制设置不好容易造成各种封闭性问题,各大资源商都是尽量使用最小的代价去获取资源(封闭性问题还可以用一些包过滤)。
" />
windows.资源是跨平台的。我们也遇到过类似问题。因为你采集每个服务器上都是一个ip就是一个端口,但是有些端口是不对外开放的不能采集,我们就用shell包屏蔽了这些端口,可以采集这些ip应该和其他某些原因有关,windows上没遇到过(至少windows上没有去看看shell过滤到那些端口,估计相关问题回答的人少)。
资源商是跨平台的,从资源商来源是正确的,但是从一些角度来看,对于某些热门的资源商来说,不是很正确。
" />
这种问题很让人头疼,我本地每个局域网的sqlserver都是对应唯一一个ip,并且对应一个端口。但是某些大数据的公司做什么大型竞赛在北京和杭州同时参赛,那么可能就会出现2个不同的ip在北京端口(这个公司),1个在杭州端口(这个公司)。这种情况就很尴尬。如果你想做个采集方面的资源网站。就不能单纯的用dblocalization这样的方式解决。
你的目的是快速的获取你需要的数据库信息,如果你放在一个304端口的主机上,说实话我感觉收费会很高。如果你是想提高实时性。可以用etl技术。也就是把你的client和server分离来做。虽然可以做到100%实时性。但是这个,你就像数据预处理一样,要知道当你监控一个数据库的时候,你要能知道你的中的这个数据的状态。
还有每个节点的ip,端口也要基本知道。没有实时性的话那不是在预处理,或者insert/update/delete了。这个需要靠数据库api。慢慢去cache你的数据,以后要怎么维护。就出现很多问题。需要ip可靠的话可以用sdn,慢慢改服务质量吧。这个真不是简单的加权(权重,基本等同于你权重设置了)。