汇总:详解今日头条技术架构分析

优采云 发布时间: 2022-10-12 02:11

  汇总:详解今日头条技术架构分析

  - 背景 -

  今日头条是一个为用户提供个性化信息的客户端。和大家分享一下今日头条的一些数据(基于内部和公开数据):

  - 文章爬取和分析 -

  我们每天产生约10,000条原创新闻,包括重大新闻网站和地方台,以及一些小说、博客等文章。对于工程师来说,写一个 Crawler 并不难。接下来,今日头条会人工审核过滤敏感的文章。此外,今日头条今日头条号还有大量原创文章加入内容选择队列。接下来,我们将对文章进行文本分析,如分类、标注、主题提取、按文章或新闻的区域、流行度、权重计算。

  - 用户建模 -

  用户开始使用今日头条后,会对用户的行为日志进行实时分析。使用的工具如下: - 抄写员;- 水槽;- 卡夫卡。我们挖掘用户的兴趣,学习用户的一举一动。主要使用: - Hadoop;- 风暴。与大多数模式一样,生成的用户模型数据存储在 MySQL/MongoDB(独立读写)和 Memcache/Redis 中。随着用户数量的不断扩大,用户模型处理的机器集群数量也越来越多。在 2015 年之前,大约是 7,000 台。其中,用户推荐模型包括以下几个维度: 1、用户订阅;2、标签;3.部分文章分散推送。在这一点上,需要每时每刻提出建议。

  - 新用户冷启动 -

  今日头条会被用户的手机、操作系统、版本等“识别”出来。另外,比如用户通过新浪微博等社交账号登录,今日头条会对用户进行初步的“画像”。用户在好友、粉丝、微博内容、转发、评论等维度。分析用户的主要参数如下: -关注度、粉丝关系;- 关系; - 用户标签。除了手机硬件,今日头条还分析了用户安装的应用。比如机型和APP结合分析,用小米,用三星,用苹果,除了用户的浏览器书签外,都不一样。今日头条会实时捕捉用户在APP频道上的动作。此外,还包括用户订阅的频道,

  

  - 推荐系统 -

  推荐系统,也称为推荐引擎。它是今日头条技术架构的核心部分。自动推荐和*敏*感*词*推荐系统有两种: 1. 自动推荐系统——自动候选;- 用户自动匹配,如用户地址定位、用户信息提取;- 自动生成推送任务。这时候就需要一个高效大并发的推送系统,亿万用户都要接收。2.*敏*感*词*推荐系统——自动选择候选人文章;- 根据用户在网站内外的行为。今日头条的频道在技术方面进行了划分,包括分类频道、兴趣标签频道、关键词频道、文本分析等。这些被分成相对独立的开发团队。目前已有300多个分类器,新的用户模型还在不断增加中。原创用户模型不需要撤消并且仍然可以运行。今日头条号上线前,内容主要是抢其他平台的文章,然后去重,一年几百万,不算太大。主要是用户动作日志采集、兴趣采集、用户模型采集。资讯类APP的技术指标,比如屏幕滑动、用户是否读完一篇文章、停留时间等,都需要我们特别关注:原创用户模型不需要撤消并且仍然可以运行。今日头条号上线前,内容主要是抢其他平台的文章,然后去重,一年几百万,不算太大。主要是用户动作日志采集、兴趣采集、用户模型采集。资讯类APP的技术指标,比如屏幕滑动、用户是否读完一篇文章、停留时间等,都需要我们特别关注:原创用户模型不需要撤消并且仍然可以运行。今日头条号上线前,内容主要是抢其他平台的文章,然后去重,一年几百万,不算太大。主要是用户动作日志采集、兴趣采集、用户模型采集。资讯类APP的技术指标,比如屏幕滑动、用户是否读完一篇文章、停留时间等,都需要我们特别关注:

  - 数据存储 -

  今日头条使用MySQL或者Mongo持久化存储+Memched(Redis),分成很多库(一个大内存库),也尝试使用SSD产品。今日头条的图片存储直接放在数据库中,文件采用分布式存储,读取时使用CDN。

  - 新闻推送 -

  消息推送,为用户:及时获取信息。对于运营来说,它可以提高用户的活跃度。比如今天今日头条推送后,DAU可以提升20%左右。如果没有推送,将影响 DAU 约 10%(2015 年数据)。推送后需要关注的ROI:点击率、点击量。能够监控应用程序卸载和推送禁用的数量。今日头条推送的主要内容包括突发热点信息、有人评论回复、异地好友注册加入等。在今日头条,推送也是个性化的: - 频率个性化;- 内容个性化;- 地区; - 兴趣。比如按城市:辽宁朝阳的一则新闻事件,发送给朝阳本地用户。根据兴趣:例如,京东收购一号店,发给对互联网感兴趣的用户。推送平台的工具和选择需要满足以下条件: - 渠道,首先速度要快,但要可控、可靠、节省资源;- 推送速度快,多维度策略支持,可追踪,开发界面友好;- 推送操作的后端也应该提供快速的反馈,包括及时性、流行度和便捷的工具操作;- 运营方要明确是否确认推荐,包括推送的文案处理。因此,推送后端应该提供日报、完整的数据后端,以及对A/B Test方案的支持。部分推送系统使用自己的IDC,占用大量带宽,消耗大量带宽。您可以使用像阿里云这样的服务,可以有效节省成本。

  - 今日头条系统架构 -

  

  - 今日头条微服务架构 -

  今日头条拆分子系统,将大应用拆分成小应用,抽象出通用层用于代码复用。

  系统的分层是典型的。重点是基础设施,我们希望通过基础设施来完善快速迭代、容灾等一系列工作,也希望各个业务团队能够更快地进行业务迭代和架构调整。

  - 今日头条虚拟化PaaS平台规划-

  它通过三层实现,通过PaaS平台统一管理。提供通用的SaaS服务和通用的App执行引擎。底层是 IaaS 层。

  IaaS 管理所有机器并集成公共云。今日头条的一些热点事件将在全国范围内推广和推送。网络带宽比较高。我们使用公共云来抽象出需要哪种类型的计算资源。基础设施结合了服务的思想,比如日志、监控等功能。企业可以在不关注细节的情况下享受基础设施提供的能力。

  - 总结 -

  今天头条的重要部分是:

  最新发布:济南seo网站排名优化工具

  济南SEO站优化的具体流程来了!

  济南SEO站优化的具体流程来了!站内SEO优化,顾名思义,就是网站的内部优化,也就是说,当我们新建一个站点或者接手一个网站时,需要对网站进行一系列动作网站

  网站的排名优化应该怎么做?网站 排名优化有哪些技巧?

  网站的排名优化应该怎么做?网站 排名优化有哪些技巧?理论上,任何激进的 网站 排名优化都会在足够长的 SEO 周期内产生令人满意的收益,但是

  SEO关键词SEO 优化者必备的优化工具

  网站Seo 必须掌握几个关键词 优化工具。我们优化关键字分析的过程,以更好地优化关键字。这必然会借用各种第三方SEO关键词优化工具。这些工具不仅帮助我们提高

  SEO关键词排名优化和全站优化如何选择?

  我们在优化网站的时候,总是关注首页的优化效果,很少优化内部部分。但是现在算法经常更新,首页的优化已经不能满足整个网站排名优化的需要。说说SEO关键词排名优化和优化

  【滁州网站建设】SEO优化中关键词排名优化方法分享

  SEO优化是指网站j在搜索引擎中建立关键词排名优化。它的中文名称是SEO,也是提高网站关键词在搜索引擎中的自然排名的技术手段。SEO优化的第一步是确定关键词。以下

  

  那么SEO排名优化工作的指导方针是什么?

  对于搜索引擎排名,每个 seo 人都有自己独特的秘密。通常,它会根据所处的行业进行针对性的优化,但保持不变。对于任何一个行业来说,它的排名机制都是一样的。旨在满足某些搜索需求

  在SEO优化中,做关键词排名优化的思路

  随着互联网的不断发展,现在的互联网体系已经非常成熟,很多公司已经开始优化关键词的排名,因为做好关键词的排名优化也奠定了为优化网站打下坚实的基础。因此,企业非常重视关键词的排名优化

  企业SEO咨询服务,索引词排名优化容易吗?

  企业SEO咨询服务,索引词排名优化容易吗?经常听到站长提到索引词排名优化,那么索引词优化难吗?接下来,推蛙为站长分享详情。

  【滁州网站建设】SEO排名优化关键词优化提升网站收录

  网站SEO的主要目的是对关键词进行排名。只有关键词排名靠前,流量和订单才有可能。但是,如果要对关键字进行排名,则需要先选择关键字。如果你没有很好地选择关键词,即使你选择了

  总结了SEO排名优化的几个坑

  做SEO并不是一件容易的事。从新手到老手,往往有很多陷阱需要踩。为了让SEOer们减少陷阱,我们特地总结了SEO排名优化中的几个陷阱,希望大家在优化的时候可以避开。,做更好的SEO优化

  

  网站排名优化不正确的9个观点,你被抓到了吗?

  对于网站的排名优化,有些朋友对角色的理解比较深入,但对概念还是不太了解。其实一般来说网站的排名优化是指NNT流量网站在搜索引擎优化排名,这个网站

  SEO优化效果不理想,新手该怎么办?

  对于新手网站优化seo推广,入手网站排名优化时没有经验和实际操作。所以在实际的SEO优化工作中会遇到很多难以理解的问题,所以SEO优化效果并不理想,新手该怎么办呢?

  网站排名优化也可以借助蜘蛛池来提升!

  关于网站的排名优化,我们比较了解的是功能,但是有些人对这个概念不是很熟悉。其实简单来说网站的排名优化是指NNT流量网站在搜索引擎中排名最优

  网站seo优化常用哪些工具

  优化网站 seo 的时候经常用到各种优化工具。下面介绍一下网站seo优化中经常用到哪些工具。1. 谷歌趋势中的每一个关键词谷歌趋势

  增长知识!seo网站排名优化的重要性!

  关于seo,网站是由很多网页组成的,而网站是由一个或多个网页组成的,所以优化的对象是网页而不是网站。关于网站优化排名有很多误区,大部分人总是认为优化排名

0 个评论

要回复文章请先登录注册


官方客服QQ群

微信人工客服

QQ人工客服


线