Tair:淘宝网自主开发的结构数据存储系统

tair:这个系统进行的很顺利,淘宝在很早就开始使用缓存的技术了,esi解决了页面端静态片段的缓存,tbstore的分布式算法实现

Tair:淘宝网自主开发的结构数据存储系统

tair (编辑注:Tair是由淘宝网自主开发的Key/Value结构数据存储系统。)

TFS的开发,让淘宝的你们不是承诺3年不收费么?收广告费不是收费么?后来我们的竞争对手又推波助澜,公关公司和圈子里各路大侠上蹿下跳,甚至同行搞了个“一键搬家”的功能来收纳我们的会员。一时之间,舆论哗然,各种矛头都指了过来。为了收场,我们又一次在论坛里面让用户投票决定产品是否下线,同“我的淘宝”一样,以悲剧收场。也如同“我的淘宝”一样,下线后,一拨尝到甜头的卖家说,这么好的功能怎么没有了?(直到后来yahoo中国合并过来之后,开发了淘宝直通车,才以类似的产品形态满足了这部分需求)

虽然招财进宝失败了,但这个项目中对技术的探索更加深入,这里面用到了用户行为追踪、Ajax等。其中有一个技术的细节非常经典,淘宝商品详情页面每天的流量在10亿以上,里面的内容都是放在缓存里的,做招财进宝的时候,我们要给卖家显示他的商品被浏览的次数(见下根据保存的key,对key进行hash算法,取得hash值,再对hash值与总cache服务器数据取模。然后根据取模后的值,找到服务器列表中下标为此值cache服务器。由java client api封装实现,应用无需关心;这点和memecached的实现方案完全一致。

tbstore有一个优点,这也是它的弱点,它的存储是基于berkeley DB的,而Berkeley DB在数据量超过内存的时候,就要往磁盘上写数据了,所以说它是可以做持久化存储的。但是一旦往磁盘写数据,作为缓存的性能就大幅度下降。

这时又有一个项目,推动了淘宝在缓存方面的技术提升。在2007年,我们把淘宝的用户信息独立出来,形成一个中心系统uic(user information center),因为淘宝所有的功能都要依赖于用户信息,所以这个模块必须单独拿出来,不然以后系统无法扩展了。把UIC拿出来以后,应用系统访问UIC,UIC访问数据库取得用户信息,粗粗算一下,每天要取几十亿的用户信息,直接查询数据库的话,显然数据库要崩溃的,这里必须要用缓存。于是多隆为UIC专门写了一个缓存系统,取名叫做tdbm。tdbm抛弃了Berkeley DB的持久功能,数据全部存放在内存中。到2009年,多隆又参考了memcached的内存结构,改进了tdbm的集群分布方式,在内存利用率和吞吐量方面又做了大幅提升,推出了tdbm2.0系统。

由于tdbm和tbstore的数据接口和用途都很相似,开发团队把二者合并,推出了淘宝自创的kv缓存系统——tair。tair包括缓存和持久化两种存储功能。tair 作为一个分布式系统,是由一个中心控制节点和一系列的服务节点组成。我们称中心控制节点为config server,服务节点是data server。config server 负责管理所有的data server,维护data server的状态信息。data server 对外提供各种数据服务,并以心跳的形式将自身状况汇报给config server。 config server是控制点,而且是单点,目前采用一主一备的形式来保证其可靠性。所有的 data server 地位都是等价的。tair的架构

目前,tair支撑了淘宝几乎所有系统的缓存信息。Tair已开源,地址code.taobao.org。

在创造了TFS和tair之后,整个系统的架构可以如下所示:

在这个时候搜索引擎iSearch也进行了一次升级,之前的搜索引擎是把数据分到多台机器上,但是每份数据只有一份,现在是每份数据变成多份,整个系统从一个单行的部署变成了矩阵。能够支撑更大的访问量,并且做到很高的可用性。

作者:赵超

文章来源:赵超的博客

本文来自投稿,不代表【】观点,发布者:【

本文地址: ,如若转载,请注明出处!

举报投诉邮箱:253000106@qq.com

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2024年5月3日 17:26:41
下一篇 2024年5月3日 17:28:49

相关推荐

  • 淘宝crmexcel,淘宝网

    淘宝卖家有什么好软件? 淘宝旺铺淘宝旺铺是淘宝开发的增值服务和功能。淘宝助手淘宝助手是一款免费且功能强大的淘宝卖家客户端工具软件。商店优惠券商店优惠券是一种虚拟电子现金优惠券。 推荐五个必备软件千牛软件是淘宝卖家工作台,淘宝卖家、天猫商家均可使用。 淘宝卖家助手 软件类型:电脑软件 软件介绍:【基本介绍】欢迎使用淘宝卖家助手,是你淘宝开店不可缺少的工具箱。 …

    2024年5月11日
    4300
  • 网站实战:拦截“淘宝网”这个热门关键词

    前言,正文,拦截关键词的选取,a,竞争对象,那么直接竞争的关键词通常有,b,用户搜索对象,c,切词形式/附加词,域名,a,匹配度要高,页面构成 前言: 百度收录仅一页,谷歌收录仅一页,历时不到半年,全站只有一个页面,如何做到“淘宝网”百度关键词第二? 正文: 百度狂了,淘宝火了,作为草根的我们,无心无力与巨头想抗,古语有云:大道至简 …

    2024年5月6日
    4500
  • 从“传奇私服”搜索到淘宝网,谈“主题漂移”现象

    搜索“私服”“传奇私服”“新开传奇私服”等关键词,淘宝网女人频道均排在显赫的位置,这是为什么呢,说到这里,觉得不得不提一下“主题漂移”现象 在百度搜索引擎又发生了有趣的事情,搜索“私服”“传奇私服”“新开传奇私服”等关键词,淘宝网女人频道均排在显赫的位置(PS:周一早上起来看,发现此现象已经消失!暂不知是为算法改变,还是人工干预)。这个消息在站长圈子里炸开了…

    2024年5月6日
    5000
  • 淘宝网响应式web设计的一些实践经验

    响应式web设计是当下比较流行的话题,具体的实践方式由多方面组成,包括弹性网格和布局、 感谢贷岩的邀请,我在本期奶茶会上做了“响应式设计实践”的分享,是接着上一次的话题进一步讨论“如何实现”。响应式web设计(responsive Web design)是当下比较流行的话题,什么是响应式设计?简单讲,页面的设计与开发应当根据用户行为以及设备环境(系统平台、屏…

    用户投稿 2024年5月3日
    4900
  • 淘宝网代购业务优势明显,未来业务将不断扩大

    淘宝代购店的优势明显。优势之一是口碑效应明显。淘宝代购店往往会先从家里日常产品开始向消费者推荐,规模效应,淘宝商城、集市、支付宝的基础建设 10月20日,“淘宝网社区店发展论坛”在杭州之江饭店召开。淘宝网代购业务负责人付军告诉记者,淘宝代购店的商品是以非常严格苛求的要求筛选出的独立商品库,不但质量可靠,而且还有严格的质量监管机制。目前预计11月份将达到100…

    2024年4月30日
    5300
  • 淘宝网独立搜索引擎一淘网低调上线测试

    目前的确有一部分淘吧吧主已经晋升成为了淘宝客,在这些淘吧成为淘宝客后会在右侧开辟出三个广告位资源,吧主可以用淘宝客的身份为淘宝商家进行推广 近日,淘宝网独立搜索引擎一淘网低调上线测试,有消息人士透露此举是为打造专业的导购引擎,其购物搜索关注榜、淘吧求购社区等功能也似乎印证了这一点。今天笔者在浏览淘吧时发现,在淘吧右侧位置已经开通了淘宝客的广告,这是否意味着淘…

    2024年4月30日
    5000
  • 了解清楚了淘宝网的优势和自身优势才能做好淘宝创业

    首先我举一个例子,其实我算不上什么专业,只不过对淘宝了解的而比较多,一直都在问答平台给一些网友解决淘宝开店的问题。最近一直有一些人 再现如今这个高科技发达的社会,网上创业无疑受到了很多年轻人的喜爱,然而据统计调查在网上创业的人群中首先考虑到的就是选择淘宝网。我今天就是和大家谈一下,当你准备涉水淘宝网创业的时候,你有没有详细的了解过淘宝网和自己的优势。 说起淘…

    2024年4月30日
    4400
  • 自从刷信用工具在淘宝网泛滥,不少买家遭遇信用陷阱

    我在网上买点卡,结果一直没收到货,找卖家联系却不理我,一看后面的评价,好多人也碰到了这样的事情,碰到这样的事情,一般给对方差评,不会选择报警 信用一直是网络购物的基石,然而自从刷信用工具在淘宝网泛滥之后,坑了不少买家。警方昨日提醒,买家遭遇“信用”陷阱请及时报案,网店弄虚作假也在“打假”范围之内。 高信用包装坑了买家 “我在网上买点卡,结果一直没收到货,找卖…

    2024年4月30日
    5300
  • 淘宝网对“废除信誉评价系统”的官方回应

    上述诉求将会直接摧毁中国电子商务信用及诚信体系,更直接导致假货日益泛滥,并会破坏正常的市场经营秩序,使数以亿计的消费者利益收到损失 11月23日消息,针对《中小卖家聚集淘宝说诉求:要求废除信誉评价系统》,并提出如下诉求:要求淘宝商城“不能在收取交易佣金的情况下,再收取高额‘技术费’”,并“废除淘宝网、淘宝商城、良无限店铺信誉评价系统”;淘宝网发布公告,愿意与…

    2024年4月30日
    5800
  • 淘宝网推出“充100送100”的疯抢活动

    “充100送100”限制多多;“5折房子”加入促销战:据淘宝网方面介绍,此次“充100送100”的活动共有12万个名额,按每人获得100元的现金计算 淘宝双12活动还剩下不到两个周的时间了,淘宝双12活动的细则也已经公布了,除了支付宝充100送100之外,这次还有收藏店铺获得免单的促销活动。年底前最后的促销大战已经吹响了号角。 此前,淘宝商城“1·11”的疯…

    2024年4月30日
    5200

发表回复

登录后才能评论



关注微信