部署大数据:看Facebook是怎么投资数据中心的?

2016.11.21 / View:0

作为社交网络巨头,Facebook在全世界范围内的用户量已经突破十亿。这些用户每天都上传、存储大量的图片、文字等数据。同时,再加上Facebook平台上的各种数据,就显得更加庞大了。对于这些数据的计算、存储等的处理就需要大量的计算资源,这就要求Facebook要有大量的服务器、数据中心。据数据显示,Facebook 在 2009 年冬天大约有3 万台服务器,到 2010 夏天这一数量增长为 6 万。

而自创立开始,Facebook就是租借其他服务供应商的基础设施,且直到现在,Facebook仍然延续这一习惯,Instagram及Prase的业务仍然运行在AWS之上,虽然Facebook已经拥有了四座独立的数据中心。不得不说,正是得力于亚马逊的云计算资源的护驾,Facebook的发展才能非常顺利。

这四座数据中心分别位于俄勒冈州普林维尔(Prineville),北卡罗来纳州(Forest City)和瑞典Lulea以及美国宾夕法尼亚州阿尔图纳(Altoona)。

其中,阿尔图纳的数据中心是Facebook今年才宣布建立的数据中心,将在2015年启用。据了解,该数据中心的投资额达到10亿美元,并号称是“全球技术最先进”的数据中心,将100%采用风力电脑。数据中心位于阿尔图纳附近,分两阶段建成,各5亿美元,占地140万平方英尺。

阿尔图纳市所在的爱荷华州是多个数据中心的所在地,已经有微软、谷歌、LightEdge、Enseva等公司在此投资数据中心,主要原因在于爱荷华州的光纤资源丰富、水电资源丰富、地价低,自然灾难风险低,交通便利。

北卡罗来纳州的数据中心是Facebook于2010年11月宣布建立的,当时Facebook表示在5年内给该数据中心投资4.5亿美元。Facebook在官网上称,这个位于北卡罗来州纳福里斯特城的新数据中心的预期电源使用效率将在1.06到1.08之间。该数据中心首次采用了Open Compute Project 2.0版本的网络服务器,还首次使用英特尔Sandy Bridge处理器的平台。另外,新工程采用户外空气冷却的设计方法,这次也是首次的现场测试。

北卡罗来纳州已经吸引了苹果、Google、美国运通等公司在此地建立数据中心,估计除了地理优势因素,税收上的优惠以及低廉的水电费也是因素之一。

俄勒冈州普林维尔的数据中心是Facebook于2011年8月宣布建立的。普林维尔的数据中心的面积有13万平米,占地达到80.9万平米,相当于113个足球场的大小。其工程分为两个阶段完成,第一阶段已经投入2.1亿美元。此外,该数据中心当时号称是全球最节能的数据中心,它的数据中心 PUE(能耗效率)值达到了令人瞠目结舌的 1.07,远低于业界的平均水平 1.5(我国的平均水平为 2.2-3)。

俄勒冈州普林维尔的优势在于气候宜人,电力价格低廉,而且政府还有减税优惠政策。

Facebook位于瑞典Lulea的数据中心则是Facebook在美国本土之外建立的第一座数据中心,同时也是第一个完全使用Facebook设计的服务器的数据中心。,并于2013年6月对外界公开。

Facebook发言人认为,由于Lulea这个地区气温高于30度的时间不超过24小时,因此选择在这里建造数据中心可以有效地减少一大笔散热方面的支出。此外,Lulea河能为该地区提供充足的电力支持,Facebook无需为建立数据中心而重新设计电力供应系统。

从公开的数据来看,该数据中心是有史以来最高效节能的数据中心。Lulea数据中心用于电力和冷却的能量的比率为1.04:1,而一般的数据中心的比率是3:1。也就是说,Lulea数据中心要比一般的数据中心环保三倍左右。

Lulea的数据中心从服务器到配电系统,几乎所有技术都是基于OCP(Open Compute Project,OCP)设计。这些设计非常高效,Facebook已经将它们公诸于众,现在所有人都可以使用或者改进这些设计。

新能源的利用

从上面的资料可以看出,facebook一直都在追求建立更高效更节能的数据中心,除了经济上的考虑之外(数据中心是能量消耗大户),这可能也与之前被绿色和平组织批评有关系。绿色和平组织曾在2010年抨击Facebook的能源政策,随后Facebook就加大了在能源政策方面的投入,并且在绿色数据中心建设方面取得了长足的进步,也赢得了绿色和平组织赞扬了Facebook在能源使用中保持透明度的做法。

前文提到的爱荷华州阿尔图纳市的数据中心将100%使用风力电能就是Facebook在绿色能源方面的一个例子。而这也是Facebook第二座完全依赖可再生能源的数据中心,第一座是瑞典Lulea的数据中心。Facebook的目标是到2015年,可再生能源在数据中心的使用要占到25%。

瑞典Lulea的数据中心内部的所有设备都是通过本地产生的水电能源来供电,这不仅是100%可再生能源,而且供应量也非常可靠。Facebook的一份新闻稿表示,Facebook已经减少了超过70%的备用发电机。

除了风能,还有太阳能。俄勒冈州普林维尔的数据中心就装备了不少的太阳能电池板。

俄勒冈州普林维尔的数据中心的太阳能电池板

服务器与数据中心方案

2011年4月,Facebook宣布开展一个开放计算项目,计划将Facebook在开发服务器与数据中心过程中得出的技术规格与设计对外开放,并于2011年公开了底层服务器和数据中心的具体方案。具体包括服务器电源供应、服务器机箱、服务器主板、服务器机柜、后备电源机柜规格,以及数据中心电力及机械系统规格的具体规格。(高效免费的设备结构设计开放后,将会对惠普、戴尔、思科等产生威胁。)

搜狐IT曾编译相关信息,摘抄如下:

服务器方面:

1、服务器使用1.2mm镀锌、防腐蚀钢板,无前面板; 2、部分部件采用卡和连接:主板利用多个安装孔,卡入机箱;硬盘使用咬合导轨,安装在驱动器托架上。一个单元只有一个接地螺丝。这使得Facebook可以在3分钟内搭建整台服务器; 3、Facebook服务器高1.5U,比一般服务器高50%,空间更大,散热也更快; 4、具有局域网重启功能,可以让系统管理员发送特定网络指令,立即重启服务器; 5、主板扬声器被替换为LED指示灯,以节省电源,服务器还提健康状态指示灯; 6、同时支持交流和直流电源,使得服务器可以在停电时转为直流后备电池供电; 7、使用Xeon 5500系列和5600系列两种处理器,搭载英特尔主板,内置英特尔5500 I/O Hub芯片,内存最大可扩展至144GB。AMD的粉丝可以选择两个Magny-Cours 12核心或8核心处理器,搭配AMD SR5650芯片组,内存最高可扩展至192GB。(这是2011年公布时候的数据。)

数据中心方面:

Facebook将这些方案都运用到了位于俄勒冈州的普林维尔(Prineville)数据中心上。用了两年的时间,从服务器到电池组再到后备服务器,Facebook致力于让设备变得更加绿色、环保。比如,Facebook利用集成设计,可以有效的降低能耗。房间内的风扇和服务器风扇成对连接在一起。动作感应LED照明也可用于内部照明。

整个数据中心的能耗按PUE(Power Usage Effectiveness,电能使用效率)衡量是1.07,大大低于美国环保署规定的最优方法比值1.5。

Facebook的设计方案可以让设备在更为潮湿的环境中运行。普林维尔数据中心的设备运行环境为30摄氏度、65%的相对湿度。这样可以使Facebook依赖蒸发冷却来降温,而不需使用空调。其他建设工程方面的创新还包括,普林维尔数据中心使用277伏特的配电系统,而一般数据中心使用的是208伏特的配电系统。Facebook的做法可以减少一个主变压器,减少转换时的能耗。在一般的数据中心中,电力转换要损失22-25%的能量。在普林维尔只损失7%。

当办公室太冷的时候,Facebook还利用来自服务器的热量加热空气。夏天,数据中心会向进入室内的暖空气喷水降温。同时Facebook数据中心的机箱和服务器设计也非常适合于集装箱装运,这样可以减少运输中的浪费。Facebook的方案尽可能挖掘这些服务器的潜能,使得它不需要在进行基础架构的建设。

永洪科技
致力于打造全球领先的数据技术厂商

申请试用
Copyright © 2012-2024开发者:北京永洪商智科技有限公司版本:V10.2
京ICP备12050607号-1京公网安备110110802011451号 隐私政策应用权限