在數(shù)據(jù)中心領域,互聯(lián)網(wǎng)企業(yè)是一個極為特殊的群體:為了支撐高速增長的海量業(yè)務,谷歌、Facebook等大型互聯(lián)網(wǎng)公司不斷探索和實踐更高效更智能更節(jié)能的數(shù)據(jù)中心建設與運維技術,由此迸發(fā)或加速推進了許多創(chuàng)新技術,如自然冷卻、模塊化數(shù)據(jù)中心、整機柜等,可以說掀起了一場由企業(yè)用戶主導的數(shù)據(jù)中心技術變革。
令人欣慰的是,國內(nèi)的互聯(lián)網(wǎng)企業(yè)如騰訊、百度和阿里巴巴等亦很快領會了這種開放與創(chuàng)新精神,積極學習國外新技術的同時,也致力于自主研發(fā),從而建設出一批在領先性與國際接軌的數(shù)據(jù)中心,騰訊天津數(shù)據(jù)中心就是其中典型。
近日,為增強業(yè)內(nèi)技術交流,騰訊首次向國內(nèi)媒體、同行與企業(yè)用戶開放騰訊天津數(shù)據(jù)中心,本報記者有幸實地參觀了該數(shù)據(jù)中心。
巧用微信實現(xiàn)電子準入
騰訊天津數(shù)據(jù)中心是騰訊于2007年啟動自建的第一個超大規(guī)模數(shù)據(jù)中心,可承載超過20萬臺服務器,也是目前亞洲最大的數(shù)據(jù)中心之一。
在騰訊天津數(shù)據(jù)高級經(jīng)理閆昆的帶領下,我們來到了科技感十足的天津數(shù)據(jù)中心園區(qū)。首先,整個園區(qū)在物理安全方面采用了國際上最先進的五層物理防護圈,包括紅外線周界防范和24小時視頻監(jiān)控等。
在此基礎之上,騰訊天津數(shù)據(jù)中心還有一道特別的防范措施:一般來說,要踏入數(shù)據(jù)中心機房重地,常見的做法是采用查驗證件和紙質(zhì)登記的準入方式,而騰訊天津數(shù)據(jù)中心已經(jīng)完全實現(xiàn)了準入的電子化。在訪客到達數(shù)據(jù)中心之前,相關的申請資料(包括個人身份證號、微信號、單位信息等)會在系統(tǒng)內(nèi)部進行審核,審核通過后會通過微信向訪客推送電子門票,訪客到達數(shù)據(jù)中心時只需要出示電子門票的二維碼即可完成授權,進入數(shù)據(jù)中心。
多項舉措踐行綠色節(jié)能
需要說明的是,我們這次參觀的主要是新建成的騰訊天津數(shù)據(jù)中心三號樓。據(jù)閆昆介紹,這棟三號樓數(shù)據(jù)中心可承載10萬臺服務器,用電負荷相當于8萬個城市家庭的總用電量,只不過目前還未達到滿負荷運載。
進入該三號樓之后,首先映入眼簾的是下圖所示的電子屏:顯示著實時PUE值、安全運營天數(shù)和當前負載。
可以看出,雖然正值暑熱未消的初秋,騰訊天津數(shù)據(jù)中心PUE值還能保持1.49,其實是個相當不錯的數(shù)據(jù)。如此良好PUE數(shù)值的取得,則要歸功于自然冷卻、提高服務器送風溫度、冷熱通道隔離等各種節(jié)能技術的采用。
首先,在數(shù)據(jù)中心的一樓基礎設施層,我們看到了規(guī)模龐大的水冷系統(tǒng):各種巨大的管道用不同的黃、藍等顏色來區(qū)分,分別代表供水和回水管道。在這些管道上還可以看到有各種大大小小的閥門,據(jù)閆昆介紹,在整個天津數(shù)據(jù)中心有上千個這樣的閥門,這是因為冷水系統(tǒng)的管道設計成環(huán)形,當管道上任何一個位置出現(xiàn)破裂或其他故障時,就可以通過關閉附近的閥門來隔離故障點,不致于影響整個水系統(tǒng)的運行。這是一種高可用性的設計。當然,清楚地了解上千個閥門的具體位置,也成為天津運營團隊的工作難點之一。
水冷機組只是騰訊天津數(shù)據(jù)中心的一種制冷方式。當秋冬季來臨,外界氣溫降低時,天津運營團隊就會關閉水冷機組,通過板式換熱器和樓頂?shù)睦鋮s塔,利用室外冷空氣對水降溫,因此在冬天PUE值能降到1.2。這就是水側的自然冷卻。所有這些轉(zhuǎn)換和控制都是通過自動控制系統(tǒng)來實現(xiàn)的,騰訊天津數(shù)據(jù)中心運營團隊的主要任務,就是通過反復的實踐,來摸索出最優(yōu)的變頻調(diào)節(jié)參數(shù),以及設備輪巡和故障切換的控制邏輯,以達到最優(yōu)的能效,節(jié)約運營成本。
眾所周知,溫度越低,空調(diào)越費電這是一個常識,因此適當提高機房溫度成為數(shù)據(jù)中心一種有效節(jié)能手段,業(yè)界有專家甚至呼吁國家為此修訂相關標準。但服務器有自己的安全運營區(qū)間(通常是低于27度),如果溫度控制不好造成服務器過熱宕機反而得不償失,所以,在實際應用中,大多數(shù)據(jù)中心還是非常謹慎,維持著“冷得凍死人”的溫度。然而,天津數(shù)據(jù)中心運營團隊與服務器運營組于2011年聯(lián)合開展了一個提高機房環(huán)境溫度的節(jié)能試驗,在服務器能接受的安全溫度范圍以內(nèi),通過精細化運營,將所有機房空調(diào)送風溫度由17度逐步提升為25度。從此,騰訊天津數(shù)據(jù)中心服務器長期保持25度的進風溫度、40度的出風溫度工作。
此外,我們還在騰訊數(shù)據(jù)中心機房看到一些小的節(jié)能舉措。例如,無人進入的時候自動關閉白色照明燈,只保留少量藍色LED燈,保證最低照度滿足視頻錄像要求,在小處體現(xiàn)節(jié)約。
供電創(chuàng)新:市電+240V高壓直流
在三樓,我們參觀數(shù)據(jù)中心的供配電系統(tǒng)。令人意外的是,我們并沒有看到體型龐大的UPS(不間斷電源)設備,原來,騰訊采用的是一路市電+一路240V高壓直流供電架構,改變了傳統(tǒng)UPS等靠硬件多重冗余來保障可靠性的高投入低能效模式。
據(jù)騰訊IDC數(shù)據(jù)中心架構師李典林介紹,騰訊第三代數(shù)據(jù)中心技術(即以TMDC為核心的數(shù)據(jù)中心技術)創(chuàng)新之一,就是服務器的供電變成了市電直供加上直流系統(tǒng)備份。和傳統(tǒng)的雙路UPS供電技術相比,最大的變化是,大家已經(jīng)看不到UPS設備了。UPS是一種體型龐大、操作復雜的供電設備,而且還存在惡性事故的隱患。另一方面,騰訊TMDC技術用直流系統(tǒng)取代交流系統(tǒng),系統(tǒng)結構更簡單,穩(wěn)定性更高,單單配電柜的數(shù)量就比第二代少了一半。越簡單,越可靠,這個原則在數(shù)據(jù)中心也同樣適用。
當前,240伏高壓直流供電技術在國內(nèi)雖漸漸興起但仍未大范圍普及,騰訊在240伏高壓直流供電技術之上摸索出市電+直流供電技術,無疑是一種可貴的實踐創(chuàng)新。
談及數(shù)據(jù)中心供電技術未來發(fā)展方向,李典林表示:“數(shù)據(jù)中心供電技術的總體發(fā)展趨勢是高壓/集中式/交流大UPS向低壓/分布式/直流小UPS方向發(fā)展,由機房外集中式鉛酸電池向IT機柜內(nèi)分布式小(鋰)電池等方向發(fā)展,從化石能源向綠色能源方向發(fā)展。”
TMDC光彩亮相
2012年,騰訊自行研發(fā)出第三代的數(shù)據(jù)中心技術——TMDC。這是真正意義上的從中國設計到中國制造的技術,是國外沒有的,它將有可能為傳統(tǒng)數(shù)據(jù)中心的建設、資源運作以及運營帶來若干顛覆性的創(chuàng)新。
在騰訊天津數(shù)據(jù)中心三號樓的核心區(qū)域——服務器機房,我們終于看到了此次騰訊天津數(shù)據(jù)中心開放日的重點展示對象:微模塊與TMDC機房。本次開放日,也是騰訊第一次向外界正式發(fā)布自己的TMDC技術。
我們看到,一個騰訊第三代數(shù)據(jù)中心技術(TMDC)的典型機房由12個微模塊組成。每個微模塊都包含自身的配電系統(tǒng)、空調(diào)系統(tǒng)、消防系統(tǒng)和監(jiān)控系統(tǒng)等,可以簡單認為微模塊就是一個微型數(shù)據(jù)中心。同時(+本站微信networkworldweixin),它也是一個完整的產(chǎn)品,就像一臺服務器一樣,微模塊的所有組件都在工廠預制和測試完成,到數(shù)據(jù)中心現(xiàn)場拼裝好即可投入使用,這個時間最短只需要兩個星期。因此,TMDC和微模塊解決了傳統(tǒng)數(shù)據(jù)中心建設的周期冗長、配合復雜的問題,可快速、靈活地部署,這個特點使TMDC更容易安排分期建設,保護投資。當數(shù)據(jù)中心退役時,這些微模塊還可以很方便地拆卸下來,搬運到其他數(shù)據(jù)中心使用;而傳統(tǒng)數(shù)據(jù)中心的機架則只好隨數(shù)據(jù)中心一起報廢、退役。
除了騰訊天津數(shù)據(jù)中心,騰訊寶安數(shù)據(jù)中心也已經(jīng)部署了TDMC技術,同時,這種建設方式也得到運營商的全面肯定,目前已經(jīng)和深圳聯(lián)通、深圳電信、上海電信等在大型數(shù)據(jù)中心中合作推廣。
在此次參觀過程中,我們還注意到一些細節(jié)。例如可以看到參觀通道的一根根綠色柱子上面都標注有字母或數(shù)字,據(jù)說是用來快速定位,并區(qū)分不同功能區(qū)域;又例如,騰訊認為人的生命第一重要,所以使用的水消防而非氣體消防。此外,據(jù)閆昆介紹,這么龐大的一個數(shù)據(jù)中心,騰訊自己的運營團隊只有15人,高效、自動化的運維,一直是天津運營團隊不懈的追求,在現(xiàn)場我們也可以看到數(shù)據(jù)中心的值班巡檢已經(jīng)引入了手持PAD的電子化巡檢,微模塊智能監(jiān)控系統(tǒng)也展示了騰訊數(shù)據(jù)中心在運營管理方面的努力和積淀。
邁向下一代數(shù)據(jù)中心
創(chuàng)新無止境。騰訊IDC平臺部技術發(fā)展中心副總監(jiān)朱華還向我們介紹了騰訊下一代數(shù)據(jù)中心架構的構想,這里面包括騰訊這些年對新能源的持續(xù)不懈的研究,希望用更環(huán)保、清潔的能源來驅(qū)動數(shù)據(jù)中心運行(騰訊最近在上海數(shù)據(jù)中心項目就會嘗試用三聯(lián)供的技術來實現(xiàn)分布式供電)。同時,在數(shù)據(jù)中心內(nèi)部,騰訊也在積極研究更多的節(jié)能技術,例如全自然風的冷卻方式、冷卻系統(tǒng)去水化等,都將對未來的數(shù)據(jù)中心帶來新的思考。最后,在數(shù)據(jù)中心的自動化系統(tǒng)方面,騰訊這兩年也投入重兵,開始研發(fā)基于SDI(software defined infrastructure)的控制系統(tǒng),并將逐步向業(yè)界推出數(shù)據(jù)中心監(jiān)管控系統(tǒng)的南向和北向標準。可以說,這是騰訊在中國數(shù)據(jù)中心領域的薄弱環(huán)節(jié)下的一步重要的棋子。
創(chuàng)新雖然是動力之源,但互聯(lián)網(wǎng)精神還包括開放與協(xié)作。作為國內(nèi)互聯(lián)網(wǎng)企業(yè)的代表,騰訊其實一直在開放自己的數(shù)據(jù)中心技術和經(jīng)驗,例如每年都會在很多行業(yè)峰會、技術論壇上宣講自己最新的技術體會,同時也積極參與類似“天蝎”項目、開放數(shù)據(jù)中心聯(lián)盟等開源組織,在其中貢獻自己的力量。此次舉辦騰訊天津數(shù)據(jù)中心技術開放日,也是為了更加系統(tǒng)與完整地對外分享騰訊數(shù)據(jù)中心建設經(jīng)驗與相關思考。
“我們希望把騰訊摸索出來的經(jīng)驗更多地分享給業(yè)界,可以讓后來者少走一些彎路,同時也希望能推動中國數(shù)據(jù)中心生態(tài)圈的健康、快速發(fā)展。”騰訊公司副總裁別洪濤說。