原貼:http://www.dbanotes.net/techmemo/yahoo_arch.html
舊金山舉行的 qcon
會議帶給我們很多新鮮的資訊。雖然沒機會參加,但是看看各個**"曬架構"也是個比較過癮的事情。請參觀並收藏這個頁面:architectures you've always wondered about
。ebay 的架構
和去年相比基本是換湯不換藥,倒是 yahoo! 的 ian flint
(這位老兄是 bix
的運營總監. bix 已被雅虎收購) 這個 ppt
yahoo! communities architecture: unlikely bedfellows
挺有意思,披露了一些鮮為人知的資訊。
yahoo! 社群包括我們比較熟悉的 del.icio.us
、flickr
、yahoo!群組、yahoo! mail、bix
等。相當於 yahoo!把這些屬性相近的應用放到一起運營。這個思路倒是和盛大對遊戲的運營有些相近。
架構特點
有兩點值得注意:1)層次化 2)模組化。這也是大規模作業下的比較經濟的途徑。
軟體架構
首先是作業系統已經從 freebsd 逐漸遷移到 rhel。這怕是雅虎不得已作出來的決定吧。freebsd 的開發力量的確不如 linux,這也是不爭的事實。資料庫上 mysql 與 oracle 都有。yahoo! 在 dw/bi 用的是 oracle,構建了乙個超大資料庫
。諸如 yapache、yts(反向**伺服器)、yfor(提供快速失敗接管)、 ymon(監控),還有還有ysquid、ypan(cpan的 yahoo! 轉殖) 這些元件都是通過 yinst 來統計部署。關於 yapache,請參考我以前寫的 yapache-yahoo! apache 的秘密
這是 bix 與 db 有關的部署架構:
yahoo! mail 架構:
這裡面居然部署了 oracle rac,用來儲存 mail 服務相關的 meta 資料。非常有趣。
運營維護
監控工具主要用的是 nagios
,用以監控集群。使用標準外掛程式,另外也有自行定製的外掛程式。nagios 這東西太棒了。主動、被動檢查的訊息**是通過 ymon 來做到。網管上針對 snmp 的解決方案是用 yahoo!自己 y 字頭的 ywatch。這些 y 字頭的東西基本上外面都是找不到的。yahoo!的技術其實並不那麼開放。google 在運營這方面也好不到什麼地方去。趨勢圖用 drraw
展現。drraw 是基於 rrdtool 的 web 展現工具。
應用伺服器的監控是被動的。整個監控系統模組化部署。nagios 的警告資訊**到 ywatch 中心控制台。
">pdf 檔案,你或許比我收穫更多。我只是讓你知道我的想法而已。
--eof--
yahoo!社群架構
】來自
dbanotes.net
|雅虎收藏+
by fenng
on november 21, 2007 10:01 pm
|permalink
| comments (3)
| tech.memo
| edit
generator
get firefox with google ******* for better browsing
generate revenue from your website. google adsense.
khan.chan
就不知yahoo! 將這些本是opensource的軟體改裝下就變成自己的y系列,是否違背gpl ?
november 22, 2007 8:45 am
玉面飛龍
these contents is very usefull and valuable.
thank you very much.
like a spam :)
november 22, 2007 9:24 am
player
我倒是以為,放棄freebsd的原因在於
1. dbms廠商對freebsd的支援力度為零
2. 前後臺維護技能的一致化,如果平台差異太多,人力資源成本很高的
另外,樓上,你看來沒讀過gpl。
如果我不**gpl軟體,愛怎麼改怎麼改。
november 22, 2007 10:07 am
直接登入
Yahoo資料倉儲架構簡介
1.yahoo 資料倉儲的整體架構 yahoo資料倉儲在基礎架構上由hadoop集群和oracle集群組成,hadoop集群是乙個計算平台,完成所有etl資料處理過程 oracle集群只是乙個查詢環境。資料通過data highway從源系統載入進入資料倉儲的ods層,ods層資料保持與源系統資料結...
年糕媽媽社群架構實踐
總體架構圖如下 複製 3.2 feed流實現模式 3.2.1 拉模式 a.發布帖子簡單,a發布帖子,只需要儲存到帖子表即可 b.關注取消流程簡單,a取消關注b 此時只需要在a的關注列表裡刪除b,並在b的粉絲列表裡刪除a。c.a獲取feed流複雜,首先獲取a的所有關注使用者,然後獲取這些使用者所發布的...
Yahoo天氣外掛程式Api
雅虎天氣api呼叫 1.呼叫方法 2502265 u c,綠色字型為城市代號,u c表示取攝氏度。2.如何獲取城市 以廣州為例 引數 output 輸出資料格式,可以是xml或json,預設為xml command 要查詢的城市名稱 可能會出現多個項,像這樣 html view plain copy...