登錄網站,點擊鼠標,人坐在實驗室里,就可以輕松將算法和數據傳到20多公里外的智算中心,開始大模型訓練。4月25日,在武漢大學智能感知與機器學習實驗室,智能交互方向負責人蔡賢濤教授向筆者介紹:“使用中國電信中部智算中心的算力進行多模態醫學大模型的開發訓練,就像網購一樣方便快捷。”
蔡教授和團隊成員們正在研發參數數據規模為13B的中文醫學多模態大模型,據他介紹:“這個項目的數據如果用普通的網絡傳的話,傳輸的時間可能按月來計算了,但是我們用中國電信中部智算中心的平臺,幾天的時間就已經把所有數據全部傳上去做訓練,做訓練的過程也是非常的平穩、絲滑!”
良好的算力體驗,平穩絲滑的感受,來自于中國電信中部智算中心的算力運力存力融合一體化、以高性能算力為主的多元算力基礎設施體系。通過強大的網絡運力,形成了一朵線上的算力云。一臺臺用于計算的服務器,都通過高性能網絡連接了起來,用戶只要有網絡,就可以遠程調用算力。計算的過程中,海量的數據也能平穩高效地在服務器間傳輸。
據天翼云湖北分公司專家介紹:中國電信中部智算中心的液冷服務器采用RoCE協議,支持直接內存訪問,具有高帶寬、低時延的特點,液冷區的計算節點間、計算與存儲節點之間均為200G互聯,風冷區通過IB技術組網,高帶寬、低時延,且穩定性高,是目前用于GPU服務器的首選網絡互聯技術。計算節點之間的網絡鏈路為400G,計算節點與存儲節點間的鏈路為200G。高速網絡將 AI服務器、通算服務器、存儲服務器等通過交換機和路由聚合在一起,構建一個統一的算力集群,再利用光纖和最先進的路由器接入到中國電信的網絡里面,用戶只要接入到互聯網,就可以像用水用電一樣隨時訪問、調取。
在今年全國人大會議期間,全國人大代表,湖北電信黨委書記、總經理張敏建議,加快構建全國一體化算力協同調度平臺,實現需求和供給的精準對接,讓算力像水電煤氣網一樣“隨時隨地、即取即用”。加快行業數據開放共享,發揮我國海量數據規模和豐富場景優勢,通過多場景應用、多元數據融合,以量變引發質變,賦能現代化產業體系建設,推動新質生產力勃發。