來算力超市體驗DeepSeek專屬空間
2月上旬,中國電信天翼云自主研發的“息壤”一體化智算平臺完成了國產算力與DeepSeek-R1/V3系列大模型的適配優化,成為國內首家實現DeepSeek模型全棧國產化推理服務落地的運營商級云平臺。
僅僅半個月,諸多信息表明,這場AI技術與通信行業的融合帶來了系列影響。從DeepSeek-R1蒸餾版到滿血版,天翼云均已支持,包含從1.5B輕量化版本到7B、32B再到671B不等的參數量,滿足用戶從復雜決策到高并發交互的全場景需求,用戶無需復雜配置,通過API接口即可輕松調用,快速集成到各類應用場景。
此外,除了在云平臺上直接體驗國產算力支持的DeepSeek服務外,企業或個人用戶也可登錄上海公司公共算力服務門戶—算力超市,直接租用國產智算單卡,在容器環境內基于不同基礎框架進行DeepSeek大模型部署、調試,打造自己專屬的DeepSeek空間。
全棧國產化適配 覆蓋多場景需求
“整個行業都非常振奮。近期DeepSeek爆火,各界對于相關產品的關注度有了較大提升,有很多企業及個人用戶前來咨詢,天翼云官網與算力超市門戶訪問量有大幅度提升。”中國電信上海天翼云能力運營中心總經理陸奕奕如是說。
如何將自己的文檔、應用與大模型結合實現個性化智能問答,以不同形式進行呈現?如何用好DeepSeek快速實現企業智能化升級,如何基于大模型構建可滿足企業實際生產需要的智能體?在快速推進智能化升級的同時,如何保障數據安全與網絡安全?這些成為近期個人和企業用戶的關切點。
就使用場景和功能而言,天翼云方面表示,用戶可將DeepSeek的問題解答能力和其他語音模型相組合,打造類似華為“小藝”、百度“小度”這樣的個性化語音助手;企業可通過調用DeepSeek,結合不同應用與數據,實現自動化文檔處理,進行信息提取、分類和知識庫構建,提高企業信息檢索能力。目前天翼云已有多種產品支持部署體驗,覆蓋網頁問答、云端部署、模型鏡像、開發微調等在內的各類應用場景,也為高度關注數據安全的企業提供含云、網、安、智、算在內的綜合解決方案。
“是采用API模式還是網頁可視化模式,由用戶自己的需求決定。”陸奕奕介紹道,網頁可視化模式是一種較簡單、門檻較低的使用方式,在網頁或App上直接進行問答即可。如果要構建其他應用系統或進行對外服務,需要通過API調用DeepSeek。目前,上海公司算力超市DeepSeek專區已支持提供穩定的網頁問答。
支持本地或云上部署 實現安全與成本雙贏
DeepSeek分滿血版和蒸餾版,滿血版是與DeepSeek官網性能一致的V3和R1的全量參數模型,蒸餾版則是將大規模模型的能力遷移至更小、更高效的版本,在國產GPU上實現高性能推理。受限于算力,不少平臺選擇部署蒸餾版,但體驗效果也大打折扣。
天翼云提供“全家福”,從DeepSeek-R1滿血版(671B參數)至輕量化蒸餾模型,統統都有。對于有個性化應用開發需要的用戶,本地部署和云上部署兩種模式各有所長,適合于不同的場景。
相較而言,云上部署主要有以下優勢:一方面,云上部署短期成本更低,無需考慮機房、服務器、網絡等基礎設施建設與維護,多樣算力資源按服務方式提供,大幅降低一次性投資成本,支持靈活調整算力資源配置;另一方面,云上部署模型即開即用,降低用戶技術門檻,讓AI變得“接地氣”,用戶僅需簡單幾步即可部署,輕松構建智能體。
本地自行搭建基礎設施部署大模型,可以讓部署者對數據和系統有完全的控制權,適用于對數據安全、數據隱私和控制權有較高要求的企業,但在基礎設施及相關安全配套方面的一次性投資成本非常高昂。中國電信亦可為這類用戶定制化提供屬地私有化部署方案,滿足“數據不出域”要求。
“在天翼云上部署DeepSeek,對安全問題其實是一種很好的解決方案。中國電信作為通信運營商,依托強大的網絡底座,提供彈性算網,可為政企用戶實現部署在不同地域的大模型、應用、辦公環境的大帶寬專網,保障數據傳輸的安全性。”天翼云方面表示。
算力超市讓AI觸手可及 加速國產生態發展
上海區域的用戶,如果想更好地本地化部署DeepSeek,則建議登錄中國電信上海公司的公共算力服務門戶——算力超市。
據了解,上海公司在國內運營商中先行推出公共算力服務平臺——算力超市,面對上海豐富的應用場景以及旺盛的算力需求,其不僅可以讓用戶一站式使用多種形態的算力服務,按需選擇最具性價比的算力資費,而且有更多的AI場景最佳實踐鏡像提供,讓更多的用戶可以一站式部署自己的AI大模型和智能體,通過算力普惠和AI普惠,讓“AI觸手可及”。
在受眾方面,算力超市為企業與個人提供服務。具體來看,算力超市企業版云開發本產品提供的主子賬號體系可滿足企業、團隊算力使用需要,個人版產品為廣大模型愛好者提供了超高性價比、不同規格、按需計費的輕量化容器級智算服務,平臺提供基礎教學助力個人煉丹者輕松入門。
“對個人用戶來說,這是一個很好的體驗與實驗的平臺。從底層算力到AI框架、模型均支持國產化,‘煉丹師’們可以在平臺上進行模型訓練和微調,便捷體驗國產算力。”陸奕奕表示,該平臺提供入門教學,幫助新手用戶迅速成長;對于經驗豐富的研發人員,平臺也能提供豐富的功能、各類模型鏡像來助力“煉丹師”實現需求。
此外,個人用戶在算力超市可以體驗和使用到不同規格、高性價比的智算服務。目前算力超市上推出了可供個人用戶免費體驗云開發本的體驗版產品。在體驗版里,用戶甚至最多能連續10小時使用高達165TFLOPS的算力服務,只需在“上海公司”微信公眾號發送“算力”或前往https://gpushop.sh.189.cn/ 的算力超市官網訂購云開發本體驗版即可使用。
“我們擁有長三角首個單池萬卡液冷國產算力集群,可以為用戶提供全鏈條的國產AI服務,助力國產算力和國產AI大模型深度匹配,從而為國產AI生態的加速發展奠定堅實底座。”就未來的發展信心,陸奕奕如是強調。