10月22日,第十七屆中國國際社會公共安全產品博覽會在北京舉行。展會期間,在由中國安全防范產品行業協會組織的第九屆優秀創新產品頒獎儀式上,中國電信自主研發的“基層治理行業大模型”榮獲2024中國國際社會公共安全產品博覽會“重大行業創新貢獻獎”。
注“智”添“翼” 賦能基層
基層治理大模型,是中國電信專為基層工作者量身打造的專家級智能輔助工具。它依托星辰基礎大模型強大的深度學習和知識泛化能力,通過對海量的高質量專業文本語料進行清洗、標注和訓練,包括百萬篇司法案例文書,60萬篇政法行業政策資訊、新聞動態、社會治理案例,120萬條專業法律問答數據等,并采用自校準微調技術,提升強化學習效果,為基層社會治理、矛盾糾紛多元化解、法律業務咨詢等場景提供有效的解決方案。
基層治理行業大模型服務于全國基層社區、街道、綜治網格、派出所、基層法院、司法所等政法機構,解決其日常工作瑣碎且繁雜、信息融合度不高、人員素質參差不齊、專業化知識缺乏等難題,真正為基層工作者提供了高效智慧的工作升級,開拓了AI技術在基層治理中的新應用領域。
行業沉淀創新提升
中國電信長期服務于政法行業信息化工作,積累了海量社會治理領域的高質量知識數據、行業專家標注與反饋。基層治理行業大模型以低耦合、高內聚、模塊化的總體架構進行設計,通過獲取、清洗、標注和訓練大量高質量的專用文本語料,讓大模型理解基層治理行業的業務特點、專業術語和社會主義核心價值觀等內容,并進行專業化輸出,滿足基層治理、矛盾調解等場景應用需要。同時,利用RPA、OCR等技術,賦能基層治理數字化轉型。該模型主要創新點:
高精度內容生成:針對社區工作的具體領域進行專門的訓練和優化,使得模型在社區寫作和矛盾調解應用場景中的準確率顯著高于開源大模型,分別高出30%和60%。
融合RAG系統:結合RAG進行結果校準,有效緩解大模型的幻覺現象,提高內容生成的精準度。
私有化部署:支持私有化部署,確保用戶隱私,同時通過siege工具進行壓測,保證部署的模型表現和訓練表現對齊。
加速推理框架:通過引入VLLM高速推理框架,抓住新技術應用窗口期,提升技術門檻,使大模型服務吞吐率和并發數相較于現有transformer架構基礎模型顯著提升。
截至2024年5月底,該產品已為300+個客戶開通了超過8000+個試用/體驗賬號,各類能力調用次數超過5萬次。試用范圍覆蓋福建、北京、上海、廣東、湖南等27個省(自治區、直轄市)的客戶。
作為建設網絡強國和數字中國、維護網信安全的國家隊、主力軍,中國電信充分發揮云網融合優勢,在社會治理等領域持續探索創新,發展新質生產力,加快推進基層治理現代化,為更高水平的“平安中國”建設作出更大貢獻。