7月23日，2025（第二十四屆）中國互聯網大會在京開幕。作為大會重要組成部分，大模型安全發展論壇暨中國電信第五屆科技節·北京站舉辦。論壇由中國互聯網協會主辦，中國電信集團有限公司、中國電信科學技術協會及天翼安全科技有限公司聯合主辦，以“安全護智·智惠安全”為主題，匯聚政產學研頂尖力量，共話大模型安全發展，推動AI安全與創新共振，賦能可信智能生態建設。
中國互聯網協會專家咨詢委員會常務副主任邵廣祿和中國電信集團有限公司黨組成員、副總經理劉穎出席論壇并致辭。
中國互聯網協會專家咨詢委員會常務副主任邵廣祿
邵廣祿強調，伴隨AI加速迭代，安全必須同步進階。當前，AI安全領域面臨三大挑戰：場景化風險加劇、“重應用、輕安全”、 協同機制有待完善。要從技術、治理、生態三個層面協同發力，共筑大模型安全。中國互聯網協會將進一步發揮橋梁作用，推動產學研用協同攻關，完善標準體系，營造規范環境。
中國電信集團有限公司黨組成員、副總經理劉穎
劉穎表示，當前人工智能技術正以前所未有的速度重塑全球科技與產業格局，同時也帶來了嚴峻復雜的安全風險與治理挑戰。論壇以“安全護智·智惠安全”為主題，中國電信與產學研各位專家同仁一道，分享在AI安全領域的思考、探索和實踐。
一、中國電信全面擁抱AI，開啟“云改數轉智惠”的戰略升級。中國電信積極踐行建設網絡強國、科技強國、數字中國、維護國家網信安全的初心使命，逐步構建起算力安全、算法模型安全、數據安全、內容和應用安全的AI安全防護體系。
二、堅持走自主可控之路，逐步構建起一體化AI安全保障體系。兩年前，中國電信宣布啟動用于安全垂類模型訓練的“阡陌數聚”安全語料庫建設，經過兩年的積累，“阡陌”已成為國內領先的安全語料庫。基于此，訓練出“星辰·見微”安全大模型，已經深入嵌入了中國電信日常安全運營生產當中。今年四月發布大模型應用一站式安全運營方案，形成了從模型安全檢測到模型安全防護的系列創新成果。
三、開放合作是人工智能安全發展的必然選擇。中國電信秉持開放共享、合作共贏的理念，持續深化產業協作，通過生態共建，實現協同共治，推動人工智能產業安全、穩定、繁榮發展。
中國工程院教授吳世忠
吳世忠作了題為《大模型安全治理的現狀與展望》主題演講。他指出技術發展勢不可擋，安全風險亟待監管。既要擁抱技術的無限可能，也要筑牢安全的堅實防線。通過國際和國內協同、技術與政策并重、公眾與行業共治，以安全為基石，以智慧為引領，積極推進大模型的發展與治理，共同打造一個安全、可信、智慧的AI未來。
中國信息通信研究院副院長魏亮
魏亮以《大模型安全挑戰與應對》為題，聚焦大模型技術發展及安全治理現狀，全面剖析了全球政策法規與行業自律態勢，探討模型生命周期安全風險，同時結合安全治理的實踐案例，展望未來大模型協同共治格局，為構建安全可信的大模型生態貢獻思路。
中國軟件評測中心副主任唐剛
唐剛分享了大模型安全實踐。他表示，智能時代，網絡和數據安全的機遇與挑戰并存，人們既享受了人工智能帶來的便捷，也不得不面對由此伴生的風險。一方面，大模型自身的安全缺陷隨著其廣泛應用傳播風險，警示我們應加強大模型安全治理；另一方面，人工智能降低網絡和數據攻擊門檻，迫使我們必須加快人工智能賦能網絡和數據安全的技術攻關與產業實踐。中國軟件評測中心積極研發大模型安全能力并投入實踐，將協同產業界各方共同構建人工智能時代的網絡和數據安全防線。
清華大學網絡研究院副教授邱寒
邱寒分享了《從現實世界的數據污染思考大語言模型安全》研究報告。大語言模型在其預訓練階段，往往依靠海量互聯網語料進行非監督學習，這其中難免會混入真實互聯網中存在的賭博、色情等非法內容或毫無意義的污染語料，一方面體現在模型的詞表中，一方面會對模型的推理產生不良影響。報告從GPT-4o詞表中的中文污染token出發，探索不同大語言模型詞表中文token污染的情況，并探索基于詞表中token分布估算語料庫中token詞頻的方法，最后分析不同污染token在推理中異常表現的原因。
天翼安全科技有限公司首席AI安全專家曹輝、高級安全研究員危嘉祺以《識別大模型新型安全威脅，守護大模型安全可靠可控》為題，介紹電信安全在人工智能安全領域的最新成果。
天翼安全科技有限公司高級安全研究員危嘉祺
危嘉祺表示，電信安全在兩年前提出要構建安全領域的“ImageNet”，以推動AI安全行業的系統性發展。圍繞AI安全的兩個關鍵方向——AI for Security（人工智能賦能網絡安全）與Security for AI（安全手段護航人工智能），電信安全持續打造了一整套體系化的數據獲取、清洗、標注與蒸餾的全流程能力。
在 AI for Security 方面，依托中國電信強大的云網基礎及兩級SOC體系積累的海量高質量安全數據，電信安全開展深度清洗、特征抽取與自動化標注，成功構建數千萬條高質量標注樣本，以及近百億Token規模的語料庫，數據內容全面覆蓋IPDRR（識別、保護、檢測、響應、恢復）安全能力框架。
在 Security for AI 方面，電信安全參考國家標準TC260-003定義的五大類、三十一小類風險類別，進一步細化、構建三級分類標簽體系，并設計獨特高效的數據蒸餾流程，能夠持續產出對齊精度高、泛化能力強的安全樣本。同時，電信安全構建了一套生成式對抗環境，基于數十類攻擊策略，融合黑盒與白盒的多種攻擊生成算法，不斷在攻防對抗中演進，持續產出高質量的提示注入攻擊樣本，助力模型對抗能力的提升。
天翼安全科技有限公司首席AI安全專家曹輝
曹輝指出，近兩年伴隨大模型應用的蓬勃興起，其伴生的安全風險也日益凸顯。一方面，針對大模型的新型攻擊手段層出不窮，如提示詞攻擊、數據投毒攻擊等，正快速演進迭代。另一方面，大模型相關的安全事件頻發并呈現快速增長態勢。
為有效應對和管控上述風險，電信安全積極探索并落地了三項實踐。一是進行AI風險監控，提出AI資產測繪，結合AI威脅情報，開發AI安全監測系統，實現對AI安全態勢的全面感知。二是進行AI安全評測，系統化收集AI威脅數據，集成至AI評測系統，為評估AI系統的安全成熟度提供有效依據。三是研究AI威脅的防護技術，并開發大模型護欄解決方案，為大模型提供實時、精準的貼身防護。
基于這三項實踐，電信安全深刻體會到，構建堅實的AI安全防線，必然需要深度融合安全領域的人工智能技術，安全數據集是其中的關鍵。對此，電信安全提出兩方面建議：一是大模型的開發者、提供者、使用者及監管方高度重視大模型安全風險，共同提升風險應對能力。二是倡議多方合作，加大安全研究投入，共建高質量安全數據集。
圓桌論壇
在圓桌論壇環節，數世咨詢創始人兼總經理李少鵬、天翼安全科技有限公司首席AI安全專家曹輝，《中國信息安全》雜志社副社長李剛，北京瑞萊智慧科技有限公司合伙人、高級副總裁朱萌和火山引擎云安全解決方案負責人林揚圍繞“大模型安全發展路徑探索與思考”展開了深入的交流。專家們結合各自領域的實踐經驗與前瞻洞察，共同剖析挑戰、分享洞見，為大模型安全發展的可行路徑與關鍵策略積極獻計獻策，凝聚了寶貴的行業共識與發展智慧。
本次論壇的舉辦，為政府部門、行業組織及企業搭建了高效對話平臺，有力推動了大模型安全發展共識的形成與實踐創新。未來，電信安全將持續深化與產業鏈伙伴的戰略合作，優化AI治理機制，加快培育新質生產力，為人工智能的高質量、可持續發展注入新動能。
