7月28日,2025世界人工智能大會“大模型智塑全球產業新秩序”論壇在上海徐匯西岸成功召開。
開源大模型為全球產業帶來新的變革和潛力,技術加速迭代創新,應用與產品大量涌現。然而在安全方面,倫理規范、權責界定、識別與防御技術等方面仍未完善,大規模行業應用面臨著隱患。如何確保AI的安全性、可靠性、可控性、公平性,構建兼顧創新活力與風險防范的治理范式,已成為關乎技術可持續發展的關鍵命題。
論壇上,為防范人工智能大規模應用安全風險,進一步加強開源大模型的安全與治理,《大模型開源安全倡議》(以下簡稱“倡議”)面向全球正式發布。中國信通院人工智能研究所所長魏凱、中國信通院華東分院副院長廖運發、 上海聯通副總經理姚健、上海儀電(集團)有限公司副總裁、上海智能算力科技有限公司董事長劉山泉、螞蟻集團技術戰略與執行部副總經理彭晉、BSI英國標準協會 全球認證總裁Harold Pradal、聯合國工業發展組織投資與技術促進辦公室(中國·上海)主任趙曉蕾、上海庫帕思科技有限公司CTO王長冕、 模速空間副總經理劉勃、MiniMax商業化解決方案負責人張如歡、魔搭社區周潔琪握起雙手,共同發布倡議。

(倡議發布儀式照片)
本倡議在開源大模型廣泛應用的關鍵階段,針對開源生態繁榮伴隨的多維度、跨行業的復雜安全風險,旨在倡導人工智能產學研各界加快形成開源安全與治理共識,充分發揮大模型產業與應用賦能價值,倡議號召人工智能大模型行業同仁積極響應以下四點倡議:
一、堅持規范有序,構建安全標準體系:加強大模型研發與應用安全的前瞻研究,明確可控可靠、透明可釋、責任明確的標準規范與評測體系。
二、堅持開放協同,保障開源要素安全:模型、數據、算力三方加強安全體系建設,提供安全的大模型產品、穩定的算力底座、高質量語料數據,共鑄合力,筑牢安全屏障。
三、堅持智能向善,共建開源安全生態:通過大模型產業集聚空間、開源平臺、社群等創新載體,引領構建技術、產業、文化融合的開源安全生態。
四、堅持多元包容,凝聚開源安全國際共識:推動全球深度交流對話、尋求共識,構建人工智能安全與治理合作框架,和衷共濟應對人類共同挑戰。
《大模型開源安全倡議》發布后迅速獲得各界廣泛響應。國內外標準組織、科研學術機構、大模型產業鏈企業及開源社區平臺均表示高度認同。各方將圍繞落實倡議展開持續合作,積極推動標準評測體系共建、治理經驗共享與高質量創新要素流通,凝聚全球智慧構建開源安全生態信任基石,為大模型產業高質量發展與應用保駕護航。