飛象網訊（易歡）人工智能作為新一輪科技革命和產業變革的核心驅動力正深刻重塑著人類生產生活方式與社會發展格局，尤其是隨著近兩年大模型技術的深度應用，人工智能的應用范圍也越來越廣，涌現出上百種場景和模式。然而，在人工智能大模型技術持續釋放潛能的同時，其帶來的安全問題也愈發不容忽視。

“當前人工智能技術正以前所未有的速度重素全球科技和產業格局，大模型成為推動數字經濟發展的關鍵引擎，但同時也帶來了嚴峻、復雜的安全風險和治理的挑戰。”中國電信集團有限公司黨組成員、副總經理劉穎近日在出席活動時講到。對于這種現狀，中國互聯網協會專家咨詢委員會常務副主任邵廣祿強調：“AI加速迭代，安全必須同步進階。”

AI發展面臨的安全挑戰

近幾年AI技術發展迅速，逐漸從實驗室走向人們的工作和生活以及產業深處，AI大模型從百億參數躍升到萬億參數級，泛化能力也在持續突破，能處理從文本生成到復雜推理的各類任務，AI智能體也逐漸進入到智能制造、金融風控等核心的業務流程，與此同時數據的飛輪越轉越快、公開數據、私域數據以及合成數據在交錯喂養我們的大模型，使大模型能力快速提升。

然而，AI技術的突破令人振奮的同時，催生的一系列安全挑戰也成為產業必須直面的關鍵。例如，數據的安全問題、模型訓練中的數據投毒、算法黑箱問題以及大模型應用落地時的一些幻覺問題等。對此，邵廣祿也重點指出了當前安全領域的三個挑戰。

一是場景化的風險在加劇。在ToB領域AI加持的網絡攻擊持續在升級，深度合成技術導致仿冒程序、釣魚郵件等激增，企業引入的一些AI系統如果存在供應鏈的流動，便更可能成為安全的短板。在隱私保護方面，敏感數據的泄露與濫用的風險也在凸顯，深度合成技術的一些惡意應用有可能進一步加劇我們個人信息的侵權問題。

二是重應用輕安全。“金融、醫療、以及工業領域的AI應用與核心業務在深度綁定，但安全能力大多是后加裝型的，而不是原生設計的，這類隱患自然比較多。”

三是協同機制有待完善。具體而言，AI的安全涉及技術研發、標準制定以及監管執行等諸多環節，企業間的協同不足、安全數據和威脅情報難以共享，國內外的安全標準也沒有統一、跨境AI的應用則合規問題成本也相對較高。

邵廣祿強調：“這些安全技術的落后，使得我們技術進步的紅利也有可能被滯后。”

此外，中國工程院教授吳世忠也指出，技術發展勢不可擋，安全風險亟待監管。既要擁抱技術的無限可能，也要筑牢安全的堅實防線。在他看來，內容安全風險、數據隱私風險、惡意濫用的風險、社會倫理方面的風險等是當下普遍關注的焦點。

破局AI安全問題的關鍵

針對人工智能、大模型發展過程中存在的安全問題， 邵廣祿也提出了幾點發展建議。在技術層面，要聚焦隱私計算可解釋AI、大模型安全護欄等關鍵技術，破解提示詞、數據泄密等難題，確保算法的透明及數據的可控。

治理方面，要構建政府主導、企業履責、行業自律、公眾監督的多元共治的格局，建立全生命周期的監管框架，讓安全成為AI產品出廠的標配，而不僅僅是附加服務。

在生態層面，企業間要更多的共享威脅情報、共建漏洞數據庫、開源開放安全工具，降低中小企業的防護門檻。

安全是人工智能產業穩步前進的基石，更是數字經濟可持續發展的根本保障。劉穎也分享了中國電信在AI安全領域的思考、探索和實踐。

據介紹，中國電信全面擁抱AI，開啟“云改數轉智惠”的戰略升級。中國電信積極踐行建設網絡強國、科技強國、數字中國、維護國家網信安全的初心使命，逐步構建起算力安全、算法模型安全、數據安全、內容和應用安全的AI安全防護體系。

此外，中國電信堅持走自主可控之路，逐步構建起一體化AI安全保障體系。兩年前，中國電信宣布啟動用于安全垂類模型訓練的“阡陌數聚”安全語料庫建設，經過兩年的積累，“阡陌”已成為國內領先的安全語料庫。基于此，訓練出“星辰·見微”安全大模型，已經深入嵌入了中國電信日常安全運營生產當中。今年四月發布大模型應用一站式安全運營方案，形成了從模型安全檢測到模型安全防護的系列創新成果。

劉穎指出，開放合作是人工智能安全發展的必然選擇。中國電信秉持開放共享、合作共贏的理念，持續深化產業協作，通過生態共建，實現協同共治，推動人工智能產業安全、穩定、繁榮發展。

未來，希望在產業界的協同下，能更有力的推動大模型安全發展共識的形成與實踐創新，優化AI治理機制，加快培育新質生產力，為人工智能的高質量、可持續發展注入新動能。