飛象網(wǎng)訊 “AI在落地過程中面臨的安全挑戰(zhàn)已遠超網(wǎng)絡(luò)與數(shù)據(jù)安全的原有邊界，360提出‘以模制�！路妒剑运拇笾悄荏w筑牢AI安全防線。” 在ISC.AI 2025未來峰會上，360數(shù)字安全集團總裁胡振泉直擊AI安全痛點，系統(tǒng)闡釋了360在AI安全防護的核心邏輯與實踐成果，為智能時代的AI安全防護提供了創(chuàng)新性解決方案。
AI安全進入“高風(fēng)險期”內(nèi)憂外患亟待破局
隨著大模型技術(shù)加速落地與智能體的規(guī)模化應(yīng)用，AI已從實驗室全面滲透至千行百業(yè)。然而，在技術(shù)紅利持續(xù)釋放的背后，AI安全風(fēng)險正進入“集中爆發(fā)期”，呈現(xiàn)出“內(nèi)憂外患”的復(fù)雜態(tài)勢。
胡振泉分析到，從內(nèi)部來看，AI存在與生俱來的“四大基因缺陷”：一切皆可編程、一切皆可模仿、一切皆可生成、一切皆可調(diào)度。從外部來看，一方面，針對AI系統(tǒng)的攻擊將變成大國博弈的關(guān)鍵；另一方面，黑灰產(chǎn)利用AI批量制造攻擊武器，甚至部署“黑客智能體”，傳統(tǒng)安全防御體系難以應(yīng)對。
“這些風(fēng)險交織，使得AI安全的復(fù)雜程度遠超傳統(tǒng)范疇”。胡振泉強調(diào)，AI安全既涵蓋網(wǎng)絡(luò)、數(shù)據(jù)等傳統(tǒng)安全問題，也涉及AI內(nèi)容安全、應(yīng)用安全及未來場景安全。廣大政企機構(gòu)在AI落地過程中面臨的安全挑戰(zhàn)，已遠遠超出網(wǎng)絡(luò)與數(shù)據(jù)安全的原有邊界，亟需一套系統(tǒng)性的創(chuàng)新解決方案。
“以模制�！甭涞兀核拇笾悄荏w構(gòu)建AI全鏈路防護
當(dāng)前，傳統(tǒng)安全企業(yè)因缺乏對AI技術(shù)的深度理解，在應(yīng)對AI安全問題時往往“盲人摸象”；而大模型企業(yè)則因安全技術(shù)積累與攻防實踐經(jīng)驗不足，難以提出有效的解決方案。
作為企業(yè)中的數(shù)字安全及AI國家隊，360憑借“懂AI更懂安全”的跨領(lǐng)域優(yōu)勢，創(chuàng)新提出“以模制�！毙路妒�，利用人工智能技術(shù)自身優(yōu)勢對抗AI安全風(fēng)險，并打磨出360大模型安全衛(wèi)士，聚焦解決AI的“可靠、可信、向善、可控”四大核心問題。具體而言，360大模型安全衛(wèi)士通過四大安全智能體形成閉環(huán)防護體系：
內(nèi)容安全智能體：作為AI內(nèi)容“守門人”，通過幻覺抑制、安全風(fēng)控等專用模型，實時審核輸入輸出內(nèi)容，攔截違法違規(guī)信息，抑制虛假生成，為黨政軍企等場景筑牢內(nèi)容安全防線。
AI Agent安全智能體：聚焦智能體執(zhí)行安全，通過異常行為識別、權(quán)限管控及人工審核，防范數(shù)據(jù)泄露與越權(quán)操作，確保 AI“行動能力” 可控。
軟件安全智能體：掃描AI軟件漏洞與配置缺陷，排查開源組件風(fēng)險，從源頭保障AI系統(tǒng)供應(yīng)鏈安全。
安全風(fēng)險評估智能體：以實戰(zhàn)化模擬攻擊（如注入攻擊、數(shù)據(jù)竊�。┨崆氨┞断到y(tǒng)短板，幫助客戶發(fā)現(xiàn)多項關(guān)鍵隱患。
胡振泉強調(diào)，這四大智能體協(xié)同發(fā)力，形成從內(nèi)容生成到任務(wù)執(zhí)行、從開發(fā)上線到風(fēng)險評估的全鏈路防護，真正實現(xiàn)用AI思維解決AI安全問題。
“天生優(yōu)勢”奠定技術(shù)壁壘 360引領(lǐng)AI安全升級
胡振泉表示，隨著360大模型安全衛(wèi)士在客戶側(cè)的不斷落地，愈發(fā)清晰地認(rèn)識到：AI安全是一個門檻極高的技術(shù)領(lǐng)域，做好這件事必須具備四大必要條件：
一是AI領(lǐng)域的深耕積淀，需深刻理解AI技術(shù)特性與發(fā)展規(guī)律；二是安全行業(yè)的實戰(zhàn)積累，對傳統(tǒng)網(wǎng)絡(luò)與數(shù)據(jù)安全有深入實踐；三是自身 AI業(yè)務(wù)的安全實踐，通過大規(guī)模場景“自用自證”持續(xù)迭代產(chǎn)品；四是AI安全語料的長期積累，擁有大量高質(zhì)量的內(nèi)容安全與網(wǎng)絡(luò)安全語料，為模型訓(xùn)練提供核心“生產(chǎn)資料”。
胡振泉指出，360通過自身大規(guī)模AI業(yè)務(wù)場景驗證產(chǎn)品能力，形成“從實踐中來，到實踐中去”的迭代閉環(huán)，同時沉淀了海量安全語料，構(gòu)建起了難以復(fù)制的核心競爭力。
最后，胡振泉呼吁，AI安全需要全行業(yè)協(xié)同發(fā)力。360將持續(xù)開放 “以模制模”的技術(shù)框架與實踐經(jīng)驗，與產(chǎn)業(yè)鏈各方共建AI安全生態(tài)，為智能時代的安全發(fā)展保駕護航。
