Joshua Costa，Cortex產品市場總監
去年以來，人工智能（AI）技術已經成為主流。而每當有新技術成為主流時，人們都會想方設法讓其幫助自己的工作和生活變得更輕松。雖然AI技術的快速普及改善了企業的運作模式，但它同時也為網絡威脅者制造了新的機會。
鑒于對手正在利用AI發起速度更快、范圍更廣且效果更好的網絡攻擊，企業也需要在安全防御策略中采用AI予以應對。派拓網絡自主開發的AI系統Precision AI通過使用豐富的數據和特定的安全模型實現檢測、預防和修復的自動化，幫助安全團隊信任AI所帶來的成果。
AI在網絡攻擊中的應用
威脅者總是在尋找阻力最小的攻擊途徑。例如他們會改造惡意軟件并經常使用CobaltStrike、Brute Ratel C4等現成的工具抓住弱點，以最小的代價發起惡意行動。根據觀察，他們已經開始使用新的AI技術發動攻擊。隨著新的AI工具上市，威脅者將利用它們自動實施和增強各種攻擊手段。
威脅者通常將AI用于以下途徑：
·實施偵察：威脅者通常會在發動攻擊前，先采集潛在目標的相關信息。借助AI，他們可以從網站、社交媒體平臺和其他在線資源獲取公開信息，收集企業數據，其中可能包括詳細的個人信息、從屬關系、人際關系和其他可用于策劃和實施網絡攻擊的有用信息。
·增強社交工程：僅憑語法或拼寫問題就能識別釣魚郵件的時代已經過去。通過使用生成式AI聊天機器人，威脅者可以編寫出縝密的釣魚郵件、網頁和其他內容，進而提高欺詐成功率。這將使社交工程繼續成為網絡攻擊最主要的威脅載體之一。
·開發惡意代碼：即便是不具備編碼技能的威脅者也能使用AI工具創建惡意軟件和其他代碼。如今，許多AI工具都能通過簡單的指令或輸入來修改或創建代碼。通過創建自定義腳本、開發新的惡意軟件變體，以及不斷改進工具，威脅者能夠避免被發現并提高攻擊效果。
·自動利用漏洞：AI可用于自動發現和利用應用或系統中的漏洞。借助機器學習技術，威脅者能快速發現弱點并大規模發起有針對性的攻擊。
·深度偽造攻擊：AI生成的深度偽造視頻、圖像或音頻錄音可用于操縱或欺騙個人。威脅者利用AI技術編造出以假亂真的虛假內容，損害企業和個人的聲譽或方便其發起更大范圍的網絡攻擊。
·提示注入：生成式AI工具容易受到提示注入攻擊，導致生成的輸出結果被威脅者操縱。通過讓這些工具以意想不到的方式回答問題，威脅者便可以利用提示注入采集敏感信息，甚至執行惡意代碼。
所有這些技術都讓威脅者能夠更加快速、有效地實施攻擊。從經濟損失、數據泄露，到聲譽受損、運營中斷，這些攻擊可能導致非常嚴重的后果。此外，AI驅動的威脅進化迅速且適應性強，令傳統網絡安全措施捉襟見肘。由此可見，企業正面臨前所未有的風險，他們需要采取具有前瞻性且適應性強的防御措施，以AI防御對抗AI攻擊。
企業如何運用AI應對網絡攻擊
為有效應對AI驅動的網絡攻擊，企業需要在防御策略中充分發揮AI的能力。采取使用AI技術的安全工具和策略已成為應對攻擊的關鍵。
企業網絡安全方案中可以使用AI的關鍵方面包括：
·威脅檢測與分析：威脅檢測與分析是AI能夠產生重大影響的一個關鍵領域。使用AI技術的安全工具能夠通過實時分析大量數據，快速識別異常活動和潛在的安全事件。借助機器學習算法，企業可以發現威脅，并提前采取措施降低風險。這些工具擁有實時響應能力，可通過自動調整防御措施應對新出現的威脅。
·安全操作自動化：使用AI技術的安全工具能自動執行各種安全任務，例如添加數據源、拼接不同的警報和擴充安全細節等。AI還能通過快速分析和關聯安全事件、確定事件的嚴重程度，并提供建議和應對措施，幫助實現事件響應自動化。這不僅可以減輕安全團隊的負擔、提高效率，還能讓他們專注解決更復雜、更具戰略意義的安全問題。高保真的自動化能加快平均檢測時間（MTTD）和平均響應時間（MTTR），減輕網絡攻擊的影響，更大程度地縮短漏洞窗口期。
·威脅情報分析：具有前瞻性的威脅情報和預測分析是網絡安全策略必不可少的組成部分。AI通過實時分析各種安全數據源，發現新出現的威脅并預測潛在的攻擊載體。比如企業可以充分利用對抗性AI技術來生成和了解攻擊，以此不斷改進防御。借助AI，企業可以提前部署防御，從而在與對手的對抗中占得先機并在風險演變成全面攻擊之前將其化解。
通過實施這些策略，企業將提高其有效檢測和阻止網絡攻擊的能力。
未來趨勢和建議
展望未來，預計AI在網絡攻擊和防御中的作用將進一步增強。威脅者將繼續改進AI驅動的攻擊技術，因此網絡安全策略也要不斷創新。為了在應對AI驅動的威脅時占得先機，建議企業優先考慮這些事項：
·投資使用AI技術的網絡安全解決方案：建議企業將資源用于落實使用AI技術的防御系統，以便實時適應不斷變化的威脅。
·合作并分享威脅情報：與業界同行和安全社區分享威脅情報能夠針對AI驅動的攻擊加強集體防御。
·培養網絡安全意識文化：通過培訓讓員工了解與AI驅動的網絡攻擊相關的風險和最佳實踐，強化企業的整體安全態勢。
·緊跟不斷發展的AI技術：企業應隨時了解新興AI技術及其在網絡攻擊和防御活動中的潛在應用。
充分利用AI應對網絡威脅
面對不斷變化的安全環境，企業需要意識到對手在攻擊中正愈發頻繁地使用AI，且只有將AI用于防御才能保護敏感數據、系統和基礎設施。
通過將AI用于威脅檢測、落實運用AI技術的防御系統，以及獲得具有前瞻性的威脅情報，企業能夠加強自身的安全防御，并對AI驅動的攻擊保持韌性。將AI應用于安全環境不僅是為了跟上對手的步伐，更是為了在應對風險時贏得先機。
