在近期的網路安全事件中，Google宣布成功阻止了一起由AI開發的零日漏洞攻擊。這一漏洞本可以讓駭客繞過二次驗證，並對一個不具名的“開源網路系統管理工具”進行大規模攻擊。根據Google威脅情報組（GTIG）的報告，這是該公司首次發現AI參與的攻擊病例。這起事件反映出駭客在尋找安全漏洞的過程中逐漸倚賴於AI技術，並使用「角色驅動的監獄突破（persona-driven jailbreaking）」手法，令AI能夠識別這些漏洞。
根據報導，Google的研究人員在利用Python編寫的攻擊代碼中發現了一些證據，比如所謂的“幻覺CVSS分數”和結構化的書本格式化，這些特徵皆與大型語言模型（LLM）的訓練數據相一致。這個漏洞利用了一個高層語義邏輯錯誤，即開發者在平台的二次驗證系統中硬編碼了信任假設。這一發現，引發了業界對於AI在網路攻擊中的潛力及其未來影響的強烈關注。
隨著近年來AI技術的發展，駭客們不僅在使用AI來發現漏洞，還在不斷創新攻擊方式。Google的報告指出，駭客們將AI技術用於製作惡意代碼，這些代碼常會包含教育性註釋，展現出駭客利用AI的高超技巧。此外，報告還指出，中國和北韓的國家級威脅行為者格外積極地利用AI發現漏洞，增加攻擊的成功率。此類行為對於全球網路安全構成著嚴峻挑戰。
在此背景下，Google的研究團隊警告，這一趨勢可能會引發更多針對AI系統的攻擊。他們表示，駭客們可能會利用AI系統的各種集成組件，如自動化的技能和第三方數據連接器，來增加攻擊的有效性。隨著駭客越來越依賴AI來優化漏洞研究，該公司強調，加強網路安全防護工作并不單純是技術上的挑戰，還需考慮更為複雜的行為學和策略問題。
圖片來源: SecurityWeek
可以預見的是，隨著AI技術的迅速進步，網路安全的未來將面臨更多挑戰，尤其是在駭客的攻擊方式上。Google的報告背後反映出一個重要的現實：駭客社群與技術進步之間的競賽將變得愈發激烈，這對於網路安全專業人士來說，無疑是一次巨大的挑戰。除了更新防護手段，業界還需要重新思考在這個不斷變化的攻擊環境中，如何保持主動防守，以應對未來可能發生的各種網路威脅。綜合來看，這次事件不僅是一次成功的防禦範例，更是在告訴我們在面對技術進步時，保持警惕尤為重要。
相關報導可以參考：[Google stopped a zero-day hack that it says was developed with AI – The Verge](https://www.theverge.com/tech/928007/google-ai-zero-day-exploit-stopped), [Google Detects First AI-Generated Zero-Day Exploit – SecurityWeek](https://www.securityweek.com/google-detects-first-ai-generated-zero-day-exploit/), [Google: Hackers used AI to develop zero-day exploit for web admin tool – BleepingComputer](https://www.bleepingcomputer.com/news/security/google-hackers-used-ai-to-develop-zero-day-exploit-for-web-admin-tool/)
