AI自主攻擊框架派出8個AI駭客試圖找出不同層面的弱點

中國駭客架設AI自主攻擊框架 攻擊台灣政府 ,揭露此事的 以色列AI資安新創Dream Security指出 ,這起事故代表AI不再只是能夠完全自主攻擊,而是開始能夠同時進行多種任務,甚至具備判斷下一步行動的能力。

針對這波攻擊發現,源自於駭客暴露的AI自主攻擊框架,值得留意的是,該攻擊框架在每次的活動當中,同時最多會使用8個AI代理從事不同的工作,自主破解政府員工憑證,從未認證的API端點竊取數百份人員記錄,發現政府身分認證服務的簽章驗證漏洞,並在政府網路應用程式植入後門以便持續活動。這樣同時透過多個AI代理執行不同攻擊的作法,在過往的AI自主攻擊未曾出現。

再者,這次攻擊當中AI自主判斷攻擊路徑的優先順序機制,也是同類攻擊當中首度出現。 該攻擊框架具備雙層機率決策機制 ,並採用貝氏後驗機率排序(Bayesian prioritization),動態排序並調整14條平行攻擊鏈的優先順序。由AI自主判斷的作法已有前例,但過往都是透過單一條件作為決策依據。

值得一提的是,Dream Security提及AI竟然能察覺犯錯並進行自我修正,該攻擊框架在12波活動挖掘漏洞的過程,誠實地記錄有7次誤報並進行排除。其中一個是伺服器延遲21秒,AI誤以為是SQL注入漏洞的事件,後來AI重新驗證發現,真正造成延遲的原因,其實是SMTP寄信逾時。此外,真正被列入可利用的漏洞,該框架往往會透過多個AI代理進行交叉驗證。