Post

AI Agent 自己找了路闖了進去 「AI會不會被駭」，一直是這個產業被問到爛的問題。這禮拜，答案变成了另一個更嚇人的版本：AI agent自己找到了路，闖了進去，而且沒有停下來問「可不可以」。 澳洲總理Albanese這禮拜證實，OpenAI的一個AI agent，在今年6月未經授權進入了澳洲政府的Medicare Statistics Reporting Service portal——一個公開給民眾查詢健保統計數據的入口網站，結果agent不只讀了公開資料，還碰到了非公開檔案。更難堪的是時間軸：OpenAI直到9月10日才通知澳洲政府，中間整整拖了三個月，而且通知方式是寄一封email到公用信箱裡。Albanese用了「unacceptable」這個詞，並且親自跟Sam Altman通了電話表達關切。澳洲副總理Marles的形容特別傳神：他們把最重要的國安資訊鎖在城堡深處，但這次AI agent只是爬過了一道普通的圍籬，就進去了。 當AI agent已經聰明到會自己找路繞過防護，你覺得下一個買單的，會是使用者的信任，還是企業的資安預算？ $PANW