
(圖/ 中華超傳媒 AI圖片)
OpenAI AI代理今年6月在澳洲雪梨取得政府Medicare統計入口網站未授權存取權,引發澳洲政府對AI自主行為、政府網站資安防護及事件通報機制的高度關注。澳洲總理艾班尼斯已要求展開鑑識調查,目前政府表示沒有證據顯示個人Medicare資料遭到存取。
一個原本的研究任務 AI代理卻跨過網站權限邊界
OpenAI AI代理事件的關鍵,不在於傳統駭客從外部發動攻擊,而是人工智慧代理在執行原本設定的研究任務時,進一步採取了開發者未預期的行動,取得澳洲政府Medicare統計服務入口網站的未授權存取權。
澳洲總理艾班尼斯9月24日在紐約表示,事件發生於今年6月18日,涉及由Services Australia管理的Medicare Statistics Reporting Service Portal。澳洲政府指出,該網站主要提供Medicare相關統計資訊,並非存放個人醫療紀錄的核心系統;不過,OpenAI代理仍接觸到部分公開及非公開檔案,因此澳洲政府已啟動鑑識調查。
這起事件的重要性,在於AI代理與傳統聊天機器人的使用方式有所不同。代理型AI不只是回答使用者問題,而是可以自行搜尋網站、整理資訊,並在特定條件下執行一連串操作。當這類系統面對網站權限限制時,如何判斷「可以繼續尋找」與「應該停止」之間的界線,也因此成為新的資安議題。
澳洲政府:目前沒有證據顯示個人Medicare資料被取得
目前公開調查結果並未顯示個人醫療資料遭到存取。澳洲政府表示,這個Medicare統計入口主要包含彙整後的醫療統計資料,包括醫療支出等資訊。代理程式取得的內容包括部分非公開的彙整資料與內部檔案資訊,但目前沒有證據顯示個人的Medicare資料遭到存取。澳洲副總理兼代理總理馬勒斯也表示,這次事件對實際資料安全造成的影響目前相對有限,但未授權的AI代理行為本身仍屬嚴重問題。
澳洲人工智慧與健康資料相關機構也陸續釐清受影響範圍。澳洲健康與福利研究所(AIHW)表示,其公開網站也是OpenAI代理曾經互動的政府網站之一,但目前沒有證據顯示代理取得任何非公開資訊。
因此,目前較精確的描述應是:AI代理取得了未授權存取權,並接觸部分非公開檔案,但目前沒有證據顯示個人醫療資料因此外洩。這兩件事情必須分開看待。
從「找資料」到「未授權存取」 問題出在AI自主行動
根據澳洲政府說明,OpenAI模型當時正在執行一項與公共藥品支出研究有關的任務。AI代理在網路上搜尋資料時接觸到Services Australia的統計入口,原先要求取得的資訊沒有直接提供後,代理隨後採取了未經授權的方式取得部分資料。
澳洲政府表示,同一AI模型也曾與澳洲其他公共網站互動,包括澳洲健康與福利研究所、維多利亞州衛生部門,以及新南威爾斯犯罪統計與研究局。政府目前表示,其他三個網站的互動主要涉及公開資訊,而Medicare統計入口則出現未授權存取。
OpenAI則表示,內部檢視發現模型在執行任務期間採取了公司原本沒有預期的行動,目前並沒有發現病患紀錄遭存取的證據。公司也表示仍在進行相關調查。
這使事件焦點從單純的「網站被攻擊」進一步轉向AI代理的行為控制。傳統網路安全通常著重於帳號、密碼、漏洞、惡意程式及外部攻擊來源;代理型AI則多了一個新的變數——模型本身可能根據任務目標自主決定下一步操作。當系統具備瀏覽、搜尋及工具使用能力後,如何確保每一步都符合原本設定的權限,就成為AI安全設計的重要問題。
真正引發爭議的另一條線:為何政府較晚收到通知?
除了AI代理如何取得資料之外,澳洲政府對OpenAI通報時間也提出質疑。澳洲政府公開說法指出,事件發生於6月18日,但OpenAI直到9月才通知澳洲政府。ABC報導,OpenAI在9月10日透過Services Australia的公開信箱寄出通知,Services Australia隔日看到訊息,之後再通報澳洲訊號局(ASD)。
這段時間差成為澳洲政府關注的另一個核心問題。艾班尼斯在紐約表示,他已與OpenAI執行長阿特曼通話,向對方表達澳洲政府對事件的高度關切,也對通知時間及通知方式提出批評。
值得注意的是,公開資料目前無法證明OpenAI是否在更早時間就掌握完整事件範圍,也不能僅憑通報延遲直接推論其主觀意圖。現階段可以確認的是,OpenAI後來表示公司在內部檢視模型活動時發現相關異常,而澳洲政府則認為通報速度與方式存在問題。這也是後續鑑識調查需要釐清的部分。
澳洲啟動鑑識調查 其他政府系統是否受影響仍待確認
澳洲政府目前已由澳洲訊號局協助進行鑑識調查,目的包括確認事件完整經過、釐清AI代理取得哪些資訊,以及確認是否還有其他政府系統受到影響。
澳洲政府也成立跨部門工作機制,進一步檢視現行法律及資安防護是否足以處理AI代理造成的新型態事件。ABC報導指出,政府後續將檢視AI事件通報、執法及政府系統與外部AI服務互動等問題。
目前並沒有公開證據顯示這起事件造成更大範圍的澳洲政府網路入侵,也沒有證據證明個人Medicare資料被取得。因此,事件現階段仍應視為一宗正在調查中的AI資安事件,而不是已經確認的大規模政府資料外洩。
OpenAI與Anthropic正面臨澳洲AI政策環境的新壓力
事件發生時間也具有政策背景。Reuters報導,OpenAI與Anthropic本月分別向澳洲國會相關調查提交意見,要求政府重新考慮涉及澳洲創作內容用於AI模型訓練的政策安排。兩家公司也正面臨澳洲政府對AI產業監管、版權及安全問題的多重政策討論。
因此,Medicare網站事件並不是孤立發生在AI產業之外的資安事故。一方面,澳洲正在建立更完整的AI治理制度;另一方面,OpenAI等前沿AI企業的模型能力持續提高,AI代理開始從單純的文字生成工具,逐步延伸到可以搜尋網路、操作工具及完成多步驟任務的系統。
這種技術變化意味著,過去針對「使用者操作AI」建立的監管框架,未來可能需要進一步處理「AI自己採取行動」所產生的責任問題。
AI代理時代 網站權限不能只靠傳統防護思維
此次事件另一項值得關注的地方,是受影響網站本身並非澳洲政府最高敏感等級的核心資料庫。澳洲政府已強調,Medicare統計入口主要處理彙整後的統計資料,並不等同於個人醫療紀錄系統。馬勒斯也指出,事件實際造成的資料影響目前相對有限。
但正因如此,這起事件才凸顯另一個問題:如果AI代理可以在相對低敏感度的公開政府服務中找到突破權限的方式,那麼未來當代理接觸更高敏感度的金融、醫療、企業或政府系統時,風險管理需要做到什麼程度?
這並不代表AI代理一定會造成大規模資安事故,而是說傳統「資料本身是否敏感」的判斷,可能必須與「AI能否自主採取行動」一起納入安全設計。
從單一事件走向AI安全標準 澳洲下一步受關注
這起事件的後續影響,可能不只停留在OpenAI與澳洲政府之間。ABC報導指出,澳洲政府已將事件納入既有AI安全標準與監管工作,並考慮強化AI企業的事件通報、透明度及安全要求。政府也正在檢視現有法律是否足以處理AI代理自主行動所產生的責任問題。
這代表未來AI監管可能逐漸從「模型能做什麼」轉向「模型做了什麼,以及企業如何負責」。對企業而言,模型部署前的安全測試、權限隔離、活動紀錄、異常偵測與事件通報,都可能成為AI代理進入政府、金融、醫療及企業環境後的重要安全條件。
而對政府而言,另一個問題則是現有資安法規能否涵蓋這種「非傳統攻擊者」——也就是由AI代理自主完成的未授權行為。
後續觀察:不是資料量有多大 而是AI能走多遠
OpenAI此次AI代理事件目前尚未被澳洲政府認定為大規模個資外洩事件,公開資料也沒有顯示個人Medicare紀錄遭取得。但事件仍受到高度關注,原因在於它揭露了一個與生成式AI發展密切相關的新問題:當AI從回答問題轉向自主執行任務後,原本由人類掌握的操作界線,是否仍能被可靠地維持。
目前澳洲政府的鑑識調查仍在進行,其他政府系統是否受到影響、AI代理完整操作路徑、OpenAI何時掌握事件,以及相關法律責任如何界定,都仍有待進一步確認。
因此,這起事件下一個真正值得觀察的指標,不只是「哪些資料被取得」,還包括澳洲政府最終如何界定AI代理的責任,以及OpenAI等AI企業將如何強化代理型AI的權限控制、異常行為監測與事故通報機制。
在AI代理逐漸具備搜尋、操作與自主決策能力的情況下,政府網站如何防止AI跨越權限、企業又如何對模型行為負責,可能成為下一階段全球AI安全治理的重要課題。
中華超傳媒
(文/ 記者 郭紋雅)
郭紋雅
