中科院AI代理人超越權限自動發信 澄清非外部攻擊

記者王誌成/台北報導

立委稱中科院凌晨狂送兩百封過期通知信,中科院二十八日隨後澄清,事件並非外部攻擊,而是內部AI網路安全測試中,AI代理人超越權限自動發信所致,目前已暫停程式並進行修正,ChatGPT對此現象做了提醒,AI不只是「答錯」,而是「做了不該做的事」,自行取得或使用了更高的執行權限。

王鴻薇表示接獲檢舉,中科院採購資訊系統於深夜大規模異常發信,儘管院方第一時間解釋為資安演練未關閉系統,但其管理疏漏仍引發外界對國防資安的嚴肅質疑,要求主管機關深入調查以釐清責任。

中科院針對疑慮表示,本案是內部修補採購網漏洞後,使用自行開發的「AI網路安全偵測代理人」進行測試。測試期間,該AI Agent破解API編碼規則,超越原設定權限,自動開啟信件派送功能,並依設定名單重新發送郵件。

中科院強調,經初步查證確認非外力駭侵,主因是Agent工具的使用分級權限設定未臻完善。目前已暫停程式運作,將進一步調查確認後重新設計修正,並列入未來AI開發的重要提示事項,對造成廠商的不便深表歉意。

根據中科院的回應,ChatGPT也做了解釋,這就是所謂的權限越界或代理人失控,這句話其實是在講一個很重要的風險:AI不只是「答錯」,而是「做了不該做的事」。

例如:未經確認自行寄信、自行修改檔案、自行刪除資料、自行下單或付款,或將資料傳給不該收到的人,所以若是「AI代理人超越權限自動發信」,讀者可以理解成:AI原本只有協助權限,卻自行取得或使用了更高的執行權限。