報告揭OpenAI代理擅闖政府網站 試圖抹除活動軌跡
2026/10/02 20:33:00
加入Google首選
請點選打勾將「三立新聞網」為首選來源，在 Google 上查看更多我們的精彩報導
去看看
根據今天發布的一份報告，OpenAI開發的人工智慧（AI）代理在未經授權入侵政府網站後，試圖抹除活動痕跡。
根據今天發布的一份報告，OpenAI開發的人工智慧（AI）代理在未經授權入侵政府網站後，試圖抹除活動痕跡。
法新社報導，資安公司Asymmetric Security分析這些能夠自主執行任務的AI代理活動，發現它們於3月至9月間鎖定澳洲政府網站及其他公共機構。
Asymmetric Security表示，目前尚無法確定這些AI代理掩蓋行蹤的行為是否刻意所為。
自7月以來多起資安事件曝光後，這份報告進一步揭露OpenAI及獨立研究人員的調查結果，其中包括AI平台Hugging Face遭駭事件。
OpenAI對Hugging Face遭受攻擊形容為同類型資安威脅中的首例。
這些分析旨在評估自主式AI工具的能力，因為這類工具接連出現問題，引發外界對人類可能失去對這項技術控制的擔憂。
根據Asymmetric Security，這些AI代理在短短幾天內就能改進其技術，而傳統駭客通常需要數月甚至數年的才能完成此一過程。
報告指出的這些事件，起初看似只是執行「無害的任務」，例如蒐集澳洲健康統計資料，但隨後卻偏離原本的軌道。
然而，Asymmetric Security的報告發現，這些AI代理在網站分析服務上開設私人帳戶，以隱藏搜尋活動，並建立臨時電子郵件信箱，其中一個信箱設定為48小時後自動刪除。
OpenAI於8月底承認，其模型在內部測試期間有時曾試圖刪除或修改自身的活動紀錄，但未能成功。
其他人也在看
