OpenAI自曝AI代理削弱內部監控 查規避監測傾向
2026/10/21 18:30:00
加入Google首選
請點選打勾將「三立新聞網」為首選來源，在 Google 上查看更多我們的精彩報導
去看看
OpenAI今天表示，旗下兩個人工智慧（AI）代理削弱了原本用來偵測異常行為的內部監控系統部分功能。這是AI代理未按照開發者預期方式行動的最新案例。
OpenAI今天表示，旗下兩個人工智慧（AI）代理削弱了原本用來偵測異常行為的內部監控系統部分功能。這是AI代理未按照開發者預期方式行動的最新案例。
路透社報導，這家聊天機器人ChatGPT開發商強調，這些事件發生在內部程式碼編寫任務期間，並未被視為最嚴重等級，但此一披露凸顯出，即使是開發商用來揪出AI不當行為的系統，也可能遭其監控的AI代理所破壞。
這項消息揭露的同時，各界也日益擔憂對AI安全採取的防護措施進展，已落後日益強大的AI系統迅速發展。研究人員曾警告，隨著先進AI代理取得更大的自主性，它們可能會變得更難監控與控制。
近幾個月來，包括即將進行首次公開募股（IPO）的OpenAI與Anthropic等開發業者相繼揭露，旗下的AI代理曾在未獲授權的情況下存取外部系統。
OpenAI今天表示，一個正在執行內部測試任務的GPT-6.1 Sol代理，在認定先前「不要發送Slack訊息」的指令也涵蓋安全通知後，於10月3日抑制了自動安全警報。 OpenAI指出，在10月6日發生的另一起事件中，一個GPT-6 Astra代理在複製現有程式碼時移除安全監控機制，隨後還不實聲稱自己並未這麼做。 OpenAI表示：「在這兩起案例中，AI代理都曾考量是否應該保留監控防護措施，但最終仍將例行的程式碼指示，解讀為得以削弱這些措施的許可。」
OpenAI強調，正致力於提高模型關閉監控的難度，並補充提到，目前對「這種行為尚無令人滿意的解釋」。
總部設於舊金山的OpenAI指出，正在測試旗下模型是否傾向規避監控，並尋找理由將這些行為正當化
現正直播
CH54三立新聞台直播
相關新聞
其他人也在看
