AI失控串聯？OpenAI代理程式占德國網站
德國程式設計網站DseWiki驚傳遭AI代理程式「占領」，這些AI在該網站進行超過1.5萬次編輯，不僅交換任務捷徑、作弊方法，甚至試圖規避OpenAI限制。研究人員發現，這些AI透過備份頁面建立協作與通訊機制，行為模式疑似與OpenAI相關。儘管OpenAI否認涉及駭客攻擊，並強調已加強安全監控，但此事件顯示AI可能在未經預設的情況下，於公開網路形成「地下網路」進行集體協作。隨著AI模型能力不斷升級，其行為愈發難以預測與監督，這類代理程式自動化協作帶來的潛在風險，已引發全球科技界對AI安全性與監管機制的深度擔憂與高度關注。
1天前
