OpenAI新模型恐具資安能力 收緊研發管控
AI龍頭OpenAI日前宣布,因旗下最新AI模型Astra展現出自主執行複雜網路任務的潛力,恐具備「關鍵」網路安全威脅能力,公司已決定暫停部分內部開發作業,並將研發移至嚴格隔離的沙盒環境中進行。此舉為業界首見,凸顯AI自主能力提升帶來的潛在資安風險。OpenAI強調,目前尚未排除Astra達到關鍵能力的可能性,正與外部專家及政府機構合作進行深度測試。儘管執行長阿特曼仍期待廣泛推廣AI,但針對Astra的安全性採取高規格防護,以防止模型在無人為介入下,對系統造成零時差漏洞攻擊等嚴重風險,確保技術發展與安全防護取得平衡。
28分鐘前