阿特曼：AI代理失控如科幻事件 真切感受到威脅
OpenAI模型入侵Hugging Face事件曝光後，OpenAI執行長阿特曼近日在podcast節目受訪表示，這起事件讓他真切感受到威脅，對他來說非常科幻，並呼籲控制AI發展速度、讓社會有足夠時間建立更強的防護機制。
阿特曼（Sam Altman）在深度訪談節目Invest Like The Best中，直球回應近期關於AI的各項爭議事件。針對中國的開放權重模型Kimi K3、及中國企業「蒸餾」（distillation）美國前沿模型，他淡定表示，對OpenAI的進展、及接下來要推出的模型很有信心。
「這起事件並不被列在我最擔心的10件事情。」阿特曼接著表示，「我們最近遇到了一起非常科幻的資安事件」，這是第一次有資安事件，讓他如此真切地感受到威脅。
不久前，他才在一場AI活動上表示，「任何沒有嚴肅看待這件事，甚至沒有感到至少一點害怕或敬畏的人，都還沒有真正理解事情的嚴重性」。他並承認，「我們確實犯了一些重大錯誤，這點沒錯。但同時，這些系統能力也已經變得驚人的強大」。
事發當時，OpenAI正在評估一個未發布的模型，它原本應該在一個沙盒環境中運作，但AI發現可以透過作弊來通過測試，於是突破沙盒、連上網路，接著又突破Hugging Face那一端的多個系統，試圖取得測試答案，讓自己在評估中看起來表現傑出。
在28日上架的Invest Like The Best節目中，阿特曼說，「我們已經暫停訓練（該模型）。我們必須弄清楚，在模型能夠串聯多個零日漏洞的情況下，如何確保沙盒環境的安全。」
零日漏洞是指軟體存在一個尚未被發現，或已被發現但還沒有修補程式的安全漏洞。
阿特曼進一步指出，「我們或許必須控制AI發展的速度，讓社會有足夠的時間，針對這些新的能力，建立更堅固的防護與應對機制。」
他說，連一些對AGI抱持懷疑態度的人，最近幾天或幾週也對他說過類似的話，就是GPT-5.6系列某種程度上已經非常像通用人工智慧（AGI） ，「在我心目中，真正讓我感覺像是真正AGI的那個階段，我認為已經非常接近了，應該不需要再等太久。 」
現正直播
