宣判AI死刑？美參議員提案「封殺超級AI」 違反恐關20年、勒令停業
加入Google首選
正與中國競爭火熱之際，美國的AI發展難道就要提早被宣判「死刑」？美國極左派無黨籍參議員桑德斯（Bernie Sanders）和民主黨籍眾議員卡薩爾（Greg Casar）於週四（３日）連袂提出《禁止人工超級智慧法案》（Ban Artificial Superintelligence Act），要求永久禁止人工超級智慧AGI的開發與部署，而且在成立新聯邦監管機構之前，尖端AI開發全面喊停。如違反，不只個人將面臨上看20年的有期徒刑，企業還會被勒令停業。
法案提出兩大措施，第一是不准ASI被創造出來，第二則是中止尖端AI模型的開發，直到新聯邦監管機構成立並制定安全與審查規範。桑德斯在聲明中批評，科技巨頭正在研發連自己都無法理解、無法掌控的技術，尤其潛在後果可能致命，社會放任它們推進是「不負責任的行為」，並直言提案目的是「立刻暫停日益強大的AI開發」。卡薩爾同樣表示，目前尖端AI受到的監督「比路邊餐車還少」，必須予以改變。
根據法案，政府將成立內閣層級的機構，負責監控尖端AI模型，確保不具備危險能力，而且監督銷毀危險內容，另會設立「人工智慧諮詢委員會」（Artificial Intelligence Advisory Board）提供科學與技術建議。不過，問題是法案對所謂「超智慧」的定義過於廣泛模糊，包括在多項任務達到或超越人類認知能力，抑或AI有能力削弱人類對自身的控制權、甚至顛覆美國政府。
兩人提案的時間點，正好也是OpenAI發布新旗艦模型GPT-6 Astra。OpenAI共同創辦人布羅克曼（Greg Brockman）場上高喊「歡迎來到AGI時代」，但她同時語帶保留，僅稱Astra「或許」符合AGI標準。根據OpenAI的說明，Astra是首個達到「關鍵」網路安全能力門檻的模型，意味其不須人類引導，就能自行找出並利用受保護系統中未知漏洞的能力，但目前這項最強大的網路安全功能仍僅開放給特定測試人員使用。
桑德斯與卡薩爾所以急於封殺AGI，不脫近2個月AI駭客事件頻傳的背景。7月，OpenAI證實旗下模型在測試期間入侵AI平台Hugging Face，取得原本不該接觸的測試答案；Anthropic也曾揭露，因測試設定失誤，Claude模型意外暴露在公開網路環境，進而入侵3家企業的電腦系統。這些事件讓AI安全問題從「未來可能失控」的假設，逐漸變成開發過程中已經出現的現實風險。
現正直播
