AI巨頭倡業界自律 專家指安全規範恐成大公司護城河
加入Google首選
OpenAI、Anthropic等人工智慧（AI）公司近來警告，先進模型可能帶來重大風險，主張推出前接受外部安全測試。美聯社引述專家指出，這套「業界自律」做法，可能有利大公司建立安全形象、取得資金與晶片，形成市場「護城河」。美國目前已有政府單位「人工智慧標準與創新中心」（CAISI）及民間機構評估部分先進模型，但與航空、金融等產業不同，AI尚無一套普遍適用的安全測試標準，明確規定哪些項目必須測試、怎樣才算安全。
美聯社報導，前CAISI主管史托茲（Conrad Stosz）指出，OpenAI、Anthropic等公司未要求政府機構加強監督，而是傾向自行設定稽核方式，再找外部機構評估；但評估人員究竟能取得多少資料、可以檢查哪些內容仍不明確，即使由第三方把關，能否保持獨立也受到質疑。史托茲任職的AI評估實驗室，曾替Anthropic、OpenAI及Google測試系統。他指出，外部評估者當然希望取得更多模型與內部資料，但公司願意開放到什麼程度，評估人員能否充分調查，仍沒有明確答案。
業者自律也可能影響AI產業競爭。市場研究公司PitchBook資深分析師羅菲斯（Harrison Rolfes）認為，大型AI公司把自己塑造成較安全的選擇，有助爭取投資人、晶片業者及其他科技公司的支持，也可能使規模較小的競爭者更難成長。安全規範本身需要業者投入人力、運算與評估等資源，大型公司較有能力建立完整的安全體系，也更容易取得投資與晶片支持，可能進一步拉大與小型競爭者的差距。
羅菲斯形容，這可能替大型公司形成一道競爭「護城河」。大型AI公司若能以安全形象取得更多投資、晶片與科技業者支持，就可能進一步強化既有市場優勢，使規模較小的競爭者更難取得相同資源、擴大發展。曾任OpenAI地緣政治團隊主管的蕭克（Sarah Shoker）指出，業界近來大量討論AI失控甚至危及人類等風險，也可能轉移焦點，讓資料中心環境衝擊、駭客攻擊、大規模監控及軍事用途等問題較少受到關注。
業界對AI風險應如何因應仍有不同看法。輝達執行長黃仁勳認為，目前對AI存在過度恐慌，企業可以自行決定發展步調；另一方面，也有前OpenAI研究人員因擔心AI進展太快，可能帶來重大風險，主張採取更強的安全措施。
現正直播
