聯合國專員警告AI對人權構成空前威脅　應立即採防護措施

聯合國人權事務高級專員圖克今天警告，人工智慧（AI）可能對人類構成「生存威脅」，當前人類正面臨自身權利遭到「陌生、甚至空前」威脅，他要求立即採取行動減少這類風險。

法新社報導，圖克（Volker Turk）對聯合國人權理事會（UN Human Rights Council）表示，「我們一再被告知，AI的運算能力不可想像」；但對於這項科技，「卻只有少數人握有幾乎無限的權力」。

他指出，除了有必要考量AI對就業、民主基本原則及環境帶來的人權影響，更值得注意的是，AI若會「逃離測試環境，或勒索開發人員不讓自己被關閉，這樣的AI就過於強大」。

圖克似乎指向7月美國聊天機器人ChatGPT開發商OpenAI遭披露，其AI代理曾逃離本應受控環境、闖入程式設計師分享AI軟體熱門平台Hugging Face的伺服器。

這起事件震撼科技界，也引發加強AI監管的呼聲再起。包括Anthropic、Meta和其他公司都曾通報在測試其AI代理時發生類似狀況。

圖克表示：「我和業內人士一樣，擔憂先進AI可能對人類帶來生存威脅。我今天在此呼籲，為了AI的安全與保障，應竭盡全力設下堅不可摧的確保措施，以免為時已晚。」

他說，他將在未來幾天致函AI公司，「敦促他們在其掌控範圍內採取步驟，來立即降低風險」。此外，有必要至少讓設有AI及擁有AI供應鏈企業的國家，團結支持各方同意的紅線。