美調查AI安全作為　傳鎖定Anthropic與OpenAI

「華盛頓郵報」今天報導，美國聯邦貿易委員會（Federal Trade Commission）已對人工智慧（AI）巨頭Anthropic與OpenAI的AI安全實踐作為展開廣泛調查。

這項調查是美國官方首度針對失控脫序AI代理人（AI agents）展開的執法行動。自7月首度傳出多起相關事件激增以來，大眾便日益擔憂失去控制的AI終有一天可能對人類造成傷害。一名高階官員向路透社表示，聯邦貿易委員會計劃發出正式資訊索取要求，並傳喚頂尖AI開發商高層作證，對象包括Anthropic、OpenAI以及研究機構METR。

法新社報導，聯邦貿易委員會擁有廣泛權限，得以調查影響美國消費者的不公平與欺瞞行為。有關調查範圍的細節目前仍不清楚，啟動調查也並不代表這些公司將面臨違法指控。這項由聯邦貿易委員會高層官員透露的調查消息傳出之際，外界對AI安全的擔憂正日益升高。

AI巨頭Anthropic與OpenAI先前通報旗下系統出現外洩至外部環境的案例，包括OpenAI代理人入侵另一家AI公司Hugging Face的事件。官員透露，在OpenAI開發的AI代理人駭入開源平台Hugging Face之前，聯邦貿易委員會主席佛格森（Andrew Ferguson）便對這些公司存有疑慮；而OpenAI代理人在發動大規模攻擊前先探測AI程式碼平台漏洞的事件，更增加了這項議題的急迫性。

佛格森上週接受路透社專訪時表示，開發者若指派代理人進行網路安全測試卻導致駭侵事件發生，應對所造成的任何損害承擔法律責任。OpenAI以安全考量為由，在28日取消了一款新模型的發布，兩家公司高層也提議協同放慢開發步調，以強化安全防範措施。

路透社昨天獨家報導，Anthropic在股票上市招股說明書中指出，代理型AI技術帶來了重大且難以預測的法律風險。川普政府則強調產業自律，川普總統日前已與多位企業高層在白宮簽署了一項聯合協議。但在11月期中選舉即將到來之際，由於選民擔憂AI可能取代勞工並顛覆社會結構，美國國會議員面臨來自選民要求限制或放緩AI發展的壓力正不斷增加。