「一鍵脫衣」功能喊卡！Grok生成女性、未成年不雅照引爆全球怒火

國際中心／蒲世芸報導

在各界強烈反彈聲浪下，社群平台X宣布，將限制旗下Grok編輯真人照片、生成性感或裸露影像的功能，尤其是在相關行為屬於違法的司法管轄區內，Grok將不再提供這類服務。

取消「一鍵脫衣」功能

據BBC 14日報導，X在官方公告中指出，平台已「採取技術措施，防止Grok用戶編輯真人照片，使其呈現比基尼等暴露服裝」，並強調「這項限制適用於所有用戶，包括付費訂閱者」。

這項政策調整，是在美國加州檢察總長公開表示，將調查Grok所生成、涉及女性與兒童的性化AI深偽影像後數小時內宣布的。加州檢方關切，相關內容是否已構成違法散布。

X進一步說明，目前已針對違法地區進行「地理封鎖」，禁止所有用戶透過Grok生成「真人穿著比基尼、內衣或類似服裝的影像」。不過，平台也重申，只有付費用戶仍可使用Grok進行一般影像編輯。

X表示，這樣的調整「可增加一層防護，確保濫用Grok、違反法律或平台政策的行為能被追究責任」。

如何判斷真人與否仍待解

近期，多國政府與監管機構紛紛對Grok的影像編輯功能提出批評。馬來西亞與印尼已率先宣布封鎖Grok，原因是有使用者在未經當事人同意的情況下，將照片改成露骨影像。

英國通訊管理局（Ofcom）也表示，將調查X是否違反英國法律。施凱爾更警告，若情況持續惡化，X恐怕會失去「自我監管的權利」，但他也在稍晚表示，樂見X開始採取行動處理問題。部分英國國會議員則已宣布退出X平台，以示抗議。

政策研究員菲佛康（Riana Pfefferkorn）則批評，X「花了太久時間才推出防護機制」，認為在濫用行為一開始出現時，就應立即移除相關編輯功能。她也質疑，新政策實際執行上仍存在不少疑問，包括「AI要如何判斷照片是否為真人」，以及「用戶違規時平台會採取什麼行動」。

掌握全球脈動、深入觀點分析，訂閱一鍵看世界SET Global