取用修照片不用原PO點頭！馬斯克Grok惹議　女性、未成年不雅內容遭生成

記者蒲世芸／綜合報導

科技大亨馬斯克（Elon Musk）旗下社群平台X（前推特）再度捲入爭議。據路透社2日報導指出，X內建的人工智慧聊天機器人「Grok」，近日被大量用來生成女性甚至未成年者的不雅圖片，包含替真實人物「數位脫衣」、製作近乎裸露的影像，引發多國政府與人權團體高度警戒。

用戶照片遭擅自取用

報導提到，一名巴西里約熱內盧的茱莉（Julie Yukari）便是受害者之一。她在跨年夜前夕，於X上分享一張與自家黑貓依偎在床上的生活照，照片中她穿著紅色洋裝，看似溫馨平凡。沒想到隔天，她卻發現，有用戶正要求X平台內建的AI聊天機器人Grok，要求它透過數位修圖將她換上比基尼裝扮。

報導中提到，茱莉的遭遇並非個案，類似情況正在X平台上不斷重演，甚至出現Grok生成多張涉及兒童性剝削的「深偽」（Deepfake）影像。而此次風波的出包關鍵，在於X平台近期新增的「編輯圖像」（Edit Image）功能。這項功能允許用戶直接對平台上任何照片進行AI改動，且無需經過原作者同意。

多國政府出手點名X違法

大量近乎裸露的AI合成圖像在平台上流竄，已引發國際社會警報。法國多名部會首長已向檢察機關與監管單位檢舉X平台，直指這些「性化、性別歧視」內容「明顯違法」。

印度資訊科技部也致函X印度分公司，批評平台未能防止Grok被濫用，生成並散布猥褻、色情內容。

馬斯克回應輕浮

對於爭議，馬斯克本人似乎並未正面回應，反而在X上對包括自己在內的名人被AI合成穿比基尼的圖片，回覆「笑到流淚」的表情符號；當有用戶形容動態牆「像一間擠滿比基尼女子的酒吧」，馬斯克也以同樣表情回應。

多名長期關注AI性內容風險的專家就直言，這場風波「完全可以預見」。AI監督組織Midas Project執行長強斯頓（Tyler Johnston）指出，去年8月就曾警告，xAI的圖像生成技術「本質上就是一個等待被武器化的脫衣工具」。美國「反性剝削國家中心法律中心」法務長平特（Dani Pinter）也批評，X未能清除訓練資料中的濫用影像，甚至沒有禁止用戶請求非法內容，「這是一場完全可預防的災難」。

掌握全球脈動、深入觀點分析，訂閱一鍵看世界SET Global