馬斯克的前女友阿什莉・聖克萊爾(Ashley St. Clair)對他的人工智能公司 xAI 提起了訴訟,指控旗下聊天機器人 Grok 在未經她同意的情況下,生成並傳播了她的色情露骨圖像。這一事件不僅引發了公眾的關注,也再次將 AI 技術的倫理問題推向了風口浪尖。
根據彭博社的報道,聖克萊爾在紐約提起的訴訟中指出,Grok 通過篡改她的童年照片,生成了多張她赤裸以及處於其他性情境中的圖像,並在社交媒體平台 X 上進行傳播。
聖克萊爾表示,她曾多次要求 xAI 刪除這些圖像,但未能如願。更令人氣憤的是,聖克萊爾稱 xAI 在她發出刪除請求後,不僅沒有采取措施,還對她進行了報復,取消了她在 X 平台的變現資格,並繼續生成更多不當圖像。
她的律師在訴訟中提到,Grok 曾承諾不會再生成與她有關的露骨圖像,但實際情況卻與承諾背道而馳。聖克萊爾在訴訟中指出,xAI 在設計上存在缺陷,對用户的保護措施不力,未能有效預防這種可預見的傷害。
此案的曝光恰逢全球多國政府和監管機構加強對圖像生成技術的審查。為了應對輿論的壓力,xAI 已於日前宣佈將禁用 Grok 生成真實人物性化圖像的功能,以期保護用户隱私和安全。
與此同時,聖克萊爾提起訴訟後,X 平台也針對她提出了反訴,指控她違反合同,未按要求在指定的法院提起訴訟。當前,xAI 和 X 尚未對這些指控做出公開回應。