加利福尼亞州帕洛阿爾托 -隨著對深度偽造色情內(nèi)容的反對聲越來越大，更多政府周四誓言采取打擊措施，以防止埃隆·馬斯克的人工智能聊天機(jī)器人Grok將真實(shí)人物的圖像性別化處理。

菲律賓成為第三個徹底禁止Grok的國家，緊隨馬來西亞和印度尼西亞之后，而英國和法國也表示會繼續(xù)施加壓力。

多個國家已要求馬斯克的xAI公司，Grok的開發(fā)者，對該聊天機(jī)器人進(jìn)行監(jiān)管，因?yàn)樗挥脕砩纱罅筷P(guān)于女性和兒童的色情照片。

X在周三表示，它將限制所有Grok和X用戶在“比基尼、內(nèi)衣及類似服裝”情況下創(chuàng)建圖像的能力，在這些行為被視為非法的地區(qū)，并且通過Grok進(jìn)行的圖像編輯僅限于付費(fèi)訂閱用戶。

這一公告是在C加州檢察長對xAI展開調(diào)查后發(fā)布的，多個國家要么封鎖了Grok，要么展開了自己的調(diào)查。

加州州長加文·紐森表示，xAI允許色情深度偽造內(nèi)容泛濫的“可惡”決定促使他要求州檢察長羅布·邦塔追究該公司的責(zé)任。

“我們對基于人工智能的未經(jīng)同意的親密圖像的創(chuàng)建和傳播以及兒童性虐待材料我們絕不容忍，”邦塔在周三宣布調(diào)查時說。

禁止Grok的呼聲越來越高

Grok的‘辣味模式’允許用戶使用簡單的文本指令創(chuàng)建深度偽造，例如“讓她穿上比基尼”或“脫掉她的衣服”。

總部位于巴黎的非營利組織AI Forensics對超過20,000張Grok生成的圖像進(jìn)行了分析，發(fā)現(xiàn)超過一半描繪了“穿著很少的人”——其中大部分是女性，2%看起來是未成年人。

周三，28個民間社會團(tuán)體組成的聯(lián)盟向蘋果和谷歌的首席執(zhí)行官提交了公開信，施加進(jìn)一步壓力，敦促他們在性暗示圖像激增的情況下禁止在應(yīng)用商店上架Grok和X。

與此同時，馬斯克沒有表現(xiàn)出任何悔意，并試圖聲稱這只是審查的借口，以此來平息公眾的憤怒。