大家好，我是紐約君。

眾所周知，億萬富豪馬斯克和前女友阿什利·圣克萊爾爭奪一歲兒子監(jiān)護(hù)權(quán)的事，前陣子鬧得沸沸揚(yáng)揚(yáng)…

好不容易風(fēng)波稍平息，他倆又因?yàn)橐豢預(yù)I聊天機(jī)器人，再次登上全球頭條。

（馬斯克、圣克萊爾）

起因是圣克萊爾最近發(fā)現(xiàn)，馬斯克的AI工具Grok正在為她“公開脫衣”。

Grok Imagine是馬斯克旗下xAI公司開發(fā)的人工智能圖像生成器，允許用戶通過文本提示創(chuàng)建圖片和視頻。這項(xiàng)功能包含一個所謂的“刺激模式”，可以生成成人內(nèi)容。

Grok用戶找到她14歲時候的照片，用平臺的AI技術(shù)讓未成年時的她穿上比基尼。

這些帶有色情性質(zhì)的照片傳遍互聯(lián)網(wǎng)，搞得圣克萊爾很憤怒：“這些都是我的真實(shí)照片，他們用了這些照片，還讓我脫光了衣服。”

讓她成為“AI色情制品女主角”的工具，還來自她前任兼孩子親爸的公司…

（圣克萊爾）

圣克萊爾發(fā)現(xiàn)那些圖片后，第一時間聯(lián)系了Grok要求刪除，但處理結(jié)果并不理想…

據(jù)說有些已經(jīng)處理掉了，有些花了36個小時才刪掉，有些現(xiàn)在還沒完成。

而且在她投訴這件事后，馬斯克的X平臺飛速取消了她的藍(lán)V認(rèn)證，速度竟然比刪除這些AI生成的色情內(nèi)容還快。

圣克萊爾忍不住跑到社交媒體上吐槽：“他們?nèi)∠业乃{(lán)V認(rèn)證的速度，比他們刪除grok制作的兒童色情加性虐待內(nèi)容的速度還快。”

還繼續(xù)開火：“我開始覺得馬斯克花440億美元收購X不是為了言論自由。”

（圣克萊爾）

當(dāng)然，反對這個功能的遠(yuǎn)不止圣克萊爾一個人。Grok這個功能自推出以來就爭議不斷，真人照片“脫衣”，特別是未成年照片，已經(jīng)完全踩過了法律和道德的底線…很多有類似經(jīng)歷的女生主動聯(lián)系了圣克萊爾。

馬斯克的X平臺雖然回應(yīng)“會對非法內(nèi)容采取行動”，但非營利組織AI Forensics的報(bào)告顯示，在短短一周內(nèi)生成的2萬張Grok圖片中，有2%的原型很可能都是未成年人，里面起碼有30張圖片是穿著比基尼或透視衣的。

（grok）

于是，更多的人坐不住了…

到了1月6日，從歐洲到亞洲再到南美，包括英國、歐盟、法國、印度、馬來西亞和巴西在內(nèi)的多國官員和監(jiān)管機(jī)構(gòu)，已經(jīng)排著隊(duì)對X平臺提出了批評，到了全球譴責(zé)的程度。

歐盟委員會抨擊得很直接：“這根本不是‘刺激’，這是違法，這令人震驚！”

英國科技大臣莉茲·肯達(dá)爾直言不諱：“近幾天我們在網(wǎng)絡(luò)上看到的景象完全駭人聽聞，在文明社會中是不可接受的。”

波蘭的一位議員更是語出驚人，他說希望Grok也來處理一下他的照片，這樣大家就能更關(guān)注這個問題了。

面對來自全球的抨擊，馬斯克的回應(yīng)讓人大跌眼鏡。

有網(wǎng)友試圖替Grok辯解，說“Photoshop不是也能做到一樣的效果嗎？”，馬斯克轉(zhuǎn)發(fā)了這條評論，還補(bǔ)充了一句：“正是如此。”

這輕描淡寫的態(tài)度，仿佛在說有啥大不了的…

（馬斯克回應(yīng)）

結(jié)果也只是把Grok的圖像生成和編輯功能改為僅限付費(fèi)用戶使用…根本沒在解決問題，只是應(yīng)付了一下子。

歐盟委員會發(fā)言人抗議了：“無論是付費(fèi)還是免費(fèi)，我們都不想看到這樣的圖片。就這么簡單。”

英國首相府也認(rèn)為這種改變是對受害者的侮辱，不是根本解決辦法。

諷刺的是，因?yàn)檫@場爭議，X平臺的流量簡直是蒸蒸日上。1月2日以來Grok的每日下載量增加了54%，而X的下載量也在過去三天內(nèi)躍升了25%。

丑聞反而成了最好的營銷工具…

而馬斯克這邊之所以能這么猖狂，也是因?yàn)閲@AI生成圖像的法律責(zé)任界定仍然很模糊。

平臺通常對用戶行為有免責(zé)權(quán)，但AI生成的內(nèi)容，到底是“用戶言論”還是“平臺言論”？這個問題沒有現(xiàn)成答案。

去年7月英國生效的《在線安全法》倒是規(guī)定了，制作或分享未經(jīng)同意的私密圖像或兒童性虐待內(nèi)容均屬違法，也包括AI制作的。違反者可能面臨公司全球收入10%或1800萬英鎊的罰款。

但對馬斯克這樣的全球首富來說，這些罰款真的能起到威懾作用嗎？

而且AI脫衣功能，能輕易脫去任何人的衣服，特別是未成年人，這已經(jīng)超越了“言論自由”的范疇，而是越界成了一種數(shù)字化的性暴力。

當(dāng)科技發(fā)展到AI聊天機(jī)器人開始對無數(shù)女性照片進(jìn)行“數(shù)字化脫衣”，科技創(chuàng)新的邊界究竟在哪里…

感 謝 閱 讀 ?? 歡 迎 分 享