![]()
大家好,我是紐約君。
眾所周知,億萬富豪馬斯克和前女友阿什利·圣克萊爾爭奪一歲兒子監(jiān)護(hù)權(quán)的事,前陣子鬧得沸沸揚(yáng)揚(yáng)…
好不容易風(fēng)波稍平息,他倆又因?yàn)橐豢預(yù)I聊天機(jī)器人,再次登上全球頭條。
![]()
![]()
(馬斯克、圣克萊爾)
起因是圣克萊爾最近發(fā)現(xiàn),馬斯克的AI工具Grok正在為她“公開脫衣”。
Grok Imagine是馬斯克旗下xAI公司開發(fā)的人工智能圖像生成器,允許用戶通過文本提示創(chuàng)建圖片和視頻。這項(xiàng)功能包含一個所謂的“刺激模式”,可以生成成人內(nèi)容。
Grok用戶找到她14歲時候的照片,用平臺的AI技術(shù)讓未成年時的她穿上比基尼。
這些帶有色情性質(zhì)的照片傳遍互聯(lián)網(wǎng),搞得圣克萊爾很憤怒:“這些都是我的真實(shí)照片,他們用了這些照片,還讓我脫光了衣服。”
讓她成為“AI色情制品女主角”的工具,還來自她前任兼孩子親爸的公司…
![]()
(圣克萊爾)
圣克萊爾發(fā)現(xiàn)那些圖片后,第一時間聯(lián)系了Grok要求刪除,但處理結(jié)果并不理想…
據(jù)說有些已經(jīng)處理掉了,有些花了36個小時才刪掉,有些現(xiàn)在還沒完成。
而且在她投訴這件事后,馬斯克的X平臺飛速取消了她的藍(lán)V認(rèn)證,速度竟然比刪除這些AI生成的色情內(nèi)容還快。
圣克萊爾忍不住跑到社交媒體上吐槽:“他們?nèi)∠业乃{(lán)V認(rèn)證的速度,比他們刪除grok制作的兒童色情加性虐待內(nèi)容的速度還快。”
還繼續(xù)開火:“我開始覺得馬斯克花440億美元收購X不是為了言論自由。”
![]()
![]()
(圣克萊爾)
當(dāng)然,反對這個功能的遠(yuǎn)不止圣克萊爾一個人。Grok這個功能自推出以來就爭議不斷,真人照片“脫衣”,特別是未成年照片,已經(jīng)完全踩過了法律和道德的底線…很多有類似經(jīng)歷的女生主動聯(lián)系了圣克萊爾。
馬斯克的X平臺雖然回應(yīng)“會對非法內(nèi)容采取行動”,但非營利組織AI Forensics的報(bào)告顯示,在短短一周內(nèi)生成的2萬張Grok圖片中,有2%的原型很可能都是未成年人,里面起碼有30張圖片是穿著比基尼或透視衣的。
![]()
(grok)
于是,更多的人坐不住了…
到了1月6日,從歐洲到亞洲再到南美,包括英國、歐盟、法國、印度、馬來西亞和巴西在內(nèi)的多國官員和監(jiān)管機(jī)構(gòu),已經(jīng)排著隊(duì)對X平臺提出了批評,到了全球譴責(zé)的程度。
歐盟委員會抨擊得很直接:“這根本不是‘刺激’,這是違法,這令人震驚!”
英國科技大臣莉茲·肯達(dá)爾直言不諱:“近幾天我們在網(wǎng)絡(luò)上看到的景象完全駭人聽聞,在文明社會中是不可接受的。”
波蘭的一位議員更是語出驚人,他說希望Grok也來處理一下他的照片,這樣大家就能更關(guān)注這個問題了。
面對來自全球的抨擊,馬斯克的回應(yīng)讓人大跌眼鏡。
有網(wǎng)友試圖替Grok辯解,說“Photoshop不是也能做到一樣的效果嗎?”,馬斯克轉(zhuǎn)發(fā)了這條評論,還補(bǔ)充了一句:“正是如此。”
這輕描淡寫的態(tài)度,仿佛在說有啥大不了的…
![]()
(馬斯克回應(yīng))
結(jié)果也只是把Grok的圖像生成和編輯功能改為僅限付費(fèi)用戶使用…根本沒在解決問題,只是應(yīng)付了一下子。
歐盟委員會發(fā)言人抗議了:“無論是付費(fèi)還是免費(fèi),我們都不想看到這樣的圖片。就這么簡單。”
英國首相府也認(rèn)為這種改變是對受害者的侮辱,不是根本解決辦法。
諷刺的是,因?yàn)檫@場爭議,X平臺的流量簡直是蒸蒸日上。1月2日以來Grok的每日下載量增加了54%,而X的下載量也在過去三天內(nèi)躍升了25%。
丑聞反而成了最好的營銷工具…
而馬斯克這邊之所以能這么猖狂,也是因?yàn)閲@AI生成圖像的法律責(zé)任界定仍然很模糊。
平臺通常對用戶行為有免責(zé)權(quán),但AI生成的內(nèi)容,到底是“用戶言論”還是“平臺言論”?這個問題沒有現(xiàn)成答案。
去年7月英國生效的《在線安全法》倒是規(guī)定了,制作或分享未經(jīng)同意的私密圖像或兒童性虐待內(nèi)容均屬違法,也包括AI制作的。違反者可能面臨公司全球收入10%或1800萬英鎊的罰款。
但對馬斯克這樣的全球首富來說,這些罰款真的能起到威懾作用嗎?
而且AI脫衣功能,能輕易脫去任何人的衣服,特別是未成年人,這已經(jīng)超越了“言論自由”的范疇,而是越界成了一種數(shù)字化的性暴力。
當(dāng)科技發(fā)展到AI聊天機(jī)器人開始對無數(shù)女性照片進(jìn)行“數(shù)字化脫衣”,科技創(chuàng)新的邊界究竟在哪里…
感 謝 閱 讀 ?? 歡 迎 分 享
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.