北京
《熱點(diǎn)Views》欄目出品
生成式AI的內(nèi)容安全問(wèn)題，再次以一種令人警醒的方式出現(xiàn)在公眾視野中。
央視財(cái)經(jīng)測(cè)評(píng)發(fā)現(xiàn)，在一款名為哩布哩布AI的AI應(yīng)用里，記者輸入在網(wǎng)上購(gòu)買(mǎi)的提示詞后，僅僅幾分鐘，這個(gè)AI平臺(tái)就生成了一個(gè)半裸身體的女性跳舞視頻。在整個(gè)生成過(guò)程中，沒(méi)有觸發(fā)平臺(tái)任何限制機(jī)制，違規(guī)視頻順利生成。
（圖源：央視財(cái)經(jīng)微博截圖）
事件曝光后，微博上網(wǎng)友反應(yīng)強(qiáng)烈。有網(wǎng)友一針見(jiàn)血地指出，“靠擦邊牟利太沒(méi)底線，必須從嚴(yán)整治”。同時(shí)，也有不少網(wǎng)友質(zhì)疑哩布哩布AI的合規(guī)意識(shí)淡薄，“成立三年卻漠視內(nèi)容審核，企業(yè)合規(guī)意識(shí)嚴(yán)重缺失”。
（圖源：微博）
面對(duì)輿論壓力，哩布哩布AI迅速作出聲明回應(yīng)。聲明承認(rèn)，在個(gè)別復(fù)雜提示詞組合及規(guī)避表達(dá)的邊界場(chǎng)景下，平臺(tái)確實(shí)存在生成不符合規(guī)范內(nèi)容的情況，并對(duì)此深表歉意。公司表示，相關(guān)問(wèn)題已第一時(shí)間完成技術(shù)修復(fù)，對(duì)風(fēng)險(xiǎn)路徑進(jìn)行全面封堵，同步加強(qiáng)了攻防演練與審核機(jī)制升級(jí)，并啟動(dòng)了內(nèi)部責(zé)任復(fù)盤(pán)機(jī)制。
值得注意的是，哩布哩布AI并非孤例，其他常見(jiàn)AI應(yīng)用平臺(tái)上，也存在同樣的問(wèn)題。
哩布哩布AI成立于2023年3月，是一家研發(fā)多模態(tài)生成工具的AI原生應(yīng)用公司，致力于專(zhuān)業(yè)場(chǎng)景下的AI內(nèi)容創(chuàng)作與分享。
哩布哩布AI會(huì)員體系按等級(jí)收費(fèi)，從基礎(chǔ)版會(huì)員399元/年到尊享版會(huì)員6599元/年不等。截至2024年5月，哩布哩布AI已積累了近1000萬(wàn)專(zhuān)業(yè)的AI圖像創(chuàng)作者，創(chuàng)模型數(shù)超過(guò)10萬(wàn)，模型社區(qū)產(chǎn)生并分享了超過(guò)2.3億張AI圖片。
創(chuàng)始人陳冕出生于1992年，曾任字節(jié)跳動(dòng)剪映全球商業(yè)化負(fù)責(zé)人，28歲即成為字節(jié)史上最年輕的產(chǎn)品4-1高管。此前，他曾先后入職摩拜單車(chē)、滴滴和每日優(yōu)鮮。
天眼查顯示，哩布哩布AI自2023年以來(lái)已經(jīng)融資了5輪，背后資方群星閃耀，包括紅杉中國(guó)、金沙江創(chuàng)投等。最新一輪融資是在2025年10月，融資金額達(dá)1.3億美元，投資方包括紅杉中國(guó)、CMC資本、順為資本、聯(lián)想創(chuàng)投等。
（圖源：天眼查）
技術(shù)的飛速發(fā)展不應(yīng)以犧牲安全為代價(jià)。此次事件不僅為哩布哩布AI敲響了警鐘，更是對(duì)整個(gè)AI行業(yè)的一次嚴(yán)肅提醒：技術(shù)創(chuàng)新必須與倫理規(guī)范并行，唯有筑牢安全底線，技術(shù)才能真正行穩(wěn)致遠(yuǎn)。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
