近日，央視曝光“AI涉黃”產(chǎn)業(yè)鏈，報(bào)道提到，在一款名為哩布哩布AI的AI應(yīng)用里，記者輸入在網(wǎng)上購(gòu)買的提示詞后，僅僅幾分鐘，這個(gè)AI平臺(tái)就生成了一個(gè)半裸身體的女性跳舞視頻。在整個(gè)生成過(guò)程中，沒(méi)有觸發(fā)平臺(tái)任何限制機(jī)制。

今日（4月14日）， 哩布哩布AI發(fā)布“關(guān)于加強(qiáng)內(nèi)容安全管理的說(shuō)明”。

近期媒體對(duì)AI生成內(nèi)容安全問(wèn)題的討論，我們已關(guān)注并高度重視。第一時(shí)間啟動(dòng)內(nèi)部專項(xiàng)排查，對(duì)平臺(tái)生成能力及審核機(jī)制進(jìn)行了全面自查。經(jīng)排查發(fā)現(xiàn)，在個(gè)別復(fù)雜提示詞組合及規(guī)避表達(dá)的邊界場(chǎng)景下，平臺(tái)存在生成不符合規(guī)范內(nèi)容的情況。

對(duì)此，我們深表歉意。本次問(wèn)題也為我們敲響了警鐘，使我們清醒認(rèn)識(shí)到在內(nèi)容安全邊界識(shí)別與機(jī)制完善方面仍存在不足，未達(dá)到應(yīng)有標(biāo)準(zhǔn)。相關(guān)問(wèn)題已第一時(shí)間完成技術(shù)修復(fù)，并對(duì)風(fēng)險(xiǎn)路徑進(jìn)行全面封堵。同時(shí)，我們已同步加強(qiáng)攻防演練與審核機(jī)制升級(jí)，持續(xù)提升識(shí)別能力與處置效率，從源頭降低風(fēng)險(xiǎn)發(fā)生。我們也已啟動(dòng)內(nèi)部責(zé)任復(fù)盤機(jī)制，進(jìn)一步完善相關(guān)管理與審核流程。

內(nèi)容安全是平臺(tái)的底線。我們將以更高標(biāo)準(zhǔn)持續(xù)完善內(nèi)容安全體系，推動(dòng)平臺(tái)生態(tài)健康有序發(fā)展。也誠(chéng)摯邀請(qǐng)用戶與社會(huì)各界共同監(jiān)督，共建更加清朗的網(wǎng)絡(luò)空間。

如發(fā)現(xiàn)相關(guān)問(wèn)題，歡迎通過(guò)以下渠道反饋：

舉報(bào)郵箱：support@liblib.ai

再次向用戶和社會(huì)公眾致歉，感謝大家的監(jiān)督與支持。

來(lái)源 | 央視財(cái)經(jīng)、中國(guó)青年報(bào)、 南方都市報(bào)

編輯 | 賀 曦

審讀 | 楊永堅(jiān)

二審 | 蔡志軍

三審 | 王 博