今日（4月14日）， 哩布哩布AI發(fā)布“ 關(guān)于加強(qiáng)內(nèi)容安全管理的說明 ”。

近期媒體對(duì)AI生成內(nèi)容安全問題的討論，我們已關(guān)注并高度重視。第一時(shí)間啟動(dòng)內(nèi)部專項(xiàng)排查，對(duì)平臺(tái)生成能力及審核機(jī)制進(jìn)行了全面自查。經(jīng)排查發(fā)現(xiàn)，在個(gè)別復(fù)雜提示詞組合及規(guī)避表達(dá)的邊界場景下，平臺(tái)存在生成不符合規(guī)范內(nèi)容的情況。

對(duì)此，我們深表歉意。本次問題也為我們敲響了警鐘，使我們清醒認(rèn)識(shí)到在內(nèi)容安全邊界識(shí)別與機(jī)制完善方面仍存在不足，未達(dá)到應(yīng)有標(biāo)準(zhǔn)。相關(guān)問題已第一時(shí)間完成技術(shù)修復(fù)，并對(duì)風(fēng)險(xiǎn)路徑進(jìn)行全面封堵。同時(shí)，我們已同步加強(qiáng)攻防演練與審核機(jī)制升級(jí)，持續(xù)提升識(shí)別能力與處置效率，從源頭降低風(fēng)險(xiǎn)發(fā)生。我們也已啟動(dòng)內(nèi)部責(zé)任復(fù)盤機(jī)制，進(jìn)一步完善相關(guān)管理與審核流程。

內(nèi)容安全是平臺(tái)的底線。我們將以更高標(biāo)準(zhǔn)持續(xù)完善內(nèi)容安全體系，推動(dòng)平臺(tái)生態(tài)健康有序發(fā)展。也誠摯邀請(qǐng)用戶與社會(huì)各界共同監(jiān)督，共建更加清朗的網(wǎng)絡(luò)空間。

如發(fā)現(xiàn)相關(guān)問題，歡迎通過以下渠道反饋：

舉報(bào)郵箱：support@liblib.ai

再次向用戶和社會(huì)公眾致歉，感謝大家的監(jiān)督與支持。

據(jù)此前媒體報(bào)道，在名為“哩布哩布AI”的AI應(yīng)用里，記者輸入在網(wǎng)上購買的提示詞后，僅僅幾分鐘，這個(gè)AI平臺(tái)就生成了一個(gè)半裸身體的女性跳舞視頻。在整個(gè)生成過程中，沒有觸發(fā)平臺(tái)任何限制機(jī)制，違規(guī)視頻順利生成。同樣的問題也出現(xiàn)在市場上其他常見的AI應(yīng)用平臺(tái)上。

來源：南方都市報(bào)

編輯：劉怡彤

主編：曲翱　　　監(jiān)制：陳尤欣

統(tǒng)籌：張燕

點(diǎn)喜歡