近日，在線AI創(chuàng)作平臺(tái)哩布哩布AI被曝出生成內(nèi)容涉黃，平臺(tái)隨后發(fā)布致歉聲明。4月15日，南都N視頻記者在該平臺(tái)實(shí)測(cè)發(fā)現(xiàn)，輸入“擦邊”提示詞或上傳身材暴露的圖片，已無法生成相關(guān)視頻。與此同時(shí)，有多位用戶反映無法正常生成視頻，要求退費(fèi)。對(duì)此，平臺(tái)工作人員告訴南都記者，“相關(guān)退費(fèi)需求可聯(lián)系客服處理，目前整改還在進(jìn)行中。”

南都記者實(shí)測(cè)平臺(tái)生成情況。

此前，哩布哩布AI被指“生成涉黃視頻”，用戶輸入在網(wǎng)上購買的提示詞后，僅僅幾分鐘，這個(gè)AI平臺(tái)就生成了一個(gè)半裸身體的女性跳舞視頻。在整個(gè)生成過程中，沒有觸發(fā)平臺(tái)任何限制機(jī)制。

對(duì)此，4月14日，哩布哩布AI發(fā)布關(guān)于加強(qiáng)內(nèi)容安全管理的說明稱，公司第一時(shí)間啟動(dòng)內(nèi)部專項(xiàng)排查，對(duì)平臺(tái)生成能力及審核機(jī)制進(jìn)行了全面自查。經(jīng)排查發(fā)現(xiàn)，在個(gè)別復(fù)雜提示詞組合及規(guī)避表達(dá)的邊界場(chǎng)景下，平臺(tái)存在生成不符合規(guī)范內(nèi)容的情況。

聲明表示，“相關(guān)問題已第一時(shí)間完成技術(shù)修復(fù)，并對(duì)風(fēng)險(xiǎn)路徑進(jìn)行全面封堵。同時(shí)，我們已同步加強(qiáng)攻防演練與審核機(jī)制升級(jí)，持續(xù)提升識(shí)別能力與處置效率，從源頭降低風(fēng)險(xiǎn)發(fā)生。我們也已啟動(dòng)內(nèi)部責(zé)任復(fù)盤機(jī)制，進(jìn)一步完善相關(guān)管理與審核流程?！?/p>

當(dāng)天發(fā)布聲明后，南都記者留意到，在哩布哩布AI的用戶社群中，有用戶稱視頻無法生成。對(duì)此，客服人員回應(yīng)稱“近期審核規(guī)則收嚴(yán)”，并附上公司加強(qiáng)內(nèi)容安全管理的說明鏈接。有用戶認(rèn)為這損害了其付費(fèi)權(quán)益，要求退費(fèi)，“我們是做內(nèi)衣產(chǎn)品的設(shè)計(jì)，現(xiàn)在圖片上傳不了，也無法生成視頻。”

4月15日，哩布哩布AI的工作人員告訴南都記者，“用戶退費(fèi)需求可通過客服人員申請(qǐng)，目前整改還在進(jìn)行中，詳情以此前聲明為準(zhǔn)。”

同日，南都記者實(shí)測(cè)該平臺(tái)時(shí)，選取衣著輕微暴露的女性角色圖片，在哩布哩布AI使用圖生視頻功能，顯示“圖片內(nèi)容不符合平臺(tái)要求”。有用戶在社群中分享圖片顯示，其輸入“裙子風(fēng)中飄”“在玻璃板上行走”也因觸及敏感詞而無法生成視頻。

公開信息顯示，哩布哩布AI成立于2023年3月，是一家研發(fā)多模態(tài)生成工具的AI原生應(yīng)用公司。

采寫：南都N視頻記者 林詩妍