“我就把豆包當百度使,沒想到有人真敢什么都發(fā)......
”最近,北京一名網(wǎng)友的提醒視頻火了,背后的事兒既好笑又值得所有人警惕,
一名男子一時興起,給豆包發(fā)送了自己的私照,
還讓AI幫忙評價身材,沒成想,沒過多久就收到了賬號被封禁的通知,好好的賬號直接“報廢”,
很多人都有一個誤區(qū),覺得和AI聊天就像和朋友談心,說過的話、發(fā)過的照片,
![]()
轉(zhuǎn)頭就會被“忘記”,其實不然。
就像豆包這樣的AI,會留存部分對話和內(nèi)容,用來完善風險識別模型,更好地防范違規(guī)行為,
更細致的是,AI判斷是否違規(guī),看的不是單張圖片或一句話,而是整套行為邏輯——哪怕照片沒有明顯暴露,
只要背景是臥室、床鋪等私密場景,再加上暗示性的文字,就會被判定為違規(guī)。
這事傳開后,網(wǎng)友們炸開了鍋,
有人調(diào)侃“好奇心害死人,好好的身材自己欣賞不好嗎”,也有人疑惑“發(fā)張自己的照片而已,至于直接封號嗎”,
還有人偷偷測試,反復上傳不雅照片,結(jié)果發(fā)現(xiàn)系統(tǒng)一點不留情,通通觸發(fā)風控,
其實,不止這一名男子,不少人都犯過類似的錯,總覺得AI就是個“樹洞”,
什么私密內(nèi)容都能說、什么照片都能發(fā),卻忘了背后還有安全審核和隱私風險。
針對這事,豆包官方也作出了回應,并不是發(fā)私照就會直接封號那么簡單,
系統(tǒng)會先自動掃描上傳的圖像和文字內(nèi)容,如果發(fā)現(xiàn)有不雅信息、敏感內(nèi)容或者惡意騷擾傾向,會先暫時凍結(jié)賬號,
![]()
之后再交給人工進一步核實,最終的處置方式會根據(jù)違規(guī)情節(jié)的輕重和違規(guī)頻次來決定,全程都符合國家相關規(guī)定。
可能有人會擔心,自己發(fā)送的私照會不會被泄露,畢竟這涉及個人隱私。
其實,國家早就出臺了相關規(guī)定,《網(wǎng)絡數(shù)據(jù)安全管理條例》和《生成式人工智能服務管理暫行辦法》都明確要求,
AI服務提供者要履行個人信息保護義務,不得非法留存、泄露用戶的輸入信息和使用記錄,
參與審核的工作人員也會簽訂保密協(xié)議,嚴禁外傳這些私密內(nèi)容,
但這并不意味著我們可以掉以輕心,AI隱私泄露的案例其實并不少見,
除了隱私泄露,隨意向AI發(fā)送違規(guī)內(nèi)容,還可能給自己帶來更多麻煩。
之前就有科研人員為了圖方便,把涉密的實驗數(shù)據(jù)上傳到AI幫忙寫報告,結(jié)果導致國家秘密泄露,自己也受到了嚴肅處理;
三星員工也曾因?qū)⑵髽I(yè)半導體機密輸入AI,導致核心技術外泄,給公司造成了巨大損失。
說到底,AI是幫我們解決問題、提升效率的工具,不是可以隨意“放飛自我”的地方,
我們可以用它查資料、寫文案、解難題,但絕對不能把它當成“法外之地”,
什么私密內(nèi)容、違規(guī)信息都往上面發(fā),
尤其是私照、身份證號、銀行卡信息等敏感內(nèi)容,一旦發(fā)送,哪怕沒有被封號,也可能存在隱私泄露的風險。
使用AI時,一定要守住底線,分清什么能發(fā)、什么不能發(fā),
不要一時好奇或大意,就把自己的隱私和賬號安全當賭注,
畢竟,AI的風控越來越嚴格,保護個人隱私不僅是平臺的責任,
更需要我們每個人提高警惕,不隨意上傳敏感內(nèi)容,不向AI透露核心隱私。
最后也提醒大家,別再什么都往豆包上發(fā)了,也別往任何AI工具上發(fā)違規(guī)、私密的內(nèi)容,
尊重規(guī)則、保護自己,才能安心享受AI帶來的便利,避免像這位男子一樣,因一時糊涂,給自己帶來不必要的麻煩。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.