山東
去深圳出差，打車后與司機聊天。他問我是哪里人，我說山東人，他說自己是河南人。然后就討論哪里人口多。
他說你問問豆包不就知道了？問“豆包”已經成為許多普通人手機生活的一部分。這就如同當年，不懂，你問百度一下就知道了。
然而，什么事情都問豆包，卻是很危險的。這就像是你迷路了，去問一個五歲的孩子怎么走。就像是你生病了，去問一個赤腳醫生吃什么藥。他們都能給出答案，但是對錯你只能聽天由命。
用專業術語講，這叫做大模型的“幻覺”。直白點說，那就是大模型仍然“弱智”，它會胡說八道。更可怕的是，已經誕生了“給大模型投毒”的公司，用數據污染大模型，改變生成結果，這比搜索引擎的競價排名還可怕。
競價排名還用小字標注“廣告”，而豆包生成的結果可能就是廣告，你卻信以為真。而廣告的真假、有無害處、有無禁忌，更是無從判斷。
我在豆包上遇到許多次“胡說八道”。前不久，突然在阿里巴巴的股吧里看到有人截圖豆包發布的“阿里巴巴2025年年報”，數據一應俱全。但是當時阿里巴巴卻并未發布年報。
或許因為這個假財報數據利好影響，阿里竟然反彈了。但是真的財報發布后，業績一塌糊涂。股價持續下跌，看了假財報買股的人，找誰索賠去？
前幾天，一家制藥公司的股吧里，又看到股民截圖豆包生成的該股第一季度財報。可是官方明確寫著是5月27日發布第一季度財報。而豆包則在5月25日生成了財報。時間錯了，財報數據當然全是胡說八道的。
企業財報對股市影響巨大，需要非常嚴謹。如果有個人或媒體散布企業財報虛假數據，會違反證券法。但是豆包卻可以堂而皇之“造謠”，不需要承擔任何責任。
豆包因生成虛假內容多次登上熱搜，暴露出這個大模型的嚴重“幻覺”。可是坐擁3億多用戶的豆包已經儼然成了曾經的“百度”，3億多人都信它說的，都用它來提問。
然后，他們再把提問結果通過自媒體平臺、微博等社交平臺發出去。接著，豆包又會繼續搜索到這些用戶發布的虛假內容，把這些內容作為“資料來源”，繼續為用戶生成內容。
久而久之，假的信息被無數次調用、傳播、再調用、再傳播。導致的結果是，虛假信息越來越多，而且徹底掩蓋掉真實信息。最終，李鬼取代了李逵。
目前，豆包并沒有任何機制對這些虛假信息進行篩選，也未提供用戶糾錯入口。海量的用戶反復使用，最終導致的惡果必然會顯露。
股民用豆包搜索消息，肆意傳播，擾亂資本市場。病人用豆包給自己看病，亂吃藥，可能傷害了身體。父母用豆包搜索“戒網癮良方”，可能被誘導進入“暴力戒網癮機構”，孩子不僅沒戒掉網癮，還可能把命差點搭上……
此前，網民罵百度競價排名可惡，問病情被誘導進莆田醫院。以后，用豆包替代百度，導致的傷害只會比百度競價排名還要大，還要可怕。
因為，搜索引擎的內容還是經過篩選的，競價排名廣告是有明確標注的，而豆包生成的內容很多都是自己胡亂推理的，或者被虛假信息污染，被專門做AI大模型優化的公司“投毒”影響后的結果。
豆包的用戶則以為“豆包是智能的，是聰明的，它說的都是對的”，這種把AI大模型看作“萬事通”的仰視態度，更增加了豆包生成結果對用戶導致傷害的概率。
最后一句話可能對很多人不愿聽：用豆包的人，基本上不會思考，不會辨別真假，更加劇了災難的概率。
你也可以留言說下用豆包生成過的假消息，讓我們一起保護自己。
感謝訂閱磐石之心，讓我與您一起觀察科技財經產業
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
