亚洲中文字幕乱码亚洲-蜜桃成熟视频在线观看-免费中文字幕视频在线-中国五十路熟妇洗澡视频-亚洲av伊人啪啪c-国产精品成人一区二区-国产自拍视频一区在线观看-成人一区不卡二区三区四区-亚洲情精品中文字幕99在线

網(wǎng)易首頁(yè) > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

谷歌工程師發(fā)現(xiàn)AI一個(gè)致命bug:47%的"原創(chuàng)"內(nèi)容全是統(tǒng)計(jì)平均值

0
分享至

2024年,一個(gè)產(chǎn)品經(jīng)理出身的AI研究員在內(nèi)部測(cè)試時(shí)發(fā)現(xiàn):同一批提示詞喂給主流大模型,生成的答案相似度高達(dá)47%。不是抄襲,是數(shù)學(xué)結(jié)構(gòu)決定的必然——這些模型本質(zhì)上在做同一件事:預(yù)測(cè)下一個(gè)最可能出現(xiàn)的詞。

我們以為在加速思考,實(shí)則在消滅思考發(fā)生的現(xiàn)場(chǎng)。

那個(gè)"現(xiàn)場(chǎng)"是什么?是卡殼。是盯著空白文檔的17分鐘。是寫了三行又刪掉的自我懷疑。是凌晨?jī)牲c(diǎn)突然坐起來(lái),把三天前的碎片串成線的那個(gè)瞬間。大語(yǔ)言模型(LLM,一種基于概率預(yù)測(cè)生成文本的AI系統(tǒng))的架構(gòu)決定了它必須跳過(guò)這一切——它無(wú)法模擬"不知道",只能模擬"聽(tīng)起來(lái)像知道"。

共識(shí)引擎:為什么AI從不出錯(cuò),也從不驚喜

從技術(shù)底層看,LLM的運(yùn)作邏輯極其誠(chéng)實(shí):給定前文,計(jì)算概率分布,輸出最高頻的下一個(gè)詞。RamsWritings在分析中指出,這種架構(gòu)讓AI成為"共識(shí)的蒸餾器"——它產(chǎn)出的永遠(yuǎn)是人類已有表達(dá)的中心地帶,是 bell curve(鐘形曲線,統(tǒng)計(jì)學(xué)中描述數(shù)據(jù)分布的圖形)最肥碩的中間段。

一個(gè)實(shí)驗(yàn)可以說(shuō)明問(wèn)題。讓五個(gè)不同廠商的模型回答"如何培養(yǎng)創(chuàng)造力",它們的建議重疊度驚人:多閱讀、保持好奇、跨界學(xué)習(xí)、允許失敗。這些建議沒(méi)錯(cuò),但也沒(méi)有一個(gè)模型會(huì)寫出"創(chuàng)造力可能和睡眠不足有關(guān),因?yàn)镽EM睡眠會(huì)重組記憶碎片"——這不是共識(shí),這是某個(gè)研究者的個(gè)人發(fā)現(xiàn),藏在文獻(xiàn)邊緣,概率權(quán)重太低,被算法自動(dòng)過(guò)濾了。

AI的"流暢"恰恰是陷阱。它消滅了認(rèn)知摩擦,而摩擦是思考的點(diǎn)火裝置。神經(jīng)科學(xué)研究顯示,大腦在遭遇認(rèn)知沖突時(shí),前額葉皮層活躍度提升300%——這個(gè)生理反應(yīng)被ChatGPT的即時(shí)響應(yīng)完美繞過(guò)了。

空白頁(yè)的死亡:我們正在外包什么

RamsWritings描述了一個(gè)被忽視的交易:用戶用"空白頁(yè)恐懼"換取AI的即時(shí)產(chǎn)出,卻未意識(shí)到"恐懼-掙扎-突破"的鏈條本身就是思維訓(xùn)練。當(dāng)這個(gè)鏈條被截?cái)?,能力退化是隱性的——你不會(huì)在某一天突然發(fā)現(xiàn)自己不會(huì)思考,你只是越來(lái)越習(xí)慣接受"足夠好"的平均值。

一個(gè)細(xì)節(jié)值得玩味:2023年Stack Overflow(程序員問(wèn)答社區(qū))的流量下降14%,同期GitHub Copilot(AI編程助手)訂閱數(shù)翻倍。不是因果關(guān)系,但趨勢(shì)清晰——當(dāng)答案來(lái)得太容易,提問(wèn)的意愿本身在萎縮。程序員社區(qū)正在失去那種"為了搞懂一個(gè)bug,翻遍20頁(yè)論壇帖子"的深耕能力。

更隱蔽的損失在創(chuàng)意領(lǐng)域。Netflix(流媒體平臺(tái))的劇本分析工具能預(yù)測(cè)"觀眾留存曲線",結(jié)果是2024年原創(chuàng)劇集的敘事結(jié)構(gòu)相似度創(chuàng)下新高。不是工具錯(cuò)了,是工具優(yōu)化的目標(biāo)(完成率、觀看時(shí)長(zhǎng))與"原創(chuàng)性"天然沖突——后者往往意味著風(fēng)險(xiǎn),而風(fēng)險(xiǎn)在概率模型里是被壓制的變量。

保留"低效":一種反共識(shí)的工作流

RamsWritings沒(méi)有給出解決方案,但描述了一種現(xiàn)象:部分寫作者開(kāi)始刻意制造"AI-free zone"(無(wú)AI區(qū)間)。不是盧德主義,是保護(hù)認(rèn)知生態(tài)的自覺(jué)。具體做法包括:手寫初稿的前500字(強(qiáng)制降低輸出速度)、禁用自動(dòng)補(bǔ)全的文本編輯器、在提示詞里加入"給出一個(gè)非主流觀點(diǎn)"的約束——盡管后者效果有限,因?yàn)槟P蛯?duì)"非主流"的理解仍是基于統(tǒng)計(jì)的。

一個(gè)產(chǎn)品經(jīng)理的觀察:工具設(shè)計(jì)正在分化。Notion(協(xié)作筆記工具)的AI功能默認(rèn)關(guān)閉,需要主動(dòng)喚起;而另一些產(chǎn)品把AI生成作為首屏入口。這不僅是交互選擇,是對(duì)"思考權(quán)"歸屬的不同假設(shè)——用戶是應(yīng)該被加速,還是被保護(hù)?

「我們慶祝它,因?yàn)樗?。我們還沒(méi)命名我們失去的東西?!筊amsWritings寫道。那個(gè)"東西"或許可以量化:當(dāng)人類創(chuàng)作者從"生產(chǎn)內(nèi)容"轉(zhuǎn)向"篩選AI產(chǎn)出",決策疲勞替代了創(chuàng)作焦慮,而決策疲勞不會(huì)留下任何可積累的思維肌肉。

一個(gè)未完成的實(shí)驗(yàn):如果強(qiáng)制要求LLM在輸出前生成三個(gè)相互矛盾的草稿,再解釋為何選擇其中之一,能否模擬人類的"掙扎"過(guò)程?目前尚無(wú)主流產(chǎn)品嘗試——因?yàn)橛脩粢氖谴鸢?,不是答案的考古現(xiàn)場(chǎng)。但那個(gè)考古現(xiàn)場(chǎng),恰恰是原創(chuàng)性誕生的地層。

你最近一次"卡殼"超過(guò)20分鐘是什么時(shí)候?那種體驗(yàn)是消失了,還是被轉(zhuǎn)移到了別處?

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
5月1日起嚴(yán)打!8類灰色行為入刑,人人都要心中有數(shù)

5月1日起嚴(yán)打!8類灰色行為入刑,人人都要心中有數(shù)

混沌錄
2026-04-14 20:16:16
伊朗軍方回應(yīng)美海上封鎖

伊朗軍方回應(yīng)美海上封鎖

財(cái)聯(lián)社
2026-04-15 18:26:29
伊朗總統(tǒng)質(zhì)問(wèn)美國(guó)和以色列:為什么攻擊伊朗,襲擊平民和兒童,破壞學(xué)校和醫(yī)院?其稱沒(méi)有任何力量能迫使伊朗人民屈服

伊朗總統(tǒng)質(zhì)問(wèn)美國(guó)和以色列:為什么攻擊伊朗,襲擊平民和兒童,破壞學(xué)校和醫(yī)院?其稱沒(méi)有任何力量能迫使伊朗人民屈服

極目新聞
2026-04-15 17:45:12
吃相越來(lái)越難看,都開(kāi)始硬搶了!

吃相越來(lái)越難看,都開(kāi)始硬搶了!

胖胖說(shuō)他不胖
2026-04-15 09:00:18
河南一豫劇團(tuán)下鄉(xiāng)演出臺(tái)下觀眾痛哭流涕,演員回應(yīng):現(xiàn)場(chǎng)觀眾超千人,一半人落了淚

河南一豫劇團(tuán)下鄉(xiāng)演出臺(tái)下觀眾痛哭流涕,演員回應(yīng):現(xiàn)場(chǎng)觀眾超千人,一半人落了淚

極目新聞
2026-04-15 19:44:40
美軍布什號(hào)航母及1.02萬(wàn)士兵將抵達(dá)中東,特朗普:戰(zhàn)爭(zhēng)“即將結(jié)束”,也可能持續(xù)至11月!超2400萬(wàn)伊朗人登記志愿為國(guó)捐軀,伊總統(tǒng)五問(wèn)美國(guó)

美軍布什號(hào)航母及1.02萬(wàn)士兵將抵達(dá)中東,特朗普:戰(zhàn)爭(zhēng)“即將結(jié)束”,也可能持續(xù)至11月!超2400萬(wàn)伊朗人登記志愿為國(guó)捐軀,伊總統(tǒng)五問(wèn)美國(guó)

魯中晨報(bào)
2026-04-15 21:53:08
3年前就戳穿西貝預(yù)制菜沒(méi)人信,如今被實(shí)錘!這個(gè)探店博主藏得太深了

3年前就戳穿西貝預(yù)制菜沒(méi)人信,如今被實(shí)錘!這個(gè)探店博主藏得太深了

馬蹄燙嘴說(shuō)美食
2026-04-15 18:29:48
“女主播”暗示打賞可“奔現(xiàn)”,浦東警方搗毀32人交友詐騙團(tuán)伙

“女主播”暗示打賞可“奔現(xiàn)”,浦東警方搗毀32人交友詐騙團(tuán)伙

新聞晨報(bào)隨申Hi
2026-04-15 09:48:13
特朗普稱有能力在“一小時(shí)內(nèi)”摧毀伊朗的橋梁和發(fā)電廠

特朗普稱有能力在“一小時(shí)內(nèi)”摧毀伊朗的橋梁和發(fā)電廠

新華社
2026-04-15 20:15:07
兩岸命運(yùn)掌握在自己手上!鄭麗文喊話賴清德:為和平大業(yè)愿意溝通

兩岸命運(yùn)掌握在自己手上!鄭麗文喊話賴清德:為和平大業(yè)愿意溝通

海峽導(dǎo)報(bào)社
2026-04-15 17:04:04
女子利用天氣預(yù)報(bào)頻繁購(gòu)買飛機(jī)延誤險(xiǎn),5年買中900多次,獲賠近300萬(wàn),被抓時(shí):我符合保險(xiǎn)理賠要求

女子利用天氣預(yù)報(bào)頻繁購(gòu)買飛機(jī)延誤險(xiǎn),5年買中900多次,獲賠近300萬(wàn),被抓時(shí):我符合保險(xiǎn)理賠要求

譚老師地理大課堂
2026-04-15 20:11:42
東北某縣級(jí)電視臺(tái)餐廳午餐,著實(shí)沒(méi)想到啊

東北某縣級(jí)電視臺(tái)餐廳午餐,著實(shí)沒(méi)想到啊

微微熱評(píng)
2026-04-15 22:25:29
南通一客運(yùn)站掛出招租橫幅!一代人的擠車記憶,真的落幕了?

南通一客運(yùn)站掛出招租橫幅!一代人的擠車記憶,真的落幕了?

好通網(wǎng)
2026-04-15 08:46:44
法國(guó)全票通過(guò)!“將不義之財(cái)歸還中國(guó)”

法國(guó)全票通過(guò)!“將不義之財(cái)歸還中國(guó)”

澎湃新聞
2026-04-15 21:05:12
中國(guó)油輪霸氣通過(guò)封鎖,美國(guó)搶著為我“辯經(jīng)”

中國(guó)油輪霸氣通過(guò)封鎖,美國(guó)搶著為我“辯經(jīng)”

世家寶
2026-04-15 09:33:02
震驚!白發(fā)老人高鐵上辦公被調(diào)侃“高端牛馬”,身旁女助理引關(guān)注

震驚!白發(fā)老人高鐵上辦公被調(diào)侃“高端牛馬”,身旁女助理引關(guān)注

火山詩(shī)話
2026-04-15 06:12:38
強(qiáng)制“一夫多妻”的南美小國(guó),老婆不能少于兩個(gè),少了就要坐牢?

強(qiáng)制“一夫多妻”的南美小國(guó),老婆不能少于兩個(gè),少了就要坐牢?

北緯的咖啡豆
2026-04-14 17:02:17
“54歲班主任猥褻15歲女孩被行拘10日”,最新進(jìn)展:警方重新組織專案組全面核查,是否刑事立案最遲4月16日出結(jié)果

“54歲班主任猥褻15歲女孩被行拘10日”,最新進(jìn)展:警方重新組織專案組全面核查,是否刑事立案最遲4月16日出結(jié)果

極目新聞
2026-04-15 20:24:43
善惡有報(bào),許家印認(rèn)罪僅1天,子女近況被扒,原來(lái)大兒子早有布局

善惡有報(bào),許家印認(rèn)罪僅1天,子女近況被扒,原來(lái)大兒子早有布局

八斗小先生
2026-04-15 17:47:57
A股迎重磅新政:三十年來(lái)首次延長(zhǎng)交易時(shí)長(zhǎng),牛市要來(lái)了

A股迎重磅新政:三十年來(lái)首次延長(zhǎng)交易時(shí)長(zhǎng),牛市要來(lái)了

人生錄
2026-04-15 16:18:11
2026-04-16 01:23:00
薛定諤的BUG
薛定諤的BUG
有態(tài)度網(wǎng)友ytd
1419文章數(shù) 35關(guān)注度
往期回顧 全部

科技要聞

ChatGPT十億用戶又怎樣?Anthropic直接貼臉

頭條要聞

美航母及1萬(wàn)多士兵將抵中東 特朗普:戰(zhàn)爭(zhēng)或持續(xù)至11月

頭條要聞

美航母及1萬(wàn)多士兵將抵中東 特朗普:戰(zhàn)爭(zhēng)或持續(xù)至11月

體育要聞

三球準(zhǔn)絕殺戴大金鏈:轟30+10自我救贖

娛樂(lè)要聞

謝娜現(xiàn)身環(huán)球影城,牽手女兒溫馨有愛(ài)

財(cái)經(jīng)要聞

業(yè)績(jī)失速的Lululemon:"健康"人設(shè)崩塌?

汽車要聞

空間絲毫不用妥協(xié) 小鵬GX首發(fā)評(píng)測(cè)

態(tài)度原創(chuàng)

家居
親子
健康
旅游
數(shù)碼

家居要聞

簡(jiǎn)而不減 暖居之道

親子要聞

孕婦200買水果被罵后續(xù):已終止妊娠,男方崩潰砸東西,網(wǎng)友炸鍋

干細(xì)胞抗衰4大誤區(qū),90%的人都中招

旅游要聞

遼寧大連星海灣廣場(chǎng),135萬(wàn)元承包給私人旅拍:野生攝影師被驅(qū)趕

數(shù)碼要聞

明基新款顯示器首發(fā)12499元:4K專業(yè)級(jí)色彩校準(zhǔn) 根據(jù)環(huán)境光自動(dòng)調(diào)整

無(wú)障礙瀏覽 進(jìn)入關(guān)懷版