1654年，帕斯卡和費(fèi)馬在書信里拆解一個(gè)賭局：游戲提前結(jié)束，怎么公平分贓？他們沒意識(shí)到，這套計(jì)算"不確定結(jié)果"的方法，會(huì)讓三百年后的機(jī)器學(xué)習(xí)工程師年薪百萬(wàn)。

概率論從賭場(chǎng)誕生，卻在AI時(shí)代成為通用語(yǔ)言。這不是隱喻——現(xiàn)代神經(jīng)網(wǎng)絡(luò)的每一層輸出，本質(zhì)上都是在計(jì)算"這個(gè)像素是貓耳朵的概率是多少"。

從骰子到深度網(wǎng)絡(luò)：同一套數(shù)學(xué)，換了身衣服

18世紀(jì)貝葉斯牧師想證明上帝存在，搞出了條件概率。他死后朋友整理遺物才發(fā)現(xiàn)手稿，200年后這套"先驗(yàn)+證據(jù)=后驗(yàn)"的框架，成了垃圾郵件過(guò)濾器的核心。

你郵箱里"偉哥廣告"進(jìn)垃圾箱，不是關(guān)鍵詞匹配，而是貝葉斯在后臺(tái)算賬：這個(gè)詞在正常郵件里出現(xiàn)概率0.1%，在垃圾郵件里出現(xiàn)概率12%，綜合一算，扔。

2012年ImageNet競(jìng)賽，AlexNet把圖像識(shí)別錯(cuò)誤率從26%砸到15%。它的秘密？最后一層softmax函數(shù)，輸出的是"這張圖屬于1000個(gè)類別的概率分布"。

深度學(xué)習(xí)沒學(xué)會(huì)"識(shí)別"，它學(xué)會(huì)的是"押注"——對(duì)每張圖押一個(gè)最可能正確的標(biāo)簽。

Transformer架構(gòu)更徹底。GPT-4生成下一個(gè)詞時(shí)，不是在"思考"接什么話合適，而是在50000個(gè)候選詞的概率分布里采樣。溫度參數(shù)調(diào)低，選概率最高的；調(diào)高，允許小概率詞冒出來(lái)，文本就更"有創(chuàng)意"。

概率在這里既是約束也是自由度。確定性系統(tǒng)只能輸出一個(gè)答案，概率系統(tǒng)可以輸出"67%可能是A，23%可能是B"——這種模糊性恰恰是處理真實(shí)世界的剛需。

為什么確定性編程在復(fù)雜場(chǎng)景里栽跟頭

傳統(tǒng)軟件像流水線：輸入確定，處理規(guī)則確定，輸出必然確定。銀行轉(zhuǎn)賬系統(tǒng)必須這樣，差一分錢都是事故。

但自動(dòng)駕駛識(shí)別行人、醫(yī)療AI判斷腫瘤、推薦系統(tǒng)猜你喜歡——這些場(chǎng)景沒有標(biāo)準(zhǔn)答案。同一個(gè)模糊影像， radiologist甲看是良性，radiologist乙看建議活檢，誰(shuí)對(duì)？

確定性代碼被迫做二元判斷：是/否。概率模型說(shuō)：惡性概率73%，建議進(jìn)一步檢查。后者把決策權(quán)交還給人，同時(shí)量化不確定性本身。

2016年AlphaGo對(duì)陣?yán)钍朗?，?7手"神之一手"震驚棋界。事后復(fù)盤，那步棋在AlphaGo的搜索樹里初始勝率評(píng)估只有0.007%，但經(jīng)過(guò)蒙特卡洛樹模擬，發(fā)現(xiàn)后續(xù)變化中對(duì)手應(yīng)對(duì)失誤概率極高，才大膽落子。

概率計(jì)算讓AI能"賭"小概率事件，只要期望值為正。

DeepMind后來(lái)承認(rèn)，如果當(dāng)時(shí)用確定性規(guī)則"選當(dāng)前勝率最高的一步"，那盤棋早就輸了。概率框架的價(jià)值，在于允許系統(tǒng)探索"看起來(lái)不對(duì)但可能很妙"的選項(xiàng)。

貝葉斯神經(jīng)網(wǎng)絡(luò)的回歸：當(dāng)AI知道自己不知道

標(biāo)準(zhǔn)神經(jīng)網(wǎng)絡(luò)有個(gè)致命bug：對(duì)訓(xùn)練集外的輸入，它照樣自信滿滿地胡說(shuō)。你給它一張?jiān)肼晥D，它敢說(shuō)"這是熊貓，置信度99%"。

2016年Gal和Ghahramani提出Dropout變分推斷，讓神經(jīng)網(wǎng)絡(luò)輸出概率分布而非單點(diǎn)估計(jì)。同一輸入前向傳播100次，每次隨機(jī)關(guān)掉一些神經(jīng)元，看輸出波動(dòng)多大——波動(dòng)大就是"我不確定"。

這種方法在醫(yī)療領(lǐng)域救過(guò)人命。2018年斯坦福大學(xué)用貝葉斯神經(jīng)網(wǎng)絡(luò)輔助診斷皮膚癌，系統(tǒng)對(duì)模糊病變輸出"不確定"標(biāo)記，轉(zhuǎn)交人類醫(yī)生。最終診斷準(zhǔn)確率比純AI或純?nèi)祟惗几?1個(gè)百分點(diǎn)。

量化不確定性的能力，在自動(dòng)駕駛里叫"感知不確定性"，在量化交易里叫"風(fēng)險(xiǎn)敞口"，在NLP里叫"幻覺檢測(cè)"——名字不同，數(shù)學(xué)同源。

特斯拉的Occupancy Network不直接說(shuō)"這是輛車"，而是輸出"這個(gè)3D格子被占用的概率"。多個(gè)傳感器數(shù)據(jù)沖突時(shí)，概率框架天然支持融合：激光雷達(dá)說(shuō)80%有車，攝像頭說(shuō)30%，貝葉斯一更新，55%，減速但不急剎。

生成式AI的底層語(yǔ)法：擴(kuò)散模型是概率的暴力美學(xué)

Stable Diffusion、DALL-E、Midjourney——這些讓設(shè)計(jì)師又愛又恨的工具，核心叫"擴(kuò)散概率模型"。

訓(xùn)練時(shí)，給清晰圖片逐步加噪聲，直到變成純白噪音。神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)的是逆過(guò)程：給定當(dāng)前噪聲狀態(tài)，預(yù)測(cè)"上一步更可能長(zhǎng)什么樣"。

生成時(shí)，從純?cè)胍舫霭l(fā)，迭代去噪1000步，每一步都在概率分布里采樣。同樣的文本提示，種子不同就出不同圖——因?yàn)椴蓸颖旧砭褪请S機(jī)的。

這種隨機(jī)性不是bug，是feature。確定性系統(tǒng)只能記住訓(xùn)練數(shù)據(jù)的平均，概率系統(tǒng)能探索"合理但沒見過(guò)"的組合。你的"賽博朋克貓穿宇航服"提示，訓(xùn)練集里肯定沒有，但模型能拼出合理圖像，靠的是概率分布的插值能力。

OpenAI 2023年論文披露，GPT-4在代碼生成任務(wù)上，用"自我一致性解碼"——讓模型采樣多條答案，選出現(xiàn)頻率最高的——比貪心解碼（每次都選概率最高詞）準(zhǔn)確率提升17%。

有時(shí)候，讓AI"猶豫"一下，比讓它"果斷"更聰明。

概率語(yǔ)言還解決了AI對(duì)齊的老大難問(wèn)題。RLHF（基于人類反饋的強(qiáng)化學(xué)習(xí)）里，獎(jiǎng)勵(lì)模型輸出的是"人類更偏好這個(gè)回答的概率"。不是教AI什么是"好"，而是教它預(yù)測(cè)人類會(huì)怎么投票——貝葉斯又贏了。

2024年，Google DeepMind的AlphaFold3預(yù)測(cè)蛋白質(zhì)結(jié)構(gòu)，不再輸出單一構(gòu)象，而是生成結(jié)構(gòu)分布。生物學(xué)家說(shuō)，這反映了蛋白質(zhì)在溶液中的真實(shí)動(dòng)態(tài)——靜態(tài)晶體結(jié)構(gòu)才是假象。

從帕斯卡的賭局到蛋白質(zhì)折疊，概率論完成了奇怪閉環(huán)：人類發(fā)明數(shù)學(xué)工具處理自己的無(wú)知，現(xiàn)在把這套工具塞進(jìn)硅片，讓它替我們處理更大的無(wú)知。

有個(gè)細(xì)節(jié)值得玩味：ChatGPT的"溫度"參數(shù)默認(rèn)0.7，這個(gè)數(shù)沒有理論依據(jù)，是OpenAI工程師憑感覺調(diào)的。但用戶很快發(fā)現(xiàn)，寫代碼用0.2更穩(wěn)定，寫詩(shī)用0.9更跳躍——人類在概率的灰度里，反而找到了比確定性更精細(xì)的控制。

如果下一代AI徹底拋棄采樣、擁抱確定性，我們會(huì)得到更可靠的系統(tǒng)，還是更平庸的答案？