小模型翻身這件事,谷歌又演了一出。Gemma 4系列里冒出來的E2B,用20億參數(shù)在9項(xiàng)評(píng)測(cè)里拿了80.4%——比上一代4B模型的80.8%只差一口氣,卻把更老的2B版本甩出近3個(gè)點(diǎn)。
這相當(dāng)于什么?一輛排量砍半的車,油耗更低了,百公里加速卻差點(diǎn)追上老款。參數(shù)競(jìng)賽打了這么多年,第一次有人證明"小"可以不等于"弱"。
更扎眼的是對(duì)比數(shù)據(jù)。E2B離自家4B只差0.4分,離12B大模型也只有1.9分差距——后者塞了六倍參數(shù)。翻譯成人話:用戶端跑本地模型的門檻,可能被一夜拉低。
谷歌沒解釋怎么做到的。但開發(fā)者社區(qū)已經(jīng)開始搬運(yùn)E2B到樹莓派和舊手機(jī)上測(cè)試,有人反饋"響應(yīng)速度比Gemma 3 4B快一倍,幻覺還更少"。
小模型的春天是不是真來了?至少現(xiàn)在,2B和4B之間那道線,已經(jīng)模糊得看不清了。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.