醫(yī)療數(shù)字化持續(xù)深化,臨床診療、病歷管理、醫(yī)患溝通等全流程對(duì)高可靠、強(qiáng)邏輯、適配復(fù)雜環(huán)境的人工智能模型需求持續(xù)攀升。醫(yī)療診室是大模型落地典型的實(shí)景應(yīng)用場(chǎng)景,環(huán)境中存在多人群同步交流、背景雜音、多類型信息交織等復(fù)雜條件,對(duì)模型綜合處理能力提出較高要求。立足真實(shí)產(chǎn)業(yè)場(chǎng)景需求,云知聲推出新一代基座大模型U2,圍繞任務(wù)執(zhí)行打造全新技術(shù)體系,樹立高效實(shí)用的大模型研發(fā)新標(biāo)準(zhǔn)。
![]()
立足真實(shí)業(yè)務(wù)場(chǎng)景,確立U2模型核心研發(fā)定位
云知聲創(chuàng)始人&CEO黃偉將U2的核心定位概括為三點(diǎn):不是更大,而是更會(huì)干活;不是生成更多Token,而是讓Token更有價(jià)值;不是給出一次漂亮回答,而是端到端完成任務(wù)。通過提出“高智能密度”與“高價(jià)值Token”兩大核心指標(biāo),云知聲正試圖重新定義通用大模型的效率與商業(yè)價(jià)值,它面向的不只是企業(yè)級(jí)應(yīng)用,也包括個(gè)人用戶、開發(fā)者和各類智能終端場(chǎng)景。
![]()
四大維度系統(tǒng)重構(gòu),以雙高指標(biāo)打造高效技術(shù)底座
U2在數(shù)據(jù)、架構(gòu)、訓(xùn)練和執(zhí)行框架四個(gè)維度進(jìn)行了系統(tǒng)性重構(gòu):
首先是數(shù)據(jù)。模型訓(xùn)練從規(guī)模優(yōu)先,轉(zhuǎn)向信息密度優(yōu)先。對(duì)面向Agent的模型而言,語(yǔ)料的關(guān)鍵不在于“量”,而在于其是否承載了行業(yè)邏輯與任務(wù)知識(shí)。U2在訓(xùn)練中大幅提升了代碼、流程圖、任務(wù)軌跡和真實(shí)業(yè)務(wù)數(shù)據(jù)的占比,過濾掉低質(zhì)和娛樂化內(nèi)容。在同等長(zhǎng)度的文本中,操作流程、病歷規(guī)則、系統(tǒng)日志所包含的可遷移能力,遠(yuǎn)高于泛化對(duì)話。疊加云知聲在醫(yī)療、物聯(lián)網(wǎng)等場(chǎng)景沉淀十余年的數(shù)據(jù),U2模型在訓(xùn)練之初就貼近真實(shí)業(yè)務(wù),而非受困于互聯(lián)網(wǎng)語(yǔ)料的表層分布。
其次是架構(gòu)。U2通過MoE機(jī)制降低“能力調(diào)用成本”。U2采用MoE架構(gòu),其知識(shí)密度更高,單次任務(wù)激活的參數(shù)量可低至總參數(shù)量的1/10甚至更少。在注意力機(jī)制上,U2引入并混合了線性注意力,進(jìn)一步提升推理效率。通過精準(zhǔn)的路由機(jī)制“訓(xùn)練”,模型能根據(jù)不同輸入選擇最合適的參數(shù)路徑。
然后是訓(xùn)練。模型訓(xùn)練目標(biāo)從“回答問題”,轉(zhuǎn)向“完成任務(wù)”。通過循序漸進(jìn)的“課程學(xué)習(xí)”,U2被逐步訓(xùn)練為一個(gè)合格的“執(zhí)行者”:從簡(jiǎn)單任務(wù)到復(fù)雜任務(wù),從短上下文到長(zhǎng)鏈路,從單步調(diào)用到多步規(guī)劃,通過逐步喂給大模型,來確保訓(xùn)練充分。
最后是執(zhí)行框架。模型與Harness協(xié)同演進(jìn)。U2在訓(xùn)練階段就融入了執(zhí)行環(huán)境,使其天然具備調(diào)用工具、管理狀態(tài)和閉環(huán)完成任務(wù)的能力。通過模型與Harness的協(xié)同訓(xùn)練機(jī)制,U2將模型能力提升與Harness的迭代優(yōu)化納入同一閉環(huán),模型能力的突破持續(xù)揭露Harness的新邊界,更完善的Harness又為下一輪強(qiáng)化學(xué)習(xí)提供更高保真的獎(jiǎng)勵(lì)信號(hào),進(jìn)而反哺模型優(yōu)化,實(shí)現(xiàn)兩者的雙向演進(jìn)。
云知聲U2通過底層技術(shù)革新,以可控算力實(shí)現(xiàn)穩(wěn)定閉環(huán)任務(wù)執(zhí)行,破解大模型“評(píng)測(cè)亮眼、落地困難”的行業(yè)共性難題,為醫(yī)療、政企、開發(fā)等領(lǐng)域AI規(guī)模化商用提供高效底座,推動(dòng)行業(yè)發(fā)展重心從參數(shù)競(jìng)爭(zhēng)轉(zhuǎn)向真實(shí)生產(chǎn)力比拼。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.