文：董指導

本期要點

#人工智能#AI#AI Infra#Agent#百度

風風火火的AI浪潮，已經(jīng)進行近兩年了。雖然仍有擔憂與質(zhì)疑，但種種跡象表明，趨勢已不可逆轉(zhuǎn)。在海外，可以看到AppLovin、Palantir等公司，因著AI的應用帶來業(yè)績和市值的增長。在國內(nèi)，百度也在率先提出，AI應用已經(jīng)來了。

AI應用爆發(fā)，已經(jīng)漸行漸近。因而，也有個問題需要思考：

如果說豐富的應用，如茂密的森林；那么，孕育森林的生態(tài)系統(tǒng)應該是什么樣呢？

01 企業(yè)級應用，如何高效開發(fā)？

AI應用，除了在C端提供各類有趣高效的工具之外，要形成真正的浪潮，也必須可以為企業(yè)提供生產(chǎn)級的服務。只有進入到企業(yè)的業(yè)務流里，才能成為企業(yè)提升競爭力的關(guān)鍵要素。

因此，這些AI應用，更嚴格點說，是“企業(yè)級”應用，可靠、穩(wěn)定、安全、高效。所謂，好馬配好鞍。這些企業(yè)級應用，又要求支撐應用開發(fā)的平臺，也應該是“企業(yè)級”的。

Agent被稱為AI應用落地的最佳形式。能否快速開發(fā)一個好用的Agent，就是檢驗開發(fā)平臺的重要指標。百度智能云千帆大模型平臺，提供了豐富的工具鏈，用戶只需要進行一些簡單操作就可以生成Agent。

在世界大會上，千帆平臺發(fā)布了工作流Agent。面向的正是企業(yè)的剛需---流程智能化。流程，對每家企業(yè)而言都是必不可少的。越專業(yè)、越復雜的工作，就越需要流程來保障。針對流程提效，可以說是“事半功倍”。

工作流Agent，基于大模型強大的意圖理解和泛化能力，可以像行業(yè)專家一樣，無論面對多么復雜的局面，總能做出明智決策并最終完成目標。

比如，在車險領(lǐng)域，售前流程非常復雜，如果培養(yǎng)一個金牌銷售，至少需要一兩年。但基于千帆平臺，只需要一個小時，就能生成一個熟練掌握售前寶典的智能體。而且可以集成到微信公眾號、官網(wǎng)或業(yè)務系統(tǒng)等任何需要觸達用戶的地方，大幅提升企業(yè)效率。

Agent是“立等可取”，但許多行業(yè)應用需要“定制開發(fā)”。

為了達到更專業(yè)效果，需要深入模型層，做行業(yè)模型或者場景模型的定制。然而，從頭訓練模型，則面臨成本高、周期長的問題，而且效果也未必好。不妨在千帆平臺上，對預訓練好的模型進行精調(diào)。

小，未必不如大。在參數(shù)規(guī)模較小的模型上，只需要幾小時、完成精調(diào)，就會發(fā)現(xiàn)，效果，比參數(shù)規(guī)模大很多的基礎(chǔ)模型還要好。這也充分說明，質(zhì)量和規(guī)模，一樣重要。

為了更加便于用戶使用，千帆平臺上線了DPO、KTO等訓練方法，也提供了業(yè)內(nèi)獨家的高質(zhì)量通用語料數(shù)據(jù)，以及開箱即用的模型精調(diào)樣板間。

比如全診醫(yī)學是一家醫(yī)療AI創(chuàng)新公司，他們打造了一款AI智能醫(yī)療助理，用20萬份精標病例數(shù)據(jù)進行了模型精調(diào)，從而讓病例生成的準確度提升了45%。

然而，如果沒有足夠的人工精標數(shù)據(jù)該怎么辦？

千帆平臺也提供了模型蒸餾解決方案。在實踐中，比如數(shù)字人直播，可以實現(xiàn)只用旗艦級模型成本的10%，卻提升效果5倍。

對于企業(yè)而言，要快速，有立等可取；要定制，有工具、有數(shù)據(jù)，還有精調(diào)、蒸餾等低成本方案。應用開發(fā)，不再是高門檻的事兒。

02 自研企業(yè)級應用，輕松集成

如果不想做應用開發(fā)、或者能力還不夠，有沒有更低門檻的方案呢？當然有。

千帆也發(fā)布了曦靈數(shù)字人平臺4.0、客悅智能客服平臺、文心快碼、百度GBI、一見、甄知等多個成熟“應用樣板間”，每個都是開箱即用、可以輕松集成、快速上手。

比如，曦靈4.0，不但可以一句話生成符合不同行業(yè)場景特色的3D數(shù)字人形象，還可以讓這些數(shù)字人動起來、生成專業(yè)靈動的視頻。

這個功能正當其時。因為在電商領(lǐng)域，短視頻是品牌“種草”和轉(zhuǎn)化的有效方式。但視頻內(nèi)容的制作難度、成本并不低，因此很多店鋪往往只有少數(shù)主推商品才能配短視頻。即使有好的銷售方式，也有心無力。

現(xiàn)在，有了大模型和數(shù)字人，短視頻的制作周期，可以從幾天壓縮到分鐘級。用戶只需要輸入一些需求文字給曦靈即可。而且曦靈不僅滿足品牌的需求，也嚴格遵循品牌的內(nèi)容規(guī)范，展現(xiàn)“企業(yè)級”的標準。

曦靈的應用，不只體現(xiàn)在電商營銷領(lǐng)域，教育、文旅等行業(yè)，也可以發(fā)揮作用。更加真實、有趣的互動，可以提升學生、游客的體驗。

關(guān)于這些“應用樣板間”，我曾詢問過百度智能云同事，是否要做大做強自研應用。對于這個問題，百度智能云的回答是“只有親自走過用戶要走的路，才能設(shè)計出更懂用戶的產(chǎn)品”。

這些成熟應用，一方面可以加速AI應用普及，另一方面更重要的是，激發(fā)更多企業(yè)、產(chǎn)生更多有趣、有效的創(chuàng)意。畢竟，一花獨放不是春，萬紫千紅春滿園。

03 算力平臺，要高效且面向未來

如果說千帆平臺提供了森林所需的水、空氣和陽光，那么，算力平臺，就是應用爆發(fā)的土壤。而且隨著應用爆發(fā)增長，算力的成本和使用效率，就會變得更加重要，直接影響模型的創(chuàng)新速度、以及規(guī)模化AI應用的成本效益。

百度智能云前段時間發(fā)布了百舸AI異構(gòu)計算平臺4.0。它可以支持用戶大模型全旅程算力需求，包括集群創(chuàng)建、開發(fā)實驗、模型訓練、模型推理。而且，不僅立足當下，也面向未來，率先具備了成熟的10萬卡集群部署和管理能力。

10萬卡能力，意味著什么呢？

首先，可以有效應對必然的“一云多芯”。一方面，國內(nèi)企業(yè)在發(fā)展過程中，必然形成了多種芯片共用的局面；另一方面，在當前環(huán)境下，企業(yè)要確保供應鏈安全和彈性，也必然會采購多種芯片。因此，應對一云多芯，既可以利用資源，也可以支撐未來的擴展。

把不同型號的芯片統(tǒng)一管理，尤其混布成一個集群支持單一訓練任務，并不是一件容易的事。百舸目前可以在萬卡規(guī)模上，將兩種芯片混合訓練下的效率折損控制在5%以內(nèi)。

其次，應對“分布式”需求。十萬卡集群，通常采用跨地域機房部署的方式，從而會面臨更長的時延、以及芯片間的傳輸帶寬等瓶頸。百舸提供了更高效的拓撲結(jié)構(gòu)，可以把訓練性能折損率控制在4%以內(nèi)。

百舸不僅為百度自身業(yè)務提供服務，也可以滿足公有云或者自建智算中心、初創(chuàng)企業(yè)或成熟企業(yè)等算力需求。

前段時間，馬斯克剛建好10萬卡的集群，未來幾個月還會擴張到20萬卡。大規(guī)模顯卡集群，勢在必行。因此，領(lǐng)先的集群管理能力，也是企業(yè)選擇合作伙伴的硬標準。算力資源的領(lǐng)先，才能更確保業(yè)務走在行業(yè)前沿。

04 結(jié)語

貝索斯提出了著名的企業(yè)增長“飛輪理論”。而AI應用的浪潮里也會如此。

當企業(yè)AI應用上線后，就會產(chǎn)生許多寶貴的數(shù)據(jù)。把這些數(shù)據(jù)反饋給模型后，經(jīng)過持續(xù)的精調(diào)、迭代后，模型效果會越來越好，應用也會越來越好。企業(yè)的競爭優(yōu)勢也會不斷增強。

這就是“數(shù)據(jù)飛輪”。千帆也是業(yè)界首個提供完整數(shù)據(jù)飛輪解決方案的大模型平臺。

算力、數(shù)據(jù)、模型、應用開發(fā)，百度智能云用全棧技術(shù)的“一站式”服務，不斷降低AI原生應用開發(fā)的門檻，打開企業(yè)應用的天花板。

而唯有此，才能為企業(yè)帶來更低成本、更高效率，讓企業(yè)更放心、安心地利用大模型，在AI浪潮里，探索業(yè)務創(chuàng)新。

---全文完，歡迎交流

理工/金融 復合背景，

百億私募/頭部自媒體 雙重經(jīng)歷

懂商業(yè)更懂科技，前瞻發(fā)現(xiàn)新機遇