2024年，AI落地的真實情況是什么？

投資過Anthropic、Uber、Roku、Siri等公司的美國老牌VC「Menlo Ventures」的調(diào)查顯示：

2024年，企業(yè)的AI支出達到了138億美金，是去年23億美金的6倍。而且，AI Coding相關(guān)產(chǎn)品的采用率達到了51%。

這份報告的數(shù)據(jù)，來自Menlo Ventures近期對600名企業(yè)IT決策者進行的調(diào)查。這些樣本企業(yè)的規(guī)模不算小，每家最少擁有50名員工。

Menlo，是成立于1976年的風(fēng)險投資與私募股權(quán)公司，總部位于舊金山，創(chuàng)造了超過100億美元的回報。

Menlo簡介這兩年它加大了對新一代人工智能初創(chuàng)公司的投資，典型案例包括Anthropic、Pinecone、Typeface、Sana等。

Menlo的AI投資案例今年7月 ，Menlo 還與Anthropic 聯(lián)手設(shè)立一項名為“Anthology Fund”的 1 億美元基金，用于投資種子前、種子期和 A 輪的 AI 初創(chuàng)公司。Anthology Fund 的資金是從 Menlo 最新的 13.5 億美元投資基金中分拆出來的。

它將為初創(chuàng)企業(yè)提供10萬美元起步的投資，以及25萬美元的信用額度以使用Anthropic的模型。2023年，Menlo首次發(fā)布了《企業(yè)中生成AI的現(xiàn)狀報告》。在2024年的同題報告中，Menlo進行了兩年的數(shù)據(jù)對比。報告還提示了AI 最有價值的 4 個應(yīng)用場景，以及三個未來預(yù)測。

值得關(guān)注的數(shù)據(jù)

• 2024年企業(yè)在 AI 的支出達到了 138 億美金，是去年 23 億美金的 6 倍。
• 72% 的決策者預(yù)計在不久的將來，生成式人工智能工具將會被更廣泛地使用。
• 超過三分之一的受訪者對如何在組織內(nèi)實施生成式AI并沒有沒有清晰的愿景。
• 企業(yè)買家在 2024 年向生成式 AI 應(yīng)用投入了 46 億美元，幾乎比去年報告的 6 億美元增長了 8 倍。
• 閉源解決方案占據(jù)了絕大多數(shù)市場份額，達到 81%，而開源替代方案（以 Meta 的 Llama 3 為首）則穩(wěn)定在 19%，與 2023 年相比僅下降了一個百分點。
• OpenAI 企業(yè)市場份額從 50% 降至 34%。Anthropic 的企業(yè)市場份額從 12% 倍增到 24%。
• 企業(yè)對生成式 AI 的投資有 60% 來自創(chuàng)新預(yù)算，這反映出生成式 AI 的應(yīng)用尚處于早期階段。但仍有40% 的生成式 AI 支出來自更長期的預(yù)算（其中 58% 是從現(xiàn)有撥款中重新分配的），企業(yè)對 AI 轉(zhuǎn)型的承諾日益堅定。

AI 最有價值的4個應(yīng)用場景排名

Top 1： Code Copilots，采用率 51% ，它使開發(fā)人員成為 AI 最早的高級用戶。GitHub Copilot 迅速攀升至 3 億美元的營業(yè)收入說明了Code Copilots的迅速發(fā)展， Codeium 和 Cursor 等新興工具同樣也在快速增長。除了通用的編碼助手之外，企業(yè)還會購買特定任務(wù)的 Copilot，比如Harness，這類用于管道生成和測試自動化的 AI DevOps Engineer 和 QA Assistant工具，以及 All Hands，這類能夠執(zhí)行更多端到端軟件開發(fā)的AI 代理。

• Top 2: 支持性AI 對話機器人（Support chatbots ），采用率31%。這些應(yīng)用程序為企業(yè)內(nèi)部員工和外部客戶提供可靠的、全天候的、知識型內(nèi)容的支持。Aisera、Decagon 和 Sierra 的代理直接與終端客戶互動，而 Observe AI 則在通話期間為聯(lián)絡(luò)中心的坐席人員提供實時指導(dǎo)。

• Top 3: 企業(yè)搜索及檢索&數(shù)據(jù)提取和轉(zhuǎn)換（Enterprise search + retrieval and data extraction + transformation)，采用率分別是28% and 27%。這反映出企業(yè)有強烈的渴望，希望可以挖掘和利用分散在組織中各類數(shù)據(jù)孤島中隱藏的寶貴知識。這里面代表的AI 應(yīng)用有Glean 和 Sana，它們的解決方案可連接到電子郵件、即時通訊和文檔存儲，從而實現(xiàn)跨不同系統(tǒng)的統(tǒng)一語義搜索，并提供由 AI 驅(qū)動的知識管理。

• Top 4: 會議總結(jié)（Meeting summarization ），采用率25%。通過AI驅(qū)動的軟件自動記錄筆記和總結(jié)摘要，可以節(jié)省時間并提高工作效率。比如，F(xiàn)ireflies.ai 、Otter.a i和 Sana 等工具可以捕獲和總結(jié)在線會議； Fathom 可以從視頻中提取要點；Eleos Health 則主要應(yīng)用于于醫(yī)療保健，它可以自動完成數(shù)小時的文檔記錄并與 EHR 直接集成，讓醫(yī)療保健提供者可以更專注于患者護理。

三個預(yù)測

1. Agents 代理將推動下一波人工智能轉(zhuǎn)型。未來，人工智能需要解決復(fù)雜、多步驟的任務(wù)，這些任務(wù)超出了當(dāng)前專注于內(nèi)容生成和知識檢索的系統(tǒng)的能力。Clay 和 Forge 等平臺已經(jīng)讓人們看到高級代理將如何顛覆價值 4000 億美元的軟件市場，并蠶食價值 10 萬億美元的美國服務(wù)經(jīng)濟。這種轉(zhuǎn)變將需要新的基礎(chǔ)設(shè)施：代理身份驗證、工具集成平臺、人工智能瀏覽器框架以及人工智能生成代碼的專用運行環(huán)境。
2. 更多現(xiàn)有老牌企業(yè)將倒下。ChatGPT 今年對 Chegg 和 Stack Overflow 的顛覆給老玩家們敲響了警鐘：Chegg 85% 的市值消失了，而 Stack Overflow 的網(wǎng)絡(luò)流量則減少了一半。其他類別的AI產(chǎn)品顛覆老玩家的時機也已成熟，比如 Cognizant 這樣的 IT 外包公司和 UiPath 這樣的傳統(tǒng)自動化企業(yè)應(yīng)該做好準備，迎接原生人工智能挑戰(zhàn)者進入他們的市場。隨著時間的推移，甚至像 Salesforce 和 Autodesk 這樣的軟件巨頭也將面臨原生人工智能的挑戰(zhàn)。
3. 人工智能人才荒愈演愈烈，暫時看不到緩解的跡象。現(xiàn)在我們正處于大規(guī)模人才荒的邊緣，隨著人工智能系統(tǒng)的激增，產(chǎn)品日益復(fù)雜，科技行業(yè)將面臨嚴重的人才匱乏問題。短缺的不僅僅是數(shù)據(jù)科學(xué)家，還有能夠?qū)⑾冗M的人工智能與特定領(lǐng)域?qū)I(yè)知識相結(jié)合的專家。人才儲備已經(jīng)少得可憐，競爭將急劇加劇，已經(jīng)高薪聘請的人工智能企業(yè)架構(gòu)師的薪酬將提高 2-3 倍，也將成為一種常態(tài)。盡管企業(yè)對培訓(xùn)計劃和人工智能卓越中心進行了投資，但人才缺口將超過這些努力帶來的人才供給，從而加劇對推動下一波人工智能創(chuàng)新所需的有限人才的激烈競爭。

報告還揭示了生成式AI在企業(yè)落地的現(xiàn)狀和趨勢，具體如下：

企業(yè)采用現(xiàn)狀

• 代理和自動化：人工智能掌控一切 。當(dāng)前的情況表明，人們更傾向于使用AI增強人工工作流程，而不是完全自動化，但也正在向更自主的解決方案過渡。能夠獨立管理復(fù)雜端到端流程的人工智能Agents的早期案例正在各個行業(yè)涌現(xiàn)。比如金融后臺工作流程中的 Forge 和Sema4 等以及 Clay 。

• 自行開發(fā)還是購買？具體問題具體分析 。在決定自建還是購買時，企業(yè)發(fā)現(xiàn)兩者的比例幾乎持平的，有47% 的解決方案是內(nèi)部開發(fā)的，另 53% 的解決方案來自供應(yīng)商。這與 2023 年相比發(fā)生了明顯變化，當(dāng)時Menlo的報告稱 80% 的企業(yè)依賴第三方生成式 AI 軟件，這表明許多企業(yè)越來越有信心和能力建立自己的內(nèi)部 AI 工具，而不是主要依賴外部供應(yīng)商。

• 企業(yè)在采用生成式人工智能時優(yōu)先考慮價值而非短期利益。在選擇生成式 AI 應(yīng)用程序時，企業(yè)有明確表示投資回報率和行業(yè)特定定制，在選擇新工具時最為重要。價格并不是主要問題；只有 1% 的人提到價格是選擇時需要考慮的問題。買家正在打持久戰(zhàn)：與提供最低價格（1%）的工具相比，他們更關(guān)注能夠提供可衡量價值（30%）和能為其工作進行個性化 （26%）的工具。而在失敗案例的分析中，26% 的失敗案例提到實施成本，21%提及了數(shù)據(jù)隱私障礙，18%則提到了令人失望的投資回報率 (ROI)（18%）。技術(shù)上，幻覺（15%）是失敗的主要原因。在規(guī)劃和選擇階段主動解決這些潛在陷阱可以增加成功實施的可能性。

• 現(xiàn)有企業(yè)更容易受到初創(chuàng)企業(yè)的干擾。去年，現(xiàn)有企業(yè)通過“附加”戰(zhàn)略主導(dǎo)了企業(yè)市場，即將生成式 AI 功能附加到現(xiàn)有產(chǎn)品上。當(dāng)時，Menlo曾預(yù)測初創(chuàng)公司將日益占據(jù)優(yōu)勢，今年的數(shù)據(jù)證實了這一想法：雖然 64% 的客戶仍然喜歡從現(xiàn)有供應(yīng)商處購買產(chǎn)品，理由是信任和開箱即用的功能，但現(xiàn)有企業(yè)的主導(dǎo)地位開始出現(xiàn)變化。18% 的決策者對現(xiàn)有產(chǎn)品表示失望；而 40% 的人質(zhì)疑他們目前的解決方案是否真正滿足他們的需求，這表明創(chuàng)新型初創(chuàng)公司有機會介入并占據(jù)一席之地。

• AI轉(zhuǎn)型在各個部門進行。今年，生成式人工智能的預(yù)算流向了每個部門。技術(shù)部門占仍據(jù)了最大的支出份額，其中 IT（22%）、產(chǎn)品 + 工程（19%）和數(shù)據(jù)科學(xué)（8%）合計占企業(yè)生成式 AI 投資的近一半。剩余預(yù)算分布在面向客戶的職能部門，例如支持（9%）、銷售（8%）和營銷（7%）、包括人力資源和財務(wù)在內(nèi)的后臺團隊（各占 7%）以及設(shè)計（6%）和法律（3%）等較小的部門。

• 垂直人工智能應(yīng)用正興起。第一批生成式 AI 應(yīng)用是用于文本和圖像生成的橫向解決方案，但到 2024 年，越來越多的應(yīng)用開始將 LLM 的新功能應(yīng)用于高度特定領(lǐng)域的垂直化工作流程。醫(yī)療保健（5 億美元的企業(yè)支出）、法律（企業(yè)在 AI 上的支出達 3.5 億美元））、金融服務(wù)（企業(yè)在 AI 上的支出達 1 億美元））、媒體和娛樂（企業(yè)在人工智能方面的支出達 1 億美元）行業(yè)中都有優(yōu)秀企業(yè)進入，發(fā)展也較為迅速。

• 基礎(chǔ)設(shè)施和人工智能堆棧在 2024 年趨于穩(wěn)定。企業(yè)圍繞構(gòu)成大多數(shù)生產(chǎn) AI 系統(tǒng)運行時架構(gòu)的核心構(gòu)建塊進行凝聚。礎(chǔ)模型仍占主導(dǎo)地位。LLM 層吸引了 65 億美元的企業(yè)投資。然而，通過反復(fù)試驗，企業(yè)越來越認識到數(shù)據(jù)支架和集成在構(gòu)建復(fù)雜的復(fù)合 AI 架構(gòu)方面的重要性，這些架構(gòu)可以在生產(chǎn)中可靠地運行，而不僅僅是一次性的演示。

趨勢

• LLM 趨勢：多模型戰(zhàn)略占上風(fēng)，OpenAI 讓位于 Anthropic企業(yè)不再依賴單一的供應(yīng)商，而是采用了務(wù)實的多模型方法。研究表明，企業(yè)通常會在其人工智能堆棧中部署三種或三種以上的基礎(chǔ)模型，并根據(jù)用例或結(jié)果選擇不同的模型。這種策略延伸到了開放源代碼與封閉源代碼的爭論中，盡管行業(yè)討論激烈，但人們對開放源代碼與封閉源代碼的偏好一直保持穩(wěn)定。閉源解決方案占據(jù)了絕大多數(shù)市場份額，達到 81%，而開源方案（以 Meta 的 Llama 3 為首）則穩(wěn)定在 19%，與 2023 年相比僅下降了一個百分點。在閉源模型中，OpenAI 的先發(fā)優(yōu)勢有所削弱，企業(yè)市場份額從 50% 降至 34%。Anthropic 是主要受益者，它的企業(yè)市場份額從 12% 倍增到 24%，因為一些企業(yè)在 Claude 3.5 Sonnet 成為最先進模型后，從 GPT-4 轉(zhuǎn)向了 Claude 3.5 Sonnet。在轉(zhuǎn)向新的 LLM 時，企業(yè)最常見的動機是安全考慮（46%）、價格（44%）、性能（42%）和擴展功能（41%）。

• 設(shè)計模式趨勢：RAG 增勢迅猛，微調(diào)采用率下降，Agent異軍突起RAG（檢索增強生成）目前占主導(dǎo)地位，采用率為 51%，比去年的 31% 大幅上升。而經(jīng)常被吹捧的微調(diào)，仍然少得令人吃驚，只有 9% 的生產(chǎn)模型進行了微調(diào)。代理架構(gòu)首次亮相，已經(jīng)為 12% 的應(yīng)用提供了動力。

• 向量數(shù)據(jù)庫、ETL 和數(shù)據(jù)管道：人工智能優(yōu)先的解決方案仍在不斷壯大要為 RAG 提供動力，企業(yè)必須高效地存儲和訪問相關(guān)的查詢知識。盡管 Postgres（15%）和 MongoDB（14%）等傳統(tǒng)數(shù)據(jù)庫仍很常見，但人工智能優(yōu)先的解決方案仍在不斷壯大。比如Pinecone ，這款人工智能原生向量數(shù)據(jù)庫，已經(jīng)占據(jù)了 18% 的市場份額。傳統(tǒng)的 ETL平臺（如Azure Document Intelligence）仍然占據(jù)了28%的部署份額，但 Unstructured 等旨在處理 PDF 和 HTML 等文檔中的非結(jié)構(gòu)化數(shù)據(jù)的細微差別的專業(yè)工具，正在開辟自己的空間，占據(jù)了16%的市場份額。

最后Menlo認為這僅僅是個開始，人工智能正在為新時代的轉(zhuǎn)型鋪平道路，這一時代由尖端的人工智能工具、賦能的勞動力和變革性的商業(yè)模式推動，將重塑我們的經(jīng)濟。