无主之地2配置高吗|看真人裸体BBBBB|秋草莓丝瓜黄瓜榴莲色多多|真人強奷112分钟|精品一卡2卡3卡四卡新区|日本成人深夜苍井空|八十年代动画片

網易首頁 > 網易號 > 正文 申請入駐

DeepSeek最新論文:如何讓大模型跑得更快?梁文鋒署名

0
分享至

當行業在討論誰的模型更聰明時,DeepSeek仍然把目光投向更現實的問題:如何讓模型更快。

6月27日,DeepSeek官方在Github低調更新了一篇最新論文,介紹其推理加速框架DSpark,試圖解決大語言模型在高并發場景下的推理效率瓶頸。

從作者署名來看,這篇論文由DeepSeek與北京大學聯合發布,DeepSeek創始人梁文鋒也位列作者名單。在論文中,團隊開源了DSpark模型權重,并同步發布了面向推測解碼、由算法驅動的訓練代碼倉庫DeepSpec。


DeepSeek最新論文截圖

此次論文仍是DeepSeek一貫的技術派風格,論文標題就較為晦澀——《DSpark:基于置信度調度的半自回歸生成推測解碼》(《DSpark:Confidence-Scheduled Speculative Decoding with Semi-Autoregressive Generation》)。

在論文中,DeepSeek首先解釋了需要解決的問題。大語言模型采用自回歸方式生成文本:每一個新詞元(token)的生成,都需要基于全部前置詞元完成一次完整前向傳播,結果是輸出越長,等待越久。由此帶來GPU利用率低下、用戶等待時間過長的問題,這是大語言模型線上服務的核心性能瓶頸,在實時對話助手、多輪智能體工作流等低時延敏感場景中尤為突出。

目前的主流方案分為自回歸草稿模型(Eagle3)、并行草稿模型(DFlash)兩條路線,二者各有缺陷,包括生成質量瓶頸和系統效率瓶頸等,且現有方案均缺乏負載自適應校驗機制。

基于此,DeepSeek提出DSpark推測解碼框架,采用半自回歸架構,通過兩套互補機制,解決草稿生成與校驗環節的權衡矛盾,將高吞吐并行生成與自適應負載感知校驗機制融為一體。

根據論文,在數學推理、代碼生成、日常閑聊三類任務的受控離線基準測試中,相較于自回歸草稿模型與并行草稿模型,Dspark框架能夠大幅提升單輪平均可接受詞元長度。

DeepSeek已經將DSpark部署到DeepSeek-V4在線服務系統中,并基于真實用戶流量評估其實際性能。結果顯示,相較于現有生產環境基線系統MTP-1,在相同吞吐量條件下,DSpark將用戶端生成速度提升了60%-85%。

此外,DeepSeek也將這一框架部署在其他模型上,以阿里旗下的Qwen3-4B、8B、14B三個模型為例,相較于自回歸草稿模型,DSpark平均單輪可接受詞元長度分別提升了30.9%、26.7%、30%;相較于并行草稿模型,DSpark分別提升了16.3%、18.4%、18.3%。

從技術角度來看,這篇論文的主要價值在于,通過算法創新顯著提升了模型的推理生成速度。在當前大模型行業逐漸走向落地的背景下,誰能更便宜、更快速地輸出結果,也是一項重要的競爭力。此外,通過開源,DeepSeek也再次推動了社區發展。

“AI Infra再次被DeepSeek加速了。”在社交平臺,有開發者評價道。也有用戶認為,DeepSeek最讓人佩服的點在于,模型迭代的同時,推理基礎設施也在同步更新,發布V4時,連推理優化一起發,有論文也有代碼,還驗證了跨模型通用性。

即便近期頻頻傳出融資消息,未來可能需要走向商業化,但通過這一開源,DeepSeek似乎在證明自己仍會堅持開源初心。

責任編輯:李曦_NN2587

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
葡萄牙0-0平局引爭議,C羅遭嘲諷,飯圈現象引思考

葡萄牙0-0平局引爭議,C羅遭嘲諷,飯圈現象引思考

陳秣愛釣魚
2026-06-28 10:03:27
美麗的背影:那不是離開,是正在走向自己的路

美麗的背影:那不是離開,是正在走向自己的路

疾跑的小蝸牛
2026-06-28 23:49:33
前水晶宮老板:不敢相信紐卡竟沒有為安德森設置二次轉會分成

前水晶宮老板:不敢相信紐卡竟沒有為安德森設置二次轉會分成

懂球帝
2026-06-28 20:53:02
伊朗要變天了!穆杰塔巴可能已失去所有權力,三分天下格局形成?

伊朗要變天了!穆杰塔巴可能已失去所有權力,三分天下格局形成?

驚視
2026-06-26 05:59:36
世界杯48強最水球隊出爐:3連敗狂丟12球墊底!7次參賽都小組出局

世界杯48強最水球隊出爐:3連敗狂丟12球墊底!7次參賽都小組出局

球場沒跑道
2026-06-28 16:39:10
AI狂歡,老登吃土!港股更慘?答案來了

AI狂歡,老登吃土!港股更慘?答案來了

說股鯨
2026-06-28 22:15:03
被火箭隊清理,卻引6隊追逐!底薪就能簽?斯通放棄第3中鋒失算了

被火箭隊清理,卻引6隊追逐!底薪就能簽?斯通放棄第3中鋒失算了

熊哥愛籃球
2026-06-28 22:40:18
澤連斯基發現重大機遇,俄羅斯或已窮途末路,打好了能直接翻盤?

澤連斯基發現重大機遇,俄羅斯或已窮途末路,打好了能直接翻盤?

瀟湘煙雨水
2026-06-29 01:35:34
山西肉鋪傷人后續:又殺害兩名顧客,3人當場死亡,家屬曝隱情

山西肉鋪傷人后續:又殺害兩名顧客,3人當場死亡,家屬曝隱情

離離言幾許
2026-06-16 20:59:36
反擊稀土斷供,日本“最強”反制來了!

反擊稀土斷供,日本“最強”反制來了!

種花島
2026-06-28 09:37:59
廣州打網約車鬧大了,預估43元結賬149元,司機端基礎車費才38元

廣州打網約車鬧大了,預估43元結賬149元,司機端基礎車費才38元

小虎新車推薦員
2026-06-28 15:43:02
馬桶不用的時候,蓋子是掀開好還是關上好?很多人還不懂,看完就明白了!

馬桶不用的時候,蓋子是掀開好還是關上好?很多人還不懂,看完就明白了!

設計最前沿
2026-06-26 23:01:06
上海交大發現:吃大蒜能在24小時內降低60%的血糖,是真的嗎?

上海交大發現:吃大蒜能在24小時內降低60%的血糖,是真的嗎?

冷眼看世界728
2026-06-27 22:06:43
中美歐情況有變?中國不忍了,特朗普也不忍了,普京做夢都該笑醒

中美歐情況有變?中國不忍了,特朗普也不忍了,普京做夢都該笑醒

離離言幾許
2026-06-29 00:33:34
中國大使館新址驚現35枚“中國制造”竊聽器,外界震動

中國大使館新址驚現35枚“中國制造”竊聽器,外界震動

匹夫來搞笑
2026-06-28 19:15:42
高金素梅好樣的,確認出手,鄭麗文迎來強援!四名藍委有新動作!

高金素梅好樣的,確認出手,鄭麗文迎來強援!四名藍委有新動作!

娛樂的宅急便
2026-06-29 01:51:01
日本軍事體系全球罕見,已實現五大戰備突破,爆兵速度最值得警惕

日本軍事體系全球罕見,已實現五大戰備突破,爆兵速度最值得警惕

黑洞觀星
2026-05-08 16:29:24
衰老為何催人長肚子?新研究找到脂肪干細胞推手

衰老為何催人長肚子?新研究找到脂肪干細胞推手

萬物皆可科普啊
2026-06-28 03:02:57
日本終于有人敢捅破窗戶紙!臺灣問題不解決,日本永遠別想翻身!

日本終于有人敢捅破窗戶紙!臺灣問題不解決,日本永遠別想翻身!

阿纂看事
2026-06-29 01:50:28
網購時要注意了,“旗艦店”和“官方店”一字之差,天壤地別!

網購時要注意了,“旗艦店”和“官方店”一字之差,天壤地別!

另子維愛讀史
2026-05-25 07:55:09
2026-06-29 04:43:00
第一財經資訊 incentive-icons
第一財經資訊
第一財經官方賬號
257474文章數 622838關注度
往期回顧 全部

科技要聞

DeepSeek最新論文:如何讓大模型跑得更快

頭條要聞

四川宜賓市高縣發生5.5級地震 震中距宜賓28公里

頭條要聞

四川宜賓市高縣發生5.5級地震 震中距宜賓28公里

體育要聞

兩周飛5萬公里!因凡蒂諾遭環保人士猛批

娛樂要聞

曾沛慈拿下《乘風2026》年度總冠軍

財經要聞

省錢,我只服梁文鋒

汽車要聞

搭載華為乾崑六件套 東風奕派M8預售19.98萬起

態度原創

教育
時尚
本地
房產
軍事航空

教育要聞

湖北學霸王昕博702分,棄清北報考南大計算機

夏天裙子不用買多,建議入手一條藍裙子,清爽高級又耐看

本地新聞

世界杯球迷節:比球賽更好玩的派對

房產要聞

全國高考大放水,300分就能上本科!論上岸率,海南沒輸過!

軍事要聞

特朗普又發文威脅:伊朗將不復存在

無障礙瀏覽 進入關懷版