網易首頁 > 網易號 > 正文 申請入駐

多模態不是拼模塊,千問新模型證明了最關鍵的一件事

0
分享至

林俊旸離職了,但 Qwen 不能停。最近 Qwen3.5-Omni 發布,一個原生全模態大模型,文本、圖片、音頻、視頻的理解與生成,集于一身。


這不是第一個試圖「什么都做」的模型。過去兩年,多模態是所有大模型公司都在講的故事。大多數方案的本質是拼接:語音進來先轉文字,文字處理完再轉語音,圖片走一條獨立通道,視頻又是另一條。模塊之間的信息在翻譯中不斷損耗。

Qwen3.5-Omni 走了另一條路。它的 Thinker-Talker 架構讓所有模態在同一個模型內原生處理——Thinker 負責跨模態的深度推理,Talker 負責實時語音輸出,兩者共享同一套表征空間。


結果是:在音頻、視頻、推理和交互任務上拿下 215 項子任務的 SOTA 成績,音頻理解/推理/識別/翻譯/對話全面超越 Gemini-3.1 Pro,同時視覺和文本能力保持同尺寸 Qwen3.5 的水平,沒有退化。

比數字更值得看的,是 Qwen 團隊在發布頁上放出的那批演示視頻,不是做題,也不是跑分,而是在展示「和 AI 互動」這件事可以是什么樣。

看見你看見的

Qwen3.5-Omni 處理視頻素材是多管齊下:自動切片,標注時間戳,識別畫面中的人物、動作與空間關系,同時分析音軌中的背景音效和對話內容。模型真正在做的,對時間線上視聽信息的同步解析。像下面的視頻片段來自《舌尖上的中國》,3.5-Omni 能生成的是結構化的細粒度描述。


更復雜的場景里,模型處理的是電影片段:多人、多鏡頭、復雜音效疊加。它能區分不同角色的對話,識別背景音樂的情緒色彩,描述鏡頭調度和場景切換。


這些能力可以用在什么場景下呢?一個偏向應用的演示是內容合規審查:給模型一段游戲視頻,它自動按時間段輸出違規類型、風險等級和具體描述,生成完整的合規預警摘要表。傳統方案需要人工逐幀審核,這里模型直接給出結構化結果。


聽懂你說的

如果說上面的演示展示的是模型「看」的能力,下面這組則展示了它「進入場景」的能力。

博客上的一個演示是多輪對話與智能打斷:用戶舉著手機和模型共讀一篇論文,隨時插話提問。模型基于 Omni 架構原生支持語義打斷,區分用戶的有意打斷和無意義的背景音,不會在你清嗓子的時候停下來。這依賴于模型對 turn-taking 意圖的實時識別,而不是簡單的音量閾值檢測。


另一個令人印象深刻的演示是歌詞字幕生成:一首糅合了多種方言的 rap 被送入模型,輸出是帶精確時間戳的逐句歌詞。并且沒有「翻譯」的調整,比如在識別粵語歌詞時,返送的就是粵語行文,沒有自作主張轉換成普通話。Qwen3.5-Omni 支持 113 種語言的語音識別和 36 種方言的語音生成,這個覆蓋面本身就是一個值得注意的信號。

模型在海量文本、視覺以及超過1億小時的音視頻數據上進行原生多模態預訓練。相比上一代 Qwen3-Omni,多語言能力大幅增強:語音識別從此前的版本躍升至 113 種語言,語音生成覆蓋 36種方言。

從「看視頻」到「寫代碼」

最出人意料的一組演示來自 Qwen 團隊稱為「Audio-Visual Vibe Coding」的能力。

第一個案例:用戶展示一段音樂游戲的視頻,模型觀察游戲畫面和音效后,直接生成可運行的游戲代碼。不是描述游戲邏輯,而是寫出代碼。


第二個案例更接近實際產品開發:用戶展示一個產品原型的演示視頻,模型將視覺設計和交互邏輯轉化為前端代碼。


Qwen 團隊在技術報告中指出,這種「看視頻寫代碼」的能力并不在模型的訓練目標中——它是原生多模態 Scaling 過程中涌現出來的。當視覺、聽覺和語言的表征被聯合訓練到足夠深度時,模型自發地學會了在模態之間建立因果關系,而不僅僅是相關性。

支撐這些能力的,是 Qwen3.5-Omni 的 Hybrid-Attention MoE 架構,在同一潛空間內聯合訓練所有模態的 token。這意味著模型在「思考」時,文字、圖像、聲音是同一種東西,不存在模態間的翻譯損耗。

以往的語音大模型要么思考慢但回答深,要么響應快但內容淺。但今天 Qwen 發布的這些演示視頻,比任何 benchmark 數字都更能說明,全模態 AI 在 2026 年能做到什么。


我們正在招募伙伴

簡歷投遞郵箱 hr@ifanr.com

?? 郵件標題 「姓名+崗位名稱」(請隨簡歷附上項目/作品或相關鏈接)


特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
創業板指跌逾2% AI硬件、軟件領跌

創業板指跌逾2% AI硬件、軟件領跌

財聯社
2026-04-24 10:10:06
比7板圣陽股份還猛?這家4元低價+液冷龍頭  主力底部凈搶籌3億

比7板圣陽股份還猛?這家4元低價+液冷龍頭 主力底部凈搶籌3億

元芳說投資
2026-04-24 06:10:09
大開眼界,以色列大使當眾質問:中國憑啥能過海峽?現場沒人理他

大開眼界,以色列大使當眾質問:中國憑啥能過海峽?現場沒人理他

創造精彩劇情
2026-04-23 13:43:15
“明天下雨,面試能改天嗎”:角色定位不清,是成年人最大的災難

“明天下雨,面試能改天嗎”:角色定位不清,是成年人最大的災難

精讀君
2026-04-24 09:00:18
約P?多人運動?夜夜不重樣?“娛圈鐵腎”的瓜

約P?多人運動?夜夜不重樣?“娛圈鐵腎”的瓜

萌姐
2026-04-11 18:44:38
特朗普:美國“無意影響”伊朗參加2026年美加墨世界杯

特朗普:美國“無意影響”伊朗參加2026年美加墨世界杯

中國網
2026-04-24 10:42:04
美國全面封鎖伊朗進出口,對伊朗的傷害有多大?

美國全面封鎖伊朗進出口,對伊朗的傷害有多大?

高博新視野
2026-04-24 07:30:14
行長束行農帶著他的美女下屬爆賺數千萬

行長束行農帶著他的美女下屬爆賺數千萬

資本董事局
2026-04-22 19:48:19
54歲黎姿,常年跑步運動,身材婀娜如少女,網友:這才叫風韻猶存

54歲黎姿,常年跑步運動,身材婀娜如少女,網友:這才叫風韻猶存

馬拉松跑步健身
2026-04-24 06:30:08
連裝都懶得裝了?漏洞這么多

連裝都懶得裝了?漏洞這么多

走讀新生
2026-04-22 13:46:02
以色列已經告訴世界:日本若敢擁有核武器,美國并不會第一個翻臉

以色列已經告訴世界:日本若敢擁有核武器,美國并不會第一個翻臉

八斗小先生
2025-12-26 09:33:27
再見了,開拓者,賽季離隊第一人,楊瀚森更難了!

再見了,開拓者,賽季離隊第一人,楊瀚森更難了!

體育新角度
2026-04-23 15:51:56
從丑陋者的兇相畢露,到某些教授的樂觀高論!

從丑陋者的兇相畢露,到某些教授的樂觀高論!

胖胖說他不胖
2026-04-24 11:50:11
1979年打越南,高層其實吵翻了天?葉劍英粟裕為何反對出兵?

1979年打越南,高層其實吵翻了天?葉劍英粟裕為何反對出兵?

老謝談史
2026-04-22 19:19:56
金融大老虎蔡鄂生的桃色往事

金融大老虎蔡鄂生的桃色往事

資本董事局
2026-04-23 20:46:15
被扇耳光后續!大家只猜對一半,知情人曝光保安身份,還有隱情?

被扇耳光后續!大家只猜對一半,知情人曝光保安身份,還有隱情?

奇思妙想草葉君
2026-04-24 11:07:21
武漢大爺公交插隊被撞致死,家屬起訴乘客和公交公司,法院判了

武漢大爺公交插隊被撞致死,家屬起訴乘客和公交公司,法院判了

奇思妙想草葉君
2026-04-24 00:26:53
賴清德被官宣“除名”!外交部一記耳光:“假總統”名號徹底作廢

賴清德被官宣“除名”!外交部一記耳光:“假總統”名號徹底作廢

天氣觀察站
2026-04-23 19:59:22
歷史為何選擇了鄧小平,1976-1978年到底發生了什么丨書單

歷史為何選擇了鄧小平,1976-1978年到底發生了什么丨書單

歷史大學堂
2026-04-24 11:28:27
她57歲參加紅軍,丈夫是光緒皇帝的御前侍衛,女婿是我國的總理

她57歲參加紅軍,丈夫是光緒皇帝的御前侍衛,女婿是我國的總理

云霄紀史觀
2026-04-24 11:48:30
2026-04-24 13:31:00
AppSo incentive-icons
AppSo
讓智能手機更好用的秘密
6307文章數 26828關注度
往期回顧 全部

科技要聞

剛剛,DeepSeek-V4 預覽版發布 百萬上下文

頭條要聞

特朗普:不會對伊朗動用核武器 已從軍事上拿下了伊朗

頭條要聞

特朗普:不會對伊朗動用核武器 已從軍事上拿下了伊朗

體育要聞

里程碑之戰拖后腿,哈登18分8失誤

娛樂要聞

王思聰被綠!戀愛期間女友被金主包養

財經要聞

19家企業要"鋁代銅",格力偏不

汽車要聞

全景iDrive 續航近800km 新款寶馬7系/i7亮相

態度原創

時尚
數碼
房產
本地
健康

今年最好看的3個顏色,太適合夏天了!

數碼要聞

專訪巴可王紅波:顯示行業競爭下半場,深耕八大垂直行業與構建共贏生態

房產要聞

三亞安居房,突然官宣!

本地新聞

云游中國|逛世界風箏都 留學生探秘中國傳統文化

干細胞如何讓燒燙傷皮膚"再生"?

無障礙瀏覽 進入關懷版