智東西
作者 程茜
編輯 李水青

智東西7月6日報道，今日，全球機器學習領域三大頂會之一ICML公布獲獎名單，來自清華大學和麻省理工學院的兩篇與擴散模型相關的論文拿下杰出論文獎（Outstanding Paper Award），這一獎項代表本屆獲獎論文中的最高水準。

▲ICML官宣獲獎名單

其中一篇為清華大學黃高團隊論文。除清華大學研究人員外，其作者名單還出現了阿里巴巴集團研究人員的身影。其論文提出了極簡算法JustGRPO，該算法在GSM8K數學推理數據集上準確率達89.1%，同時能完整保留擴散模型并行解碼的優勢。

獲得杰出立場論文獎（Outstanding Position Paper Award）的論文，分析了當下的各項對齊技術，并發現惡意主體可輕易利用其實施信息審查與輿論操控。作者為慕尼黑大學博士生Sarah Ball，以及獨立AI治理研究者Phil Hackemann。

獲得時間檢驗獎（Test of Time Award）的論文來自谷歌DeepMind 2016年發表的論文，其引入了一種利用多個CPU核心來加速單臺機器上訓練的強化學習框架，在arXiv上的被引用次數超1.5萬次。谷歌DeepMind AlphaGo、AlphaZero首席研究員David Silver，谷歌DeepMind CTO、谷歌首席AI架構師Koray Kavukcuoglu均在作者之列。

本次ICML共頒發了2項杰出論文獎、1項杰出立場論文獎、1項時間檢驗獎。ICML與NeurIPS、ICLR并稱機器學習三大頂會，于1980年創立，是全球首個專門聚焦機器學習的頂級學術會議，曾首發了大量里程碑論文。

一、清華、阿里聯手，拿下ICML杰出論文

清華大學黃高團隊拿下杰出論文獎的論文題目是《靈活性陷阱：重新思考擴散語言模型中任意順序的價值（The Flexibility Trap: Rethinking the Value of Arbitrary Order in Diffusion Language Models）》

擴散大語言模型（dLLMs）打破了傳統大語言模型從左至右的剛性生成約束，支持以任意順序生成文本token。直觀來看，這種生成靈活性使其解空間嚴格包含自回歸模型固定單向生成路徑所能覆蓋的全部范圍，理論上具備更強的推理能力。

在數獨謎題等特定約束滿足類任務中，該特性已被證實具備顯著優勢。

但該論文提到，針對數學、代碼等通用推理任務，無序生成機制反而會限制擴散大語言模型的推理上限。研究人員發現，擴散大語言模型會利用生成順序的自由度，刻意回避那些不確定性高、對探索關鍵的token，最終導致模型可覆蓋的有效解范圍過早收縮。

基于這一發現，該論文重新審視了面向擴散大語言模型的強化學習方案，現有算法為保留無序生成特性，需要處理組合式生成路徑、難以計算的似然值等大量復雜問題。

研究人員證明，只需舍棄任意序生成機制、采用標準分組相對策略優化（GRPO），就能更好地激發模型推理能力。他們提出了極簡算法JustGRPO，其結構簡潔，且在GSM8K數學推理數據集上準確率達89.1%，同時能完整保留擴散模型并行解碼的優勢。

▲約束模型自由度，可釋放更強推理潛力

黃高為清華大學自動化系長聘副教授、博士生導師，清華大學智能產業研究院（AIR）研究員。

根據清華大學自動化系披露的信息，黃高的研究方向為AI基礎模型與算法，包括神經網絡架構、高效推理算法、強化學習、多模態感知與生成、具身基座模型與世界模型等，在Nature Machine Intelligence、IEEE TPAMI等期刊、會議發表學術論文200余篇，其中CCF A類論文120余篇。

▲黃高（圖源：清華大學）

其谷歌學術總引用10.5萬次，代表性工作DenseNet單篇被引6.2萬次，入選AI2000人工智能領域最具影響力學者。

二、另一杰出論文出自MIT、耶魯研究人員，提出擴散模型采樣算法

與清華黃高團隊并列獲得杰出論文獎的是，麻省理工學院、耶魯大學研究人員聯合發表的擴散模型相關論文。

論文名稱是《擴散模型和對數凹分布的高精度采樣（High-Accuracy Sampling for Diffusion Models and Log-Concave Distributions）》。

該論文提出一套擴散模型采樣算法：若可獲取L2范數下精度為O?(δ)的分數估計，該算法僅需polylog(1/δ)步即可達到δ誤差。

具體復雜度結論分三類場景：

1、在最簡數據假設下，算法復雜度為 O~(dpolylog(1/δ))，其中d為數據維度；

2、在非一致L-Lipschitz（利普希茨連續）條件下，復雜度降至O~(dLpolylog(1/δ))；

3、若數據分布具備本征維度d?，復雜度可進一步簡化為O~(d?polylog(1/δ))。

此外，該論文方案首次僅依靠梯度求值，就為通用對數凹分布構造出復雜度為polylog(1/δ)的采樣器。

獲得杰出立場論文獎的是《立場：對齊社區正在無意間打造一套審查工具集（Position：The Alignment Community is Unintentionally Building a Censor’s Toolkit）》。作者為慕尼黑大學計算機器學習方向博士生Sarah Ball，以及獨立AI治理研究者Phil Hackemann。

其核心觀點為，現代對齊技術最初用于規避模型生成有害內容，但這類技術屬于兩用技術，惡意主體可輕易利用其實施信息審查與輿論操控。

該論文梳理了現有各類對齊技術，并結合技術被濫用的潛在風險與真實案例，論證人們對“完全對齊模型”的持續追求，反而在無意間為惡意主體打造出性能不斷升級的信息主導工具。

▲各類對齊技術的特性及其被濫用的潛在風險

當下AI正快速普及、成為大眾核心信息來源，加之全球政治環境日趨威權化，進一步放大了該技術濫用風險，因此學界亟需即刻研討其兩用屬性帶來的隱患。

研究人員呼吁整個AI領域重視安全機制被蓄意濫用的問題，并提出針對性緩釋方案，防范此類兩用技術遭到不當利用。

三、8位谷歌DeepMind資深研究員下場，獲得時間檢驗獎

獲得時間檢驗獎（Test of Time Award）的是《深度強化學習的異步方法（Asynchronous Methods for Deep Reinforcement Learning）》。

作者均為谷歌DeepMind資深研究人員。ICML的評語中提到，該論文開創性提出了異步強化學習（RL）概念，并行Actor學習器能夠穩定學習過程的觀察，啟發了眾多后續研究。

其中，David Silver領導谷歌DeepMind的強化學習研究小組，是AlphaGo、AlphaZero的首席研究員和AlphaStar的共同負責人；Koray Kavukcuoglu是谷歌DeepMind CTO和谷歌首席AI架構師。

研究人員提出一套原理簡潔、輕量的深度強化學習框架，該框架采用異步梯度下降優化深度神經網絡控制器。

研究人員基于四種經典強化學習算法分別設計了異步改進版本，并驗證并行執行的智能體-學習器結構能夠穩定訓練過程，讓上述四種算法均可有效完成神經網絡控制器的訓練。

其中性能最優的異步演員-評論家算法，僅依靠單核多線程CPU、無需GPU，訓練耗時減半，在Atari游戲測試集上的效果超越了當時的最優基準模型。

▲5款Atari 2600游戲下，DQN算法與新型異步算法的訓練速度對比

除此之外，該異步演員-評論家算法不僅能解決各類連續運動控制任務，還可基于視覺輸入完成全新的隨機三維迷宮導航任務。

結語：清華摘頂會獎項，擴散語言模型站上風口

國際機器學習頂會ICML作為全球AI領域含金量頂尖的學術盛會，此次清華團隊拿下重磅獎項，直觀印證國內頂尖科研團隊在機器學習核心賽道的科研硬實力提升。

與此同時，本屆ICML同步有兩篇聚焦擴散模型的論文獲評重磅獎項，也說明擴散語言模型成為大模型重要演進方向，或成為未來產業界的核心技術路線。