人工智能代寫了一位哈佛物理學家最新的論文。沒人知道這對科學意味著什么。

隨著大型語言模型（LLM）計算技能的進步，理論科學領域正在考慮自身可能被取代的可能性。或許他們也樂于被取代？

瑪麗亞·博雷爾·費雷羅和阿舍爾·J·蒙哥馬利

四月中旬的一個星期四下午，近 400 名物理學家和物理系學生擠滿了哈佛科學中心的一個階梯教室，了解他們的繼任者是誰。

哈佛大學物理學教授馬修·D·施瓦茨長期以來一直是智能人工智能的倡導者，智能人工智能能夠自主行動、推理，并在理論物理學領域開展研究生水平的研究。

“我想說，10年后，我們就會退出這個領域。我的意思是，到時候我們將從事一些我們無法理解的事情。而我們所做的其中一部分工作就是翻譯和撰寫科普書籍，”施瓦茨對聽眾說道。

這一宣布并沒有讓在場的多少人感到意外——施瓦茨多年來一直預言人類物理學研究的終結。但現在，所有人都開始關注他了。

今年一月，施瓦茨發表了一篇題為“利用有效場論對C參數蘇達科夫肩進行重求和”的論文。摘要的最后一行寫道：“所有計算、數值分析和論文撰寫均由Anthropic公司開發的AI助手Claude在物理學家的指導下完成。”

施瓦茨在3月份發表于Anthropic網站的一篇博文中描述了這一過程。他僅用文字提示指導這個大模型，就在兩周內完成了他所說的如果由一位普通研究生指導則需要兩年才能完成的工作。

施瓦茨稱論文本身的內容“并不十分令人興奮”，而且“只有二年級研究生的水平”，但在他看來，這篇論文展現出的能力有可能徹底改變一個受人類思維限制的領域。

“人類的能力是有限的，”他說。“我們只關注我們能夠理解的事物，但這并不一定能幫助我們理解宇宙。”

但并非所有人都對人工智能的科學能力深信不疑。

紐約大學天體物理學家大衛·W·霍格表示，物理學（他稱之為“人類對物理世界的理解”）需要比人工智能目前所能達到的更多的創造力和獨創性。

“大家都興奮得不得了，好像世界末日來臨了似的。其實，網絡搜索只是稍微改進了一下而已。然后大家就都覺得，‘哦，我們創造了一個有意識、有智慧的生命體，’”霍格說道，接著又補充道，“它實際上什么都沒做。只是，大家都覺得它會做點什么。”

“這需要大量的人工監督”

人工智能在理論科學中的應用范圍很廣，從簡單的計算和編碼（這些已經融入到工作流程中）到依賴大型語言模型作為類似合作者的工具。

哈佛大學物理系研究生亞歷山大·米歇爾表示，雖然他使用 OpenAI 的 Codex 環境進行一些編碼和其他可以快速、準確地驗證輸出的任務，但他的團隊對理論物理問題的計算大部分仍然是手工完成的。

“如果你有能力快速生成可驗證的內容，那么這將極大地提高生產力，”他說。“如果你指的是用它來生成更難驗證的內容，我會說目前它的產量有所提高，但對于很多這類任務來說，驗證成本仍然很高。”

然而，有些人已經將大型語言模型（LLM）的應用拓展到了編碼和計算之外。奧斯卡·巴雷拉是施瓦茨高能理論研究小組的一名二年級物理學研究生，他收到了施瓦茨贈送的Claude訂閱。現在，他用它來總結論文中的背景信息，并測試解決研究問題的不同方法。巴雷拉說，在人工智能出現之前，他經常需要花費時間學習一些以后再也不會用到的知識，才能理解論文中的步驟。

現在，他利用 Claude 將自己當前的理解水平與正在閱讀的論文聯系起來。由于人工智能會生成注釋來填補他理解上的空白，他只需通讀一遍就能理解一篇復雜的論文。

數學教授 Lauren K. Williams '00 也利用人工智能的偵察能力，例如檢查她想在證明中使用的語句是否已被發現。

她表示，如果由經驗豐富的人來操作，這種方法可以大大加快學習速度。但收益并非總是凈收益。她最近讓大模型總結她正在學習的一個主題，總結的內容看起來不錯——直到她開始仔細審查為止。

“我最終花了很多時間檢查它是否真的引用了存在的論文和定理，”她說。

威廉姆斯稱驗證過程很無趣，并解釋說，如果從一開始就由她自己來完成這項工作，那將會更“有趣”和“有意義”。

她對LLM的其他能力也很感興趣。通過“首個證明項目”，她正與一個數學家團隊合作，評估人工智能目前的研究級推理能力。今年二月，他們要求幾個商業人工智能模型證明10個命題，這些命題均來自他們自己尚未發表的、涵蓋多個數學領域的研究。在沒有額外提示的情況下，LLM成功解決了其中兩個命題。

物理學教授席尹發現，人工智能不僅僅是一個高效的工具——它讓他能夠完成如果沒有人工智能的計算能力，他甚至都不會考慮承擔的工作。

“這需要大量的人工監督，”尹說。“但對我來說，速度仍然提高了至少100倍，幾周就能寫出我以前需要10年才能寫完的代碼。”

但對于紐約大學天體物理學家霍格來說，真正有意義的研究需要比他所看到的大模型所做的——從現有文本中重復利用文本——更具創造力。

他說：“我們做研究的時候，總是會進入一些無人知曉的領域。所以，我們不僅僅是在計算一些東西，而是在做一些前所未有的事情。我們不知道接下來會發生什么。”

然而，尹并不認為這是一種限制。“這實際上是一個計算問題，”他指出，LLM 訓練所依賴的數據量“極其龐大”，這是人類無法憑直覺理解的。“我個人認為，沒有任何一種人類的智力能力是人工智能無法復制的，”他說。

“現在是當科學怪人的最佳時機”

人工智能能力的快速發展引發了人們對科學出版的未來以及為確保已發表論文的有效性而應制定的規范的疑問。

如今，已完成的物理研究通常以論文的形式發表在存檔網站上，詳細介紹研究過程，論文會一直保留在那里，直到由主要由志愿者組成的專家進行同行評審，然后發表在期刊上。

擔任多家期刊編輯的威廉姆斯表示，隨著人工智能加快研究產出，目前積壓的未經審閱和未發表的論文數量將繼續增長。

“突然之間，所有這些做志愿者工作的人的工作量都增加了三倍甚至十倍。這真是個問題，”她說。

施瓦茨表示，研究人員必須繼續對其發表的論文承擔全部責任，并對人工智能的使用保持完全透明，但要防止人工智能的粗制濫造，就需要學術界克服“發表論文的壓力”。

“你想寫一篇五年后人們還會記得的論文。這比寫500篇沒人記得的論文重要得多，”他說。

2019 屆天體物理學博士后研究員 Rodrigo Córdova Rosado 認為，困難之處還在于 LLM 看起來多么可靠，即使它們是錯誤的。

他說：“人們放松警惕的門檻已經大大降低了。這些工具讓人覺得它們解決了問題，但實際上它們很可能并沒有，甚至可能把你引向歧途。要負責任地使用這些工具，需要大量的智慧和經驗，而這些智慧和經驗只能通過反復試驗才能獲得。”

2011 年畢業于范德比爾特大學的物理學教授 Alex Lupsasca 現在就職于 OpenAI，他認為這不是人工智能本身的問題，而是研究人員在使用人工智能時如何履行個人責任的問題。

他認為提供LLM的公司負有一定責任，但他將這種情況比作開車沖下懸崖——“除非汽車有缺陷，否則這在某種程度上是你的錯；你只是沒有正確使用汽車，”他說。

盧普斯卡表示，人工智能有可能加劇虛假信息的傳播，但虛假信息的存在并不是一個新問題。

“理論物理學領域一直不乏異想天開的怪人。的確，現在正是當個怪人的最佳時機，就像現在正是當個嚴肅研究人員的最佳時機一樣，”他說。

一些研究人員甚至認為，科學出版方式將會發生而且應該發生根本性的變革。自17世紀以來，科學家們一直在科學期刊上發表論文，如今隨著互聯網的興起，這些期刊也實現了數字化。一些人希望并期待這一過程能夠改變。

“早在人工智能出現之前，我就覺得發表論文并不是組織科學知識的有效方式，”尹說。“當我瀏覽論文庫時，感覺它就像一個街頭市場，而不是一座宏偉的建筑。我認為在人工智能時代，或許會有更好的架構。”

然而，尹并沒有提出替代方案。

斯坦福大學物理學教授齊曉亮在人工智能智能體演講的同一天發表了一篇新論文，概述了一種可以取代傳統論文形式的設想。齊教授提出用人工智能智能體來替代傳統論文。他寫道，這些交互式智能體“能夠解釋研究背景、所用方法、推理過程、中間決策以及相關的工具接口”。

我們為什么要從事天體物理學？

關于理論的根本目的以及大學如何實踐理論的分歧，加劇了人們對人工智能時代科學應該如何變革的不同看法。

霍格表示，雖然他不介意使用人工智能來編寫代碼，但他重視學習和協作中的人際互動，而大語言模型（LLM）無法提供這種互動，因為它“無法從你與他們的互動中學習”。

“我們為什么要從事天體物理學？我認為主要是為了幫助人們，培養人才，教人們學習知識，并將知識傳播給更多的人，”他說道。“很多人認為，如果某個機構發表論文的速度比其他機構快，那么它就是更優秀的科學家。但我認為這是對科學本質的誤解。”

盧普薩斯卡認為，物理學的意義在于試圖理解我們在宇宙中的位置以及世界的運行方式，所以“你如何弄明白它其實并不重要，”他說。

“關鍵在于找到解決辦法，”他補充道。“任何工具都可以用。”

尹表示同意，他說：“如果人工智能能夠找到答案并有辦法驗證答案，我會非常高興。”

“解決方案是否是我自己提出的并不重要。”他補充說，考慮到他認為人工智能現在“已經達到了合格研究生的水平”，這也不是不可能。

但霍格表示，他的同事們將人工智能的能力與研究生的能力相提并論，首先就誤解了研究生教育的目的。

“我確信有一點是錯誤的，那就是人們會說，‘哦，和克勞德交流比和研究生交流更有用、效率更高，’”他說。“我對此深表反對，要考慮的是效率更高對誰更有利？效率更高體現在哪些方面？”

霍格斯并不把他的研究生視為下屬，而是科學知識的繼承者。“我希望他們學習新知識，我希望他們成長，我希望他們掌握新技能，我希望他們了解宇宙。”

另一方面，施瓦茨認為人工智能對于物理學的下一個重大發現至關重要，也是加速學習的一種方式。

“它的主要作用就是幫助每個人更快地學習，”施瓦茨說。“我們都會變得非常聰明。”

羅德里戈表示，人工智能能夠解放研究人員的時間，讓他們專注于創造性思維，這雖然是一個“充滿樂觀”的世界，令人“驚嘆”，但他擔心人工智能會讓人輕易地超越學習所必需的努力。

他說：“我希望我們所有人都能認真思考，用這些工具進行科學研究意味著什么，以及我們如何以負責任的方式使用這些工具，從而促進更好的科學發展，而不是削弱我們進行科學研究的能力。”

除了人工智能給教育帶來的挑戰之外，霍格表示，在想象中的未來，人類只是翻譯大模型的研究成果，而不是自己進行研究，“物理學將會消亡”。

“為什么要學物理？你根本不需要學物理，”霍格斯說。“你完全可以在下班開車回家的路上聽人工智能生成的播客，里面就講得很清楚了。”

— 雜志撰稿人 Maria Borrell Ferrero 的聯系方式為maria.borrellferrero@thecrimson.com。

— 可通過asher.montgomery@thecrimson.com聯系特約撰稿人 Asher J. Montgomery 。