編者

現在人工智能（AI）可以說是全民熱議的話題，從普通百姓用AI寫文案、做圖片，到企業布局大模型，大家對AI的期待越來越高。那么，AI是萬能的嗎？普通人用AI，又該如何規避風險呢？日前，圍繞AI的安全與發展等熱門話題，本刊采訪了計算機安全專家王克先生。王克先生長期從事網絡安全、人工智能安全研究，曾參與多項國家級計算機安全標準的制定。

王克

王克，清華大學博士，終身享受政府特殊津貼，原軍隊某研究所所長。從事密碼工程、信息安全研究40年，工信部、公安部、科技部、軍隊等專家庫成員。

訪談者：鄭挺穎（《中國科技信息》執行主編）

受訪者：王克（中關村網信聯盟TCOSCA主任）

03

AI發展歷程：

技術浪潮的輪回與演進

提問

您剛才提到AI經歷了三次熱潮，能

不能詳細講講這幾次浪潮的特點？

回答

這是一個很好的問題，我們通過回顧AI的發展歷程，能更理性地看待當前的技術熱潮。

第一次熱潮是1956年到20世紀60年代末，核心是“邏輯推理”——當時的AI研究主要集中在符號主義學派，認為智能的核心是邏輯推理，通過構建符號系統來模擬人類的思維過程。比如1956年達特茅斯會議（編者：達特茅斯會議于1956年6月18日至8月17日在美國達特茅斯學院舉行，會議聚集了來自數學、計算機科學等領域的30余位研究者，會上首次正式提出“人工智能”術語，標志著該學科的誕生）上，人工智能創始人之一、美國認知科學家馬文·明斯基等人開發的“邏輯理論家”程序，能夠證明數學定理，這在當時引起了轟動。但由于當時的計算機的算力極低，只能處理簡單的邏輯推理，無法應對復雜的現實問題，加上缺乏海量數據的支撐，到20世紀60年代末，AI研究陷入了第一次寒冬。

第二次熱潮是20世紀80年代到90年代末，核心是“專家系統”——這一階段的AI研究轉向了實用化，試圖將特定領域的專家知識整理成規則庫，通過邏輯推理解決實際問題。比如醫療領域的“MYCIN”系統，能夠根據患者的癥狀診斷細菌感染，并給出治療建議。專家系統在特定場景下確實發揮了作用，但存在兩個致命缺陷：一是規則庫的構建成本極高，需要大量專家參與，而且維護難度大——一旦領域知識更新，整個規則庫都需要重新調整；二是適應性太差，只能處理規則庫中包含的問題，遇到新情況就無法應對。到20世紀90年代末，隨著互聯網的興起，專家系統逐漸被更靈活的搜索引擎和數據庫技術取代，AI進入第二次寒冬。

第三次熱潮就是從2016年至今，核心是“深度學習與大模型”——這一階段的突破來自深度學習算法的優化和算力的提升。深度學習試圖模擬人類大腦的神經網絡結構，通過多層神經元的協同運算，能夠自動從海量數據中學習特征，不需要人工構建規則庫。比如在圖像識別領域，深度學習模型能夠自動識別圖片中的物體、場景，準確率遠超傳統算法；在自然語言處理領域，大模型能夠理解復雜的語義，生成流暢文本。

提問

現在的大模型與之前的專家系統相

比，又有哪些進步？

回答

現在的大模型與之前的專家系統相比，進步主要體現在三個方面。

一是數據處理能力更強，能夠處理萬億級的海量數據，覆蓋更多的領域；

二是適應性更好，不需要人工構建規則庫，能夠自動學習新的知識；

三是交互方式更自然，支持語音、文本、圖像等多種輸入方式，輸出結果也更符合人類的語言習慣。

但局限也同樣明顯：首先，大模型缺乏“常識推理”能力——它能處理有數據支撐的問題，但對于需要常識判斷的場景，往往會出現荒謬的錯誤，比如認為“貓可以游泳穿過太平洋”；其次，模型的“黑箱問題”嚴重——深度學習模型的決策過程是不可解釋的，我們不知道它為什么會生成這樣的結果，一旦出現錯誤，很難追溯原因；最后，模型的魯棒性（編者：魯棒性是“robustness”的音譯，在中文中常常也被表達為健壯性和強壯性，總體來說其可以用于反映一個系統在面臨著內部結構或外部環境的改變時也能夠維持其功能穩定運行的能力）不足——對輸入的微小變化可能會產生完全不同的輸出，比如在提示詞中加入一個無關的詞語，AI的回復可能會完全偏離主題。

從圖靈機角度看，專家系統和AI大模型本質是一樣的，都是用戶提問，計算機進行數據+規則計算，生成結果給用戶，只不過專家系統的數據是由行業專家建立，大模型的數據由深度學習算法統計建立，前者靠的是知識和經驗，后者靠的是算力統計。

提問

您剛才提到未來AI的發展方向是

“物理大模型”，能不能詳細解一

下這個概念？它和現在的大模型

有什么本質區別？

回答

物理大模型是美國人工智能學者李飛飛、Yann LeCun（楊立昆）提出的概念，是當前AI研究的一個重要方向，旨在克服現有大模型局限性?，F在的大模型主要處理的是“符號世界”的問題，比如文本、圖像、聲音等抽象信息，而物理大模型的核心是處理“物理世界”的問題，建立物理世界的規律模型。

簡單說，現在的大模型只能回答“是什么”，而物理大模型能夠回答“會怎么樣”。比如你給現在的大模型一張杯子掉在地上的照片，它能識別出“這是一個杯子掉在地上”，但物理大模型不僅能識別，還能預測“這個杯子會摔碎，碎片會散落在哪些位置”。它會學習物理世界的基本規律，比如重力、摩擦力、碰撞力學等，然后根據這些規律對物理事件的發展過程進行模擬和預測。

物理大模型與現在的大模型的本質區別還在于：現在的大模型是“統計驅動”的，依賴數據中的概率關聯，而物理大模型是“規律驅動”的，依賴物理世界的客觀規律。這種區別讓物理大模型能解決現有大模型無法處理的許多問題，比如機器人操作、工業仿真等需要與物理世界交互的場景。未來，物理大模型是否會成為AI的核心形態，實現信息世界與物理世界的深度融合，我們拭目以待。

04

AI對就業的影響：

效率革命與職業重構

提問

現在很多人擔心AI會取代大量的工

作崗位，比如程序員、文案、設計

師、甚至醫生、律師等專業人士，

您怎么看待這個問題？AI對就業市

場的沖擊到底有多大？

回答

這個問題是大家最關心、最容易引發焦慮的。我的觀點是：AI會重構就業市場，但不會導致大規模失業。它會取代部分重復性、規則化的工作，但會創造更多新的就業機會。

首先，我們要明確AI的能力邊界：AI擅長處理“結構化、重復性、規則明確”的任務，而不擅長處理“非結構化、創造性、需要情感交互”的任務。比如程序員的工作中，編寫基礎代碼、修復常見漏洞、優化簡單算法等任務，確實可以被AI替代——現在已經有很多AI編程工具，能夠根據需求自動生成代碼，效率比人工高很多。但程序員的核心工作，比如架構設計、需求分析、技術創新等，AI是無法替代的，這些工作需要對業務場景的深刻理解、對技術趨勢的判斷，以及創造性的思維能力。

再比如醫生的工作，AI可以輔助診斷——通過分析醫學影像、病歷數據，快速識別疾病特征，給出診斷建議，這能大大提高醫生的工作效率。但醫生的核心工作，比如與患者溝通、制定個性化治療方案、處理復雜并發癥等，AI是無法替代的，這些工作需要情感關懷、臨床經驗和倫理判斷。同樣，律師的工作中，案例檢索、合同審核等任務可以被AI替代，但庭審辯護、法律文書起草中的策略設計等核心工作，仍需要律師的專業能力。

從目前的AI大模型應用來看，能夠有效使用AI大模型的人首先要具備相應的專業知識和技能。例如，使用AI編程首先要會編程，使用AI診斷首先要會診斷，使用AI生成法律文書首先要熟悉法律條款，所以從這個角度說，程序員、醫生、律師等職業不會被取代。

從歷史經驗來看，技術進步從未導致大規模失業，而是推動就業結構的升級。工業革命時期，蒸汽機取代了手工勞動，很多手工業者失業，但同時創造了工人、工程師等新的就業崗位；計算機革命時期，打字員、記賬員等崗位減少，但創造了程序員、數據分析師等新的崗位。這次AI革命也一樣，它會淘汰一些低技能、重復性的崗位，但會創造更多需要高技能、創造性的崗位。

從社會整體來看，AI的普及會讓整個社會的生產效率大幅提升，進而推動經濟增長，創造更多的就業機會。比如手機的普及讓攝影行業發生了變革，專業攝影師的數量并沒有減少，反而因為全民攝影的興起，催生了更多與攝影相關的崗位，比如自媒體攝影師、短視頻創作者等。AI也是一樣，它會讓更多人能夠從事創造性的工作，推動社會向更高質量的方向發展。

提問

您認為當前資本市場對AI的炒作是

否存在泡沫？現在很多企業一窩蜂

殺入AI賽道，會不會帶來不好的后

果？

回答

AI目前確實存在一定的泡沫，這是新技術發展過程中的必然現象。每一次技術革命都會引發資本市場的狂熱追捧，從互聯網泡沫到區塊鏈泡沫，再到現在的AI泡沫，本質上都是一樣的——資本對新技術的未來預期過高，導致大量資金涌入，甚至一些沒有核心技術、沒有應用場景的企業也跟風炒作AI概念，這必將造成資源的浪費。

但是，我們判斷一個技術是否存在泡沫，關鍵看它是否有真實的應用場景和商業價值。現在資本市場上的AI泡沫主要集中在“純概念炒作”的企業——這些企業沒有自己的核心技術，只是把AI作為一個噱頭，沒有實際產品和服務，最終必然會被市場淘汰。但對于那些擁有核心技術、有明確應用場景的企業來說，AI帶來的是真實的發展機遇。比如在醫療領域，AI輔助診斷技術能夠提高診斷準確率，降低醫療成本；在工業領域，AI質量檢測技術能夠提高產品合格率，提升生產效率；在教育領域，AI個性化學習平臺能夠根據學生的學習情況制定專屬學習計劃，提高學習效率。這些應用場景都有明確的商業價值和社會價值，不能隨便給它們貼上泡沫的標簽。

從歷史來看，泡沫的破裂也是技術成熟的過程。2000年互聯網泡沫破裂后，中美兩國都有大量沒有核心技術的互聯網企業倒閉，但谷歌、亞馬遜等真正有價值的企業存活了下來，并成為行業巨頭。AI泡沫也是一樣，隨著市場的理性回歸，那些盲目跟風的企業會被淘汰，而擁有核心技術和應用場景的企業會脫穎而出，推動AI技術向更務實的方向發展。

對于企業來說，是否殺入AI賽道仍然需要理性，不能盲目跟風。企業在決定布局AI之前，應該先明確自身的業務需求和核心痛點，判斷AI是否能解決這些問題；然后評估自身的技術能力和資源條件，選擇適合自己的AI發展路徑——對于大多數企業來說，不需要自己研發大模型，通過接入成熟的AI服務、與AI技術公司合作，就能實現業務升級；只有那些有足夠技術實力和資金支持的大型企業，才適合投入研發自己的大模型。

編輯：柯欣

審核：王汝霖

關注我們了解更多資訊

《中國科技信息》雜志社

主管單位：中國科學技術協會

主辦單位：中國科技新聞學會

在線投稿平臺：www.cnkjxx.com

新媒體內容合作聯系微信：cnkjxx1989

雜志收錄情況：《中國知網》《中國期刊核心期刊（遴選）數據庫》《中國學術期刊綜合評價數據庫（CAJCED）統計源期刊》《中國期刊全文數據庫（CJFD）》《中國科協、中國圖書館學會（解讀科學發展觀推薦書目）》