編者

現在人工智能（AI）可以說是全民熱議的話題，從普通百姓用AI寫文案、做圖片，到企業布局大模型，大家對AI的期待越來越高。那么，AI是萬能的嗎？普通人用AI，又該如何規避風險呢？日前，圍繞AI的安全與發展等熱門話題，本刊采訪了計算機安全專家王克先生。王克先生長期從事網絡安全、人工智能安全研究，曾參與多項國家級計算機安全標準的制定。

王克

王克，清華大學博士，終身享受政府特殊津貼，原軍隊某研究所所長。從事密碼工程、信息安全研究40年，工信部、公安部、科技部、軍隊等專家庫成員。

訪談者：鄭挺穎（《中國科技信息》執行主編）

受訪者：王克（中關村網信聯盟TCOSCA主任）

05

AI與機器人的融合：

前景與局限

提問

現在很多企業都在推動AI與機器人

的融合，比如人形機器人、自動駕

駛汽車、智能服務機器人等，您認

為這種融合的前景如何？面臨哪些

技術瓶頸？

回答

AI與機器人的融合是未來的發展趨勢，但短期內很難實現大規模的商業化應用，其面臨的技術瓶頸非常多。從技術邏輯來看，機器人與AI的融合可以分為兩類：一類是“規避交互型”機器人，比如自動駕駛汽車，其核心是“不與人類和環境發生不必要的接觸”，盡量規避風險；另一類是“主動交互型”機器人，比如人形機器人、服務機器人，其核心是“主動與人類和環境發生交互”，完成特定的任務。這兩類機器人面臨的技術挑戰完全不同，其中主動交互型機器人的難度要大得多。

首先說“規避交互型”機器人，以自動駕駛汽車為例。現在在開放道路上的自動駕駛技術大部分在3級（有條件自動駕駛）以下，在封閉場景（比如礦山、碼頭、園區）可實現 4 級（高度自動駕駛），在開放道路上的自動駕駛應用面臨諸多難題，且不僅僅是技術難題。

一是法律責任難題——一旦發生交通事故，責任該由誰承擔？是車企、AI算法提供商，還是用戶？目前全球的法律界定仍不確定，這成為自動駕駛商業化的一大障礙；二是AI數據窮盡難題——開放道路的場景是無限的，比如突發的自然災害、行人的違規行為、其他車輛的異常操作等，AI無法通過訓練數據覆蓋所有場景，一旦遇到未訓練過的場景，很可能會做出錯誤的決策；三是倫理決策難題——在不可避免的碰撞事故中，AI應該優先保護乘客，還是優先保護行人？這種倫理困境沒有統一的答案，也很難通過算法來解決。

再來說“主動交互型”機器人，比如人形機器人。這類機器人需要具備感知、決策、執行等多種能力，要能夠理解人類的指令，要懂得物理世界，適應復雜的環境，完成精細的操作，其技術難度遠超自動駕駛汽車。舉個簡單的例子：讓人形機器人給老人喂飯，它需要先識別老人的位置、姿勢，然后拿起勺子、舀起飯菜，調整力度和角度，送到老人嘴邊，在這個過程中還要看懂老人的表情，任何一個環節出現錯誤都可能導致事故。而現在的技術水平，連讓機器人穩定地拿起不同形狀、不同重量的物體都很困難，更不用說完成復雜的交互任務了。另外，人們為什么要追求人形機器人？這也涉及人性問題。

從應用場景來看，主動交互型機器人的商業化，未來還是有機會的。但我認為會從特定領域開始，比如醫療護理、工業生產、家庭服務等，在這些場景中，機器人的任務相對單一，環境相對可控，更容易實現技術落地。比如醫療領域的康復機器人，能夠幫助殘疾人進行康復訓練，任務相對固定，環境也比較簡單；工業領域的協作機器人，能夠與工人配合完成簡單的裝配任務，環境可控，風險較低。隨著技術的成熟，他們可以逐步拓展到更復雜的場景。

提問

有觀點認為，未來人形機器人會

像手機一樣普及，成為每個人的

“私人助理”，您認同這個判斷嗎？

回答

我認為短期內很難實現，長期來看是有這種可能性，但需要技術的重大突破。手機之所以能普及，是因為它解決了人類的核心需求——溝通與信息獲取，而且具備便攜性、低成本、高可靠性等特點。人形機器人要實現普及，需要滿足三個條件：一是功能實用，能夠真正解決消費者的核心需求，比如家庭清潔、老人照顧、兒童陪伴等，能夠真正帶來情感陪伴，而不是僅僅作為一個“科技玩具”；二是價格親民，現在的人形機器人成本動輒幾十萬元，普通消費者根本無法承受；三是安全可靠，能夠確保在與人類交互過程中不會造成傷害，具備完善的故障處理機制。

06

AI監管：

如何平衡安全與發展

提問

隨著AI技術的快速發展，監管和倫

理問題越來越受到關注，您認為應

該如何構建AI的監管體系，平衡安

全與發展的關系？

回答

AI的監管是一個復雜的系統工程，需要兼顧安全與發展，不能只強調安全而限制創新，也不能只追求發展而忽視安全。構建AI監管體系，應該遵循“技術中立、風險導向、分級分類、協同治理”的原則。

首先，監管要堅持“技術中立”——不能對特定的技術路線或企業進行歧視性監管，要為所有AI企業提供公平的競爭環境。監管的核心是規范AI的應用行為，而不是限制技術的發展方向。比如對于生成式AI，監管的重點應該是確保生成內容的合法性和安全性，而不是禁止生成式AI的研發和應用。

其次，監管要堅持“風險導向”——根據AI應用的風險等級采取不同的監管措施，對于高風險應用（比如自動駕駛、醫療AI、金融AI），要實施嚴格的準入制度和安全評估；對于中低風險應用（比如AI寫作、AI修圖），可以實施稍微寬松一些的監管，主要依靠企業自律和市場機制。這種差異化的監管方式，既能防范重大安全風險，又能為技術創新留足空間。

再次，監管要堅持“分級分類”——根據AI的應用領域、影響范圍、風險程度等因素，對AI進行分級分類管理。比如可以將AI分為“通用AI”和“專用AI”，通用AI的影響范圍廣、風險程度高，需要更嚴格的監管；專用AI的應用場景單一、風險程度低，可以實施更靈活的監管。同時，要建立AI安全評估標準，明確不同級別AI的安全要求和評估方法。

最后，監管要堅持“協同治理”——AI監管不是政府的獨角戲，需要政府、企業、行業協會、科研機構、公眾等多方參與。政府要制定法律法規和監管政策，明確各方的權利和義務；企業要落實主體責任，加強內部安全管理和倫理審查；行業協會要制定行業標準和自律規范，引導行業健康發展；科研機構要加強AI安全與倫理研究，為監管提供技術支撐；公眾要參與監督，對AI的不良應用進行舉報和抵制。

當前，全球都在加快AI監管和倫理體系的建設，歐盟出臺了《人工智能法案》，美國發布了《國家人工智能研發戰略計劃》，中國也出臺了《生成式人工智能服務管理暫行辦法》，這些政策的出臺為AI的健康發展提供了保障。未來，隨著AI技術的不斷進步，監管和倫理體系也需要不斷完善，確保AI始終在安全、合規，不違背倫理的軌道上發展。

提問

最后，想請您給普通公眾提一些建

議，如何更好地應對AI帶來的機遇

和挑戰？

回答

對于普通公眾來說，首先要理性看待AI，既不要過度恐慌，也不要盲目崇拜。AI是一種工具，不是洪水猛獸，它能幫助我們提高工作效率、改善生活質量，但不能替代人類的核心能力。其次，要主動學習AI相關的知識，了解AI的基本原理和應用邊界，提高自己的數字素養，這樣才能更好地利用AI工具，避免被AI誤導。最后，要保護好自己的隱私和數據安全，在使用AI工具時，謹慎上傳敏感信息，選擇合規的服務商。

編輯：柯欣

審核：王汝霖

關注我們了解更多資訊

《中國科技信息》雜志社

主管單位：中國科學技術協會

主辦單位：中國科技新聞學會

在線投稿平臺：www.cnkjxx.com

新媒體內容合作聯系微信：cnkjxx1989

雜志收錄情況：《中國知網》《中國期刊核心期刊（遴選）數據庫》《中國學術期刊綜合評價數據庫（CAJCED）統計源期刊》《中國期刊全文數據庫（CJFD）》《中國科協、中國圖書館學會（解讀科學發展觀推薦書目）》