當算法越來越懂你的喜好，當AI能秒解難題，當虛擬與現實邊界日漸模糊，我們是否思考過：AI技術究竟在將我們帶向何方？

文|朱 葛

聯想諾諦（北京）智能科技有限公司業務總監，《科學畫報》編委會人工智能專委會常務委員。

01.

AI究竟在做什么

人工智能（AI）可以被理解為一個能夠自我學習的工具。它需要攝入海量的數據作為“素材”（如圖片、文字、聲音），并從中尋找相似的規律，再按規律給出結果去解決問題。例如，相冊能自動分辨人臉，照相機會自動美化照片，作業軟件會提示錯因，導航軟件能估算到達時間，翻譯軟件能把外語換成母語，視頻平臺會推送用戶可能感興趣的內容……它的基本原理遵循“數據—模型—結果”的基本邏輯：系統通過輸入數據來訓練構建預測模型，再將該模型運用于新場景去輸出最終的結果。這一機制使其在圖像識別、路徑規劃、語言翻譯及內容推薦等領域展現出強大能力。

然而，這種強大的能力伴隨內在風險。由于AI的認知完全源于其所攝入的數據，若這些數據本身就存在一些缺陷，算法便會將這些缺陷系統性地復制并放大，這就是AI技術內在的雙刃劍特性。在AI技術飛速進步的當下，我們的生活會因此“變糟”嗎？我們又該如何應對？

02.

最容易“變糟”的三件事

在AI快速滲透日常的今天，人們最常感受到的“變糟”風險往往集中在3個層面，即信息失真、深度學習能力退化、自身注意力被分散。這些現象并非憑空出現，而是因為AI在帶來方便的同時，也會把錯誤、偏見與誘惑一并放大。如果缺少辨別、思考和自我管理，這些小問題便可能逐漸積累，最終演變為真正的困擾。

首先，在信息層面，AI技術模糊了真實與虛構的邊界。AI生成的圖像、音頻和新聞之所以具有迷惑性，是因為其算法能自動“補全”細節并“抹平”不協調之處，使偽造內容在視覺或聽覺上顯得順理成章。要想不被其誤導，我們需要建立“多重求證”的習慣：同一條消息至少找兩個獨立來源進行求證，看清發布時間、發布者和是否有權威機構背書。同時，我們可以從“偵探視角”審視內容細節，如影子方向、反光與倒影是否一致、手指數量是否正常、文字標識有無變形。此外，對明確標注“由AI生成”的內容應保持高度警覺，盡量遏制虛假信息的傳播。

其次，在學習層面，AI工具誤用可能導致深度學習能力的退化。有人把寫作文、做題當成“索取標準答案”的過程，雖能短期內提升效率，卻繞過了知識內化所必需的“回憶—表達—糾錯”認知路徑，導致知識難以轉化為長期記憶。為此，我們倡導“三步學習法”：先獨立思考并寫出草稿，再借助工具查缺補漏并對比多種思路，最后親自復核并用自己的語言重述答案。同時，應明確人機協作的邊界，將AI工具用于資料搜集、提綱擬定，而核心解題思路與最終答案應由本人完成，并在作業中完整呈現思考與修訂的痕跡，使思維過程可見、可評。

最后，在注意力層面，個性化推薦機制可能損害專注能力。個性化推薦如同一條永不停歇的傳送帶，系統如果追求“停留時間”，就會不斷推送同質化的內容，讓大腦頻繁獲得即時獎勵，卻逐漸喪失專注能力。長此以往，不僅課堂專注度下降、睡眠質量受影響，情緒調控也會更為困難。我們可以通過“時間與場景公約”來對沖這一趨勢。例如：餐桌上不看屏，睡前30分鐘停止看手機，臥室不放置電子設備；處理重要任務時開啟“勿擾模式”，并結合“番茄工作法”訓練專注力；在需要時，可啟用青少年模式，借助系統功能合理設置使用時長、啟用夜間護眼與內容分級，輔助實現自律。

03.

為什么會“變糟”

之所以會“變糟”，從技術本質看是因為AI缺乏價值判斷的能力。AI被賦予了強大的“放大”能力，卻未被賦予相應的價值判斷力。它忠實地執行數據中的規律，無論這些規律是真理還是偏見。目前，AI技術的迅猛發展與相應社會規范的建設滯后形成了巨大落差。例如，使用說明寫得含糊、年齡分級不夠詳細、標注“AI合成/生成”的位置不明顯、真假識別與信息素養教育跟不上等，讓錯誤信息、沖動轉發和過度使用有了可乘之機。

更深層的原因在于核心目標偏離了正軌。許多系統被設定去追求“停留時間”和“點擊量”，好比訓練寵物只盯零食而不顧營養。為了讓人多看一會兒，系統會源源不斷地推送更相似的內容，即便代價是犧牲信息的真實性、觀點的多元性與用戶的心智健康。因此，化解“變糟”風險的核心在于實現“價值對齊”——將AI系統的設計目標與運行規則重新校準到與人類社會的長遠福祉相一致的方向上。

04.

把“更糟”扭轉為“更好”的三把鑰匙

要化解AI帶來的風險，將“更糟”扭轉為“更好”，不能依賴單一措施，而需要一個由個人與家庭、學校與教師、平臺與社會構成的協同治理體系。這三者如同三把鑰匙，必須合力使用，才能同時鎖定“便利”與“安全”。

第一把鑰匙是個人與家庭。面對AI，我們首先要成為學習的主人，堅持“三步學習法”。在行為習慣上，建立“時間與場景公約”，以保護專注力與身心健康。在數據安全上，需秉持最小化原則，謹慎上傳人臉、住址等敏感的生物與位置信息，對那些聳人聽聞的消息，則要養成多查證的習慣，不做謠言傳播的節點。

第二把鑰匙是學校與教師。在教學規范方面，應正式將“人機協作”納入教學流程，明確允許學生利用AI工具輔助構思，但必須同步提交完整的思考過程草稿、多方案對比及最終的訂正反思，從而使學習過程可見、可評估。在能力構建方面，則需要開設系統的信息素養課程，講清真假識別、引用標注與版權邊界，讓“會用、敢用、善用”成為基本能力。

第三把鑰匙是平臺與社會。平臺方需要清晰標識AI合成內容，完善兒童模式與限時機制，優化推薦算法，從單純追求用戶“停留時間”轉向促進內容的多樣性、真實性與公益性。全社會亦需共同努力，將“安全、真實、公平、健康”凝練為主流價值，并將其作為衡量技術發展的核心標尺。

三把鑰匙合力使用，便利得以保留，誘惑被有效降低，“更糟”就能一步步轉成“更好”。

*本文刊登于《科學畫報》2025年第12期人工智能專欄，更多相關內容歡迎訂閱。

訂購2026年《科學畫報》