全文 2725 字 | 閱讀 7 分鐘

之前我們聊過AI時代的決策、授權、激勵。今天，我們把目光投向一個更深層的問題——價值觀。當算法可以自主推薦、自動決策時，誰來為算法的選擇負責？這篇文章，我們回到管理的常識，聊聊AI時代管理者的價值底線。

最近走訪企業，聽到一些讓人不安的反饋。

一家公司上線了AI推薦系統，轉化率提升了，效率也上去了。但沒過多久，客服部門收到不少老年用戶的投訴，說算法推薦的金融產品他們根本看不懂。還有一線員工反映，AI評分系統好像對某些背景的同事“不太公平”。技術團隊說“這是算法自己學出來的”，業務團隊說“我們只管提需求”。管理者問：“那誰對這個結果負責？”沒有人回答。

算法有沒有偏見？數據采集是否越界？效率最大化是不是以犧牲某些群體為代價？這些問題的答案，不在代碼里，在管理者的價值觀里。

要理解AI時代管理者的價值責任，先得回到管理的基本常識。

在《管理的常識》里，我反復講過：管理只對績效負責。但這個“績效”不是狹隘的財務指標，而是包括顧客價值、員工成長、社會責任在內的綜合成果。到了AI時代，這個內涵尤其需要被重新強調。過去，績效的價值維度可以通過管理者的日常判斷來兜底；今天，當算法在執行管理職能時，價值判斷必須前置到設計階段。

管理者的核心責任是做選擇，而不是做計算。計算可以交給系統和模型，但選擇——什么是正確的、什么是有價值的、什么是不能做的——只能由人來完成。今天，管理者面對的不再是信息不對稱，而是算法推薦和系統建議，但選擇的本質沒有變：在不確定中做出有原則的判斷。

管理的底線是“不作惡”，但更高的要求是“向善”。不傷害顧客、不欺騙利益相關者，這是底線。好的管理者還會問：我們創造的價值可持續嗎？我們的增長有沒有以犧牲某些人為代價？過去，“向善”體現在產品和服務上；今天，它還必須體現在算法的邏輯里。

這些原則不是AI時代的新發明。無論技術怎么變，管理者的核心責任始終是價值判斷，而不是技術實現。

以前，你的價值觀決定了企業的文化；現在，你的價值觀決定了算法的靈魂。這句話我在CHO100論壇上說過，今天想再重復一遍。

數字化階段，價值觀問題主要是“人的問題”——員工違規、管理者腐敗、產品質量問題。誰做的，誰負責，責任歸屬相對清晰。

到了智能化階段，事情變得復雜了。AI系統開始參與決策，責任的鏈條變長了。具體來說，管理者會面臨幾個新情況。

第一，算法偏見被技術“合法化”了。過去，一個人的偏見會被識別、被糾正。但當偏見嵌入算法時，它以“科學”“客觀”“數據驅動”的名義出現，更難被質疑。比如，一個招聘算法可能因為歷史數據中某類人群的錄取率低，就自動降低他們的評分。這不是技術問題，而是管理者在設計階段沒有提出“這個算法是否公平”的追問。

第二，責任歸屬被技術“模糊化”了。當算法做出一個傷害性決策時，技術團隊說“我們只是實現需求”，業務團隊說“我們只是提出目標”，管理者說“系統是這么建議的”。責任在傳遞中被稀釋了。管理者要做的，不是在事后追問，而是在事前界定。

第三，效率最大化可能以價值為代價。AI天然追求“最優解”，但這個“最優”是誰定義的？如果只定義“轉化率最大化”，算法可能會向弱勢群體推薦高風險的金融產品；如果只定義“點擊率最大化”，算法可能會推送極端內容。這不是算法的錯，而是管理者沒有在目標函數中嵌入價值約束。

這些變化指向同一個結論：AI時代，價值觀責任不能外包給技術團隊，它是管理者的核心職責。

基于上面的分析，我把管理者守住價值底線的關鍵思路，整理成三個方面。

第一，算法的目標，靠人設定。

有人說算法是“自主學習”出來的，決策是“客觀”的。這是個誤解。算法的學習目標、訓練數據、評價標準，都是人設定的。每一次推薦、每一個判斷，背后都是人的選擇。

管理者需要問自己：在算法設計階段，我們有沒有提出價值判斷的問題？這個算法的目標是什么？它會不會傷害某些群體？我們用什么標準來衡量“好”與“壞”？這些問題，技術團隊回答不了，只有管理者能回答。

第二，安全的邊界，不止是技術防護。

很多人把AI安全理解為“防止系統被攻擊”“防止數據泄露”。這些當然重要。但安全不僅是數據安全，更是價值觀的安全——防止算法放大偏見、侵蝕信任。

管理者需要問自己：我們的算法是不是在強化社會的偏見？是不是在傷害弱勢群體？是不是在透支用戶的信任？這些問題，防火墻解決不了，加密技術解決不了。它們需要管理者在價值觀層面做出判斷。

第三，績效的內涵，不能只看財務指標。

管理只對績效負責。但在AI時代，“績效”的定義必須擴展。它不只是收入、利潤、市場份額，還包括顧客是否被善待、員工是否被尊重、社會是否因為我們的存在而變得更好。

管理者需要問自己：我們的算法優化目標，有沒有包含價值維度？如果只優化轉化率，算法可能會“算計”用戶；如果只優化點擊率，算法可能會“投喂”極端內容。管理者要在目標函數里明確：什么是不可以做的，什么是必須堅持的。

技術團隊可以告訴你“這個目標函數能最大化轉化率”，但他們無法告訴你：轉化率最大化和用戶長期利益之間，應該如何平衡？短期增長和品牌信任之間，應該如何取舍？

這些判斷，只能由管理者做出。因為管理者掌握著公司的使命、價值觀、長期戰略。AI不知道什么是“好”，它只知道什么是“被設定的目標”。設定這個目標的，必須是管理者。

當算法做出一個傷害性決策時，技術團隊可以推給算法，業務團隊可以推給技術，但最終承擔責任的，必須是管理者。“集體決策，個人負責”這個原則，在AI時代不但沒有過時，反而更加重要。

管理者需要成為“數字文明的立法者”。算法正在影響越來越多的人——誰被推薦、誰被忽略、誰被信任、誰被懷疑。這些決策的邏輯，本質上是一種“數字法律”。制定這個“法律”的，不是程序員，是管理者。

回到開篇的現象。算法越來越精準，用戶對企業的信任為什么反而越來越薄？

因為算法優化的目標，往往是短期效率——點擊率、轉化率、停留時長。這些指標上去了，但用戶感受到的是“被算計”“被投喂”。當用戶發現算法推薦的每一個內容都是為了讓自己多花時間、多花錢，信任就開始流失。

AI時代，管理者不能只問“算法準不準”，還要問“算法對不對”。精準不是唯一的標準。公平、透明、可解釋、尊重用戶——這些價值維度，同樣重要。

沒有價值觀的算法，跑得越快，風險越大。

（本文完）

在你的企業里，有沒有遇到過算法決策引發價值觀爭議的情況？你是怎么在效率和價值之間做選擇的？歡迎在評論區聊聊。

本文收錄于“春暖花開”公眾號【數智新解】欄目。轉載請聯系授權。

微信 ID：chunnuanhuakai-cch