很多智能兒童手表都會有一個“主打”功能——“聆聽”。在家長 app 端發起后，手表端靜默執行，自動接通、保持黑屏、不通知孩子，以此實現遠程觀察孩子狀態。

它甚至不說“我在～”丨Giphy

這大概是兒童智能手表中最受家長歡迎和孩子厭惡的功能了。

如果把“孩子”換成你我，“家長”換做 AI 呢？也許你堅信：目前還沒有任何一個理由戴著一個時刻“監聽”自己的設備。

可如果 AI 給了你一個理由呢？很誘人的那種。

目前各種最火熱的 AI 硬件形態，智能眼鏡、AI 項鏈、錄音飾品等等，都是以收集不同模態“貼身”數據為基礎來實現功能的——訓練大模型形成個人知識庫，讓 AI 拓展更多實用能力。

AI 硬件的隱私問題，已經在激起爭議和焦慮。

還記得幾個月前微軟撤回了 Recall 功能么？Recall 是 Windows 11 上的一項新功能，通過對用戶 PC 不斷截圖——已經刪除的電子郵件會被保存，無痕瀏覽的網頁會被截取，并制作成個人數據庫。再加上 Copilot，PC 就能變得更“好用”。

漏洞很快就被發現了——雖然用戶數據被保存在本地設備上，黑客還是能通過惡意軟件遠程訪問、竊取到數據。

并不用“物理打開”你的電腦丨Giphy

AI 時代，如此多的個人數據在采集、保存、訓練、輸出的過程中要保證安全，對企業來說是前所未有的挑戰，移動時代的隱私保護實踐，或許并不再適用。

這個問題，比我們想象中要復雜得多。

互聯網時代的遺患

第一層的恐慌和懷疑，來自于本地和云端的拉扯。

今年春季 WWDC 上，蘋果官宣與 OpenAI 合作的消息之后，馬斯克立刻在 X 表示上“強烈反對”，并將其形容為“creepy spyware”。

i am watching you丨Giphy

OpenAI 被罵得也不算冤——去年 3 月，ChatGPT 流行正盛時，就發生過一起個人數據泄漏危機。不少用戶在社交網絡反饋，在 ChatGPT 的聊天記錄欄中出現了他人的聊天記錄，一些人甚至能看到活躍用戶的姓名、電子郵件地址、支付地址、信用卡號等私密信息。

剛剛為 AI 應用開始狂熱的用戶開始認真地擔心起來：云端大模型的隱私泄漏和數據安全到底會成為一個多么嚴重的隱患？

當下對于 AI 隱私安全的討論，更多是上一個互聯網時代延續下來的“焦慮”——用戶個人信息和交互數據在云端存儲并用于進一步的訓練，這是否會加劇隱私泄漏的風險。

2014 年，黑客利用 iCloud 安全機制的漏洞，撞庫盜取了賬號，流出了一些好萊塢女星照片；2018 年，“劍橋分析”事件曝光，一個 Facebook 上的第三方應用，通過獲取的用戶社交數據構建了服務于精準投放政治宣傳的算法，進而影響選民的投票行為；2021 年，國內一家電商網站被指，在獲得系統照片的權限后，刪除了“緩存在云端”的照片，讓用戶以為平臺遠程操作了本地設備……以及各種推薦算法和個性化廣告等，屬于上一代決策式人工智能對于用戶行為數據的依賴，“天啊，它給我推的這個內容就是我剛剛聊的，我被監聽了……”

在“更好的用戶體驗（也包括更精準的內容投放）”和“更透明安心的隱私保護”之間，當用戶經歷了天平搖擺的從左到右，“逐漸覺醒”的過程，也開始步步倒逼廠商采取更嚴格的隱私策略。

一些廠商做法是把盡量多隱私數據和運算直接留在硬件本地（代表是蘋果，如果你還記得當年 CES 場外蘋果揶揄安卓的經典廣告語）；以及利用差分隱私，聯邦學習等技術手段，保障調用數據的隱私和安全，比如華為做個人音樂推薦時用了差分隱私，原始個人數據不上云，在云端進行差分后數據的統計分析。

蘋果廣告丨India Today

傳統的隱私計算多是在算法層開展工作，但是，大模型從訓練、輸出到能力涌現是一個“黑盒”，不透明、無邊界、不可解釋，對于以前的基于可解釋、清晰、可控的技術路線的隱私計算方法提出了全新挑戰。

這讓很多智能手機廠商都在加碼“端側模型”的概念。去年底，驍龍 8 Gen3 發布，實現了在“端側”運行 100 億參數大模型，為了強調“本地”芯片能力，在演示 0.6 秒生成圖像時，還將手機開啟了飛行模式。

今天，用戶大部分最為關鍵的個人數據都是在手機上產生的，日歷、待辦事項、筆記、照片、短信等。手機廠商一致認為，基于這些數據生成“個人 AI 知識庫”的過程，也要留在本地，才能保證私密安全。

設個密碼啥的，沒用丨Giphy

AI 時代，更難的是對于“數據邊界”的界定。

要自主，還是要自動？

“隱私意味著用戶要知道他們在簽署什么。條款應當用清晰易懂的語言，反復強調重點。我對這件事很樂觀，我相信用戶是聰明的，有些人愿意分享更多數據。但你要問他們，每一次都問，獲得明確的授權，讓用戶準確地知道你用他們的數據干了什么。”

這是 2010年 iCloud 上線前夕，喬布斯與 Walt Mossberg 有過的一段對隱私的精彩論述。并且這段論述，在之后十幾年時間里，成為乃至全行業的隱私保護宗旨。

iOS 10 開始，當 iPhone 要獲取用戶數據和傳感器權限（比如藍牙、通訊錄、定位、麥克風、日歷、照相機等），都會彈窗進行詢問，用戶也可以在設置里進行精確管理；iOS 14.5 以來，當 app 需要跟蹤用戶活動時，都會彈窗詢問，并告知用戶如果允許，數據將被用在哪里。

但數據統計，后來人們對于該功能越來越不在意丨網絡

Android 14 引入了新權限設置，讓用戶只授權應用訪問特定照片或視頻，而不用開放整個媒體庫。

歐盟的 GDPR 規定：企業在獲取用戶數據時，必須用具體、清晰的語言描述需要獲得什么數據，并得到用戶同意。

而 AI 時代，能靠“自主控制權”來分割“數據邊界”似乎成為了一個悖論。

AI 應用開發非常流行的一個概念叫“生活流”（Life Stream）。“生活流”的意思是，用戶佩戴類似智能眼鏡這樣的傳感器，讓 AI 能夠與用戶同步獲得生活中一切的視聽信息，同步理解用戶生活中的一切，從而訓練出一個貼身的“AI 助手”。

未來，每個人都會有個數字助理丨Giphy

而這類產品好用與否的檢驗標準，就是減輕用戶負擔，讓其自動化、智能化、通用化地去解決問題——這與不斷詢問用戶“數據權限調用和管理”，本身就是矛盾的。

AI Agent（通常中文譯作“智能體”）進行工作流編排時，會調用三方接口功能和用戶數據，這讓服務生態變得復雜：涉及的主體（數據、算法、服務提供方）數量增加，各主體權責交叉，數據交互（理想狀態：AI Agent 按需關聯各種數據、功能信息）愈發復雜。

越大量，越有效（包括顆粒度低、多樣化、貼近垂直場景等）的數據投喂，生成結果往往越好，這是AI數據投喂的基本規則。但是這樣會讓用戶重新陷入一種“太好用了所以無法拒絕”的境地，而最終只能“把數據全部交給 AI”——你可以類比移動互聯網時代已經發生的事情：多少人會對搜索上癮，而又有多少人會對算法推薦上癮。

根本停不下來丨Giphy

這種 AI 應用的特性讓傳統隱私保護的“數據護欄”失效了——比如，過去用戶將一張敏感照片放進私密相冊，或使用無痕模式訪問一個“難言之隱”的網頁，而一個診斷皮膚病的“智能體醫生”就恰好需要你“生活流”里的這些敏感數據。

與之適配的應該是一套全新隱私保護模式。

也許 Apple Intelligence 設想的模型架構是一個可能的答案：在本地運行的基礎模型；PCC，私有云計算；接入第三方。簡單來說，這是一個按 Query 難度（查詢請求的難度）分發的分層模型策略。既要保證端和云之間的數據有效流轉、訪問、存儲，最終目的是用戶體驗；又要保證數據安全。蘋果實則設計了一套涉及到芯片、終端、云端、系統軟件的安全機制。

“大收集時代”

第三層問題，是新時代的最令人興奮和擔憂的：一大批硬件廠商，正在打造“超越”智能手機的，更面向未來的 AI 硬件。

包括智能眼鏡、錄音筆等等，第一批原型產品已經面世。稱之為“原型”，是因為這些產品的功能設計上還不夠完善，性能也捉襟見肘，還達不到“好用”的程度，但設計思路卻不約而同地選擇了“默認記錄”。

還記得 AI Pin 么？別在胸口，攝像頭默認對前方；也有錄音筆設計得薄片一張，緊貼手機背后，隨時啟動收音（據說有公司受此啟發，要把員工工牌做成這樣……）；被設計成可日常配備，不會在社交中被“察覺”的智能眼鏡更是如此。

默認記錄，不易察覺，貼合日常，AI硬件的一個設計思路丨The Verge

單從硬件設計看，這些產品的設計并不新鮮。Google Glass 在十幾年前就問世了，更別說各種隱蔽的小型攝像機、錄音筆，都早已走出了 007 電影。

Sergey Brin丨Financial Times

但它們的新穎之處，在于軀殼之內包裹的東西——這就從一個技術問題，演化為了一個社會問題。隱蔽的錄音錄像設備一直有，只不過絕大多數普通人并沒有理由去購買使用這些產品。

但 AI 賦予了這些硬件產品存在的理由，甚至可能將社會帶入一個人人“佩戴攝像頭、錄音筆”的軌道，或許當下我們還很難武斷地說，這會讓社會陷入災難，但它一定會帶來非常深刻的改變。

設備不僅記錄使用者，還有使用者周圍的一切丨Giphy

十年前，谷歌眼鏡剛剛交貨的時候，即便數量稀少，也掀起了巨大爭議。在當時的硅谷，因為常能碰到佩戴谷歌眼鏡的顧客，導致很多酒吧餐館都貼出了“禁止佩戴谷歌眼鏡進店”的標識——這甚至成為了阻礙智能眼鏡在那個時代普及的重要因素。

新時代，新技術，新問題丨Giphy

新時代，新硬件，數據被收集和分析的主體，將會從設備使用者個人，變成使用者的周圍一切——如果你是一個技術樂觀主義者，你就更不該無視這些數據隱私的新問題。

作者：Jesse

編輯：沈知涵

果殼AI組 出品