作者：DanielBarcay、人文技術中心2025年12月3日

本文于2025年11月27日發表于TechPolicyPress。

一位22歲的女孩向她的AI聊天機器人提出了一個真誠的問題：“我怎樣才能在第一次工作面試中給人留下深刻印象？”AI友好地回答說：“首先，你需要考慮你的著裝，以及它們向別人傳達的關于你和你的能力的信息。”

這是開啟高效職業輔導課程的合理建議嗎？還是植入的廣告內容？

如果她的AI被激勵將這類對話引導至服裝領域，是因為時尚零售商給的廣告收入比職業咨詢機構更高呢？我們這位認真的求職者又該如何得知？誰又能分辨呢？

這種情況揭示了AI時代廣告前所未有的特點：它可以悄無聲息地融入對話本身，幾乎無法察覺，而且很可能游走在現有公平廣告法規的邊緣。

隱形的影響力

和之前那些單向向我們推送信息的技術不同，AI的設計初衷是與人類建立“互動關系”。我們不僅僅是使用ChatGPT或Claude，而是與它們對話。我們分享問題，尋求建議，并越來越依賴它們作為思考伙伴。最終勝出的AI產品，未必是擁有最佳答案的產品，而是“真正理解你”的產品。

這就引發了AI開發者之間的“語境爭奪戰”。為了真正提供幫助，AI需要理解你的目標、個性以及心理傾向。然而，正是這種對人類的深入了解，既使其成為完美的助手，也使其成為完美的操控者。貼心的心理咨詢師和技藝高超的騙子，運用的是同一套洞察人性的工具。

當廣告介入其中時，騙子似乎更有可能勝過治療師。傳統廣告都是明確標記的“干擾項”—— 比如電視廣告、谷歌搜索頂部的贊助結果，而嵌入AI的廣告則可能強調某些主題、使用特定語言或引發特定聯想，同時還能維持一種中立且樂于助人的假象。與AI助手的對話或許感覺私密，但其他利益相關方可以監聽，并且他們可能想從中推銷某些東西。

這并非簡單的產品植入，而是對信任的根本性背叛。廣告本質上是一種社會認可的影響活動。我們共同探討并定義哪些影響模式“足夠透明”且“足夠真實”，才能被視為合法的廣告。我們也共同決定哪些策略會不可接受地操縱我們的注意力、欲望以及維持市場和民主運轉所必需的共同認知。

當優化變成操縱

然而，AI有可能擾亂這種辯論、定義和決策的過程。AI系統并非被編程來運用特定的操縱策略，無論是用于廣告還是其他任何功能。它們是通過“強化學習”進化：只要能達成特定目標（比如提高用戶參與度、影響購買行為），AI模型就會獲得獎勵。

如果廣告收入成為衡量成功與否的關鍵指標，AI系統自然會發展出一些并非人類工程師有意設計的、具有影響力的策略。我們說的不僅僅是更精準的產品推薦；基于廣告指標訓練的AI系統甚至可能學會激發人類的欲望、利用心理弱點，并削弱我們獨立決策的能力。

AI在理解如何幫助你的同時，也利用了你過往無數次對話中流露出的不安全感、決策模式和情緒觸發點，精準地影響著你。這并非基于人口統計的微定向，而是前所未有的大規模、高私密性的心理操控。

當你尋求客觀建議的技術有經濟動機去改變你的想法時，人類的自主性本身就受到了威脅。

這種新的影響力模式使得現有的廣告監管框架基本過時。一個多世紀以來，美國聯邦貿易委員會（FTC）針對傳統廣告，包括原生廣告和在線贊助內容，制定了嚴格的信息披露規則。但對于一個通過反復試錯，學會“輕輕引導對話方向就能將咨詢轉化為銷售”的AI，該如何監管？又該如何區分AI的“獨特個性”和為了賺錢而優化的隱性操控？

這場AI驅動的廣告革命并非紙上談兵，而是已然發生。谷歌正在其AI聊天機器人的回復中測試廣告，而像Kontext這樣的初創公司正在籌集數百萬美元，專門用于設計API并將廣告融入人工智能對話。OpenAI于2024年4月宣布正在測試贊助內容整合，最近，它又開始組建新的廣告平臺。同樣，埃隆·馬斯克也宣布，X平臺上的AI聊天機器人Grok將在其回復中開始顯示廣告。

“如果用戶試圖通過向Grok提問來解決問題，那么在這個時候宣傳具體的解決方案將是理想的，”馬斯克說。

問題是：這對誰最有利？引導AI對話朝著盈利方向發展或許對平臺和廣告商有利，但這些好處實際上是以犧牲用戶利益為代價的。

趁現在還來得及，趕緊建起護欄

變革正在迅速發生：據一些人說，廣告商賴以生存數十年的收入模式已經終結。搜索似乎已經消亡。如果用戶不再通過谷歌搜索瀏覽網站，而是直接從聊天機器人那里獲得答案，那么傳統的搜索廣告將徹底失去影響力。面對收入下滑，廣告行業正竭力尋找向聊天機器人轉型的方法，而人工智能開發者當然也樂于開發新的收入來源。

我們早就見過這樣的發展軌跡。每個主流科技平臺都遵循著同樣的模式。起初，開發者們會竭盡全力提升用戶增長，強調用戶體驗，并推出真正有用的功能。然后，隨著增長放緩和競爭加劇，他們會轉向通過廣告和數據銷售來實現盈利。社交媒體平臺早期致力于更有效地連接用戶，之后逐漸演變成以廣告收入而非用戶滿意度為導向的注意力掠奪機器。

科技評論家科里·多克托羅將這一過程稱為“平臺垃圾化”：當平臺將廣告收入置于用戶體驗之上時，必然會出現這種可預見的退化。2008年Facebook的優勢被旨在最大化用戶參與度和廣告瀏覽量的算法操控所取代。同樣的模式在搜索引擎、視頻平臺以及所有主流消費技術領域都上演。

人工智能平臺如今正步入商業化階段。隨著這場變革勢頭強勁，我們必須立即采取行動，建立保障機制，防止出現以心理操縱為基礎的廣告模式。

我們需要新的行業規范和監管框架，超越簡單的信息披露要求，從根本上解決人工智能影響的問題。我們需要公開透明地說明人工智能系統針對哪些信號進行了優化。我們需要為真正以用戶利益而非廣告商和平臺利潤為導向的人工智能輔助工具保留空間。

最重要的是，我們需要認識到這不僅僅關乎技術：它關乎我們想要生活在怎樣的社會中。我們想要的是幫助我們清晰思考的人工智能伙伴，還是旨在影響我們選擇的AI銷售人員，抑或更糟糕的是，將我們的私人時刻和想法轉化為利潤的AI？

選擇權仍然在我們手中，但不會太久了。

本文編譯自substack，原文作者Daniel Barcay and Center for Humane Technology

https://centerforhumanetechnology.substack.com/p/advertising-is-coming-to-ai-its-going