![]()
新智元報道
![]()
【新智元導讀】都以為OpenAI上市只差臨門一腳,紐約州等多州總檢察長偏在這節骨眼集體遞上傳票。
上市在即的OpenAI,突然被人當頭澆了一盆冷水。
就在剛剛,一個由美國多州總檢察長組成的監管「復仇者聯盟」,正對這家硅谷AI老大哥展開全面調查。
![]()
OpenAI首席執行官奧特曼,秘密招股書剛遞交,多州傳票就到了。
牽頭的是紐約州總檢察長Letitia James,多州聯手:廣告怎么打、用戶怎么留、數據怎么用、未成年人怎么保護,連模型本身怎么說話,都在被審視之列。
而這一切,就發生在OpenAI剛向美國證券交易委員會(SEC)遞交秘密招股書之后的幾天。
傳票遞到,清單一長串
先看看這些傳票到底要查什么。
據《華爾街日報》看到的傳票內容,這次要查的范圍很廣:
廣告與營銷、用戶參與度與留存機制、消費者數據與健康數據的處理、面向未成年人和老年人的相關活動、深度學習模型,以及公司各項政策。
其中,最值得注意的是一個詞:模型諂媚(model sycophancy)。
所謂模型諂媚,指的是AI為了迎合用戶,一味順著對方說,哪怕對方的想法有害,它也不踩剎車。
這并非模型「學壞了」,而是被訓練出來的毛病。
AI靠人類反饋來打分調教,而人天然更愛聽順耳的話:附和、肯定、被認同,往往拿高分。
一來二去,「討好」被反復獎勵,模型便學會了無論對錯,先順著用戶再說。
風險恰恰就藏在這里。當一個本就脆弱的人,把扭曲、甚至危險的念頭說給它聽,一個只會附和的AI不會拉他一把,反而可能順著往下走。
這正是近來被反復提及的「AI精神病」(AI psychosis)隱憂:在與AI一輪輪的對話里,妄想被不斷印證、情緒被層層放大,人離現實越來越遠。
它第一次被寫進取證清單,意味著監管的手伸進了模型的輸出行為本身,開始審視:
AI說出來的話,算不算這件產品的一部分?如果一個模型因為太會順著人說,最終把用戶推向危險,那么這種輸出行為,算不算一種產品缺陷?
這些問題,過去沒人在監管層面正式問過。一旦答案是肯定的,整個行業訓練模型的邏輯,都得重新掂量。
![]()
簽發傳票的是紐約州總檢察長Letitia James,她牽頭的多州聯盟,把「模型諂媚」也列進了取證清單。
傳票背后,壓著幾條人命官司
當然,監管重錘不會無緣無故地落下。
這些傳票背后,是一連串的用戶傷害訴訟。
6月12日,一位加拿大母親把OpenAI告上法庭,將女兒的離世歸咎于ChatGPT。
更早之前,6月1日,佛羅里達州總檢察長起訴了OpenAI以及奧特曼,指控他們明知產品不安全,仍執意發布、無視警告。
而佛州的麻煩不止于此。早在4月,當地總檢察長就對OpenAI展開了刑事調查,矛頭指向去年佛羅里達州立大學一起致兩人死亡的槍擊案:嫌疑人據稱把ChatGPT當成了策劃襲擊的「知己」和「參謀」,而聊天機器人給出了回應。
這幾樁案子,矛頭高度一致:自殘內容、犯罪建議、心理依賴。
面對這些指控,OpenAI的抗辯是:模型曾多次鼓勵當事人去尋求現實世界的支持,包括心理健康專業人士,公司也已經在兩起槍擊案中配合了執法。
這里必須清楚的一點是:上面這些,全部是訴訟指控。截至目前,沒有任何一家法院,認定OpenAI需要為這些事件擔責。
因為這次OpenAI收到的「要求交文件」的傳票,本身并不等于有罪,是收集證據的階段,針對它的訴訟和指控,還未到蓋棺定論的那一刻。
而OpenAI已表態會積極配合,還強調自己早就上線了一系列保護措施。
按官方說法,如今的ChatGPT為未成年人和身處困境的人,提供了更具保護性的體驗,會把他們引導向現實世界的資源和可信賴的人;公司還做了年齡預測,發布了家長管理工具,并禁止面向兒童的廣告。
踩著IPO的點,這一腳來得太巧
真正讓OpenAI被動的,是這一連串的訴訟風暴,剛好趕上它計劃IPO的時間點。
本月,OpenAI剛剛向SEC秘密提交了招股書,向萬億級IPO發起了沖刺。
![]()
沒想到它這邊剛遞交文件,傳票就在幾天之內到了。
這對于一家正在沖刺上市的公司來說,影響不言而喻:
風險披露的壓力會陡增、估值的不確定性會放大、合規成本會一路抬高,所有這些,都會直接寫進投資人要看的文件里。
這段時間,撞上監管風暴的不止OpenAI一家。
它的老對手Anthropic,剛被要求關停兩個面向海外用戶的模型。
![]()
本周五,美國政府發出出口管制指令,禁止任何外國公民訪問這兩款模型,Anthropic當晚即把Claude Fable 5和Claude Mythos 5對全球所有用戶停用。
據報道,導火索是亞馬遜研究人員探測發現Fable 5存在一個潛在越獄漏洞,可在被指向網站時輸出網絡漏洞信息。
AI要被當成社交媒體來管了
過去幾年,外界討論AI監管,焦點幾乎都在「能力」上:模型夠不夠強、會不會失控、要不要放緩。
但這一次,傳票里寫的是廣告、用戶留存、未成年人保護、數據等。
這說明監管的目標,已經從「AI能做什么」,變成了「AI對用戶做了什么」。
成癮性設計、用戶黏性、未成年人保護……當年針對Facebook的那套治理框架,正在被搬到AI身上。
ChatGPT開始被當成一款需要管住「成癮與傷害」的消費級產品來對待。
其實,這個信號在去年已經出現。
2025年12月,由賓夕法尼亞州牽頭的42州總檢察長曾聯名致信,點名包括OpenAI、Meta、Anthropic、谷歌、xAI在內的公司,警告開發者可能要為自家生成式AI產品的輸出負責。
![]()
去年12月,賓州總檢察長Dave Sunday牽頭42州聯名致信,要求OpenAI、xAI等公司為AI加裝安全護欄。
今年1月,加州也就利用Grok大規模生成性化圖像一事正式立案。
所有這些線索串起來,都指向這樣一種轉變:AI行業第一次被系統性地,納入了「消費者保護+產品安全」的執法框架。
這意味著:模型說錯一句話,或者導致嚴重后果,都將可能不再只是技術問題,而是產品責任問題。
區別在于,AI這場監管來得比社交媒體更快。社交媒體是先長成龐然大物,多年之后才等來約束;而OpenAI這次連鐘都還沒敲,多州的傳票就先到了。
在這方面,OpenAI也并非孤例。剛剛敲鐘的SpaceX、正在排隊的Anthropic,整整一代AI公司,幾乎是在沖向上市的同一時刻,集體撞上了監管。
OpenAI的取證才剛剛開始,OpenAI、Anthropic們上市的鐘聲還在前方。而這場IPO與監管的賽跑,沒有暫停鍵。
參考資料:
https://www.wsj.com/tech/openai-investigated-by-coalition-of-state-attorneys-general-088a3928?mod=tech_trendingnow_article_pos3
https://fortune.com/2026/06/13/openai-multistate-probe-possible-user-harm-confidential-filing-ipo/
編輯:元宇
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.