山東
Anthropic公司，你可能沒聽過這名字，
但它的產品：Claude，很多人用過，跟ChatGPT一樣，都是全球知名的頂尖AI大模型。
這家公司最近正準備上市，估值快沖到1萬億美元了。
然后突然寫了篇長篇大論，喊話全球AI實驗室別再讓AI自我進化。
現在Anthropic工程師人均季度代碼產出，跟2021到2025年的老數據比，是以前的8倍。
以前還需要人盯著AI寫寫小片段代碼，再自己復制粘貼。現在AI自己能跑代碼、自己能調試。有時候還能把活兒派給別的AI，一干就是好幾個小時。
在那些特別難、人類都要吭哧半天才能搞定的編程題上，AI模型的能力也是突飛猛進。
一年多前，最牛的模型也就搞定個幾分鐘的小任務。現在，能搞定那種需要人類老手忙活大半天的活。
遞歸自我改進
（Recursive Self-Improvement），指的是AI自己研究怎么造出比它更牛的下一代AI，不用人類參與。
Anthropic說，目前“遞歸自我改進”的情況還沒發生，但什么時候會發生？“比絕大多數機構準備的時間要早得多”。
這句話怎么這么耳熟，感覺經常在各種圈子里聽到呢？
一家靠AI賺錢、馬上要上市的公司，為什么要喊停？
硅谷那邊第一反應也是不信。
有人懷疑，這就是裝好人立規矩，把對手卡在外面。
有個詞叫：監管俘獲議程
（Regulatory Capture Agenda），指企業借監管名義設置門檻，以限制競爭對手發展的策略。
Anthropic確實提了個方案，搞全球減速協議，加核查機制，確保沒人偷偷加速。他們自己承認這比核武器條約還難搞。
到底是不是在演戲？
沃頓商學院副教授Ethan Mollick給出判斷：文章里有自我反省，有營銷成分，但也有對AI未來真實且有價值的觀點。
說到卡在外面。兩百多號人堵在Anthropic舊金山總部大門口，他們來自一個叫“Stop the AI Race”的組織。組織者直言：“構建能夠自動進行AI研究并具備自我迭代能力的AI，可能對人類構成危險，甚至導致人類滅絕。”
有人在Anthropic總部外絕食了整整30天。其中一位抗議者喊了句狠話：“這些公司無權做他們正在做的事情，明知會危及我、我的家人以及所有人的生命。他們真正應該做的，是停止這場全球競賽。”
與此同時，Anthropic的年化營收沖到了470億美元。公司估值9650億，超過了老對手OpenAI的8520億。
一邊賺得盆滿缽滿，一邊發文說大家快停下，但是，誰又會愿意停下呢。
,"total_cnt":0,"vote_id":460389382}]" data-itemshowtype="0" data-delflag="0" data-fail="0" data-retry="0" bdsfid="413">
請在手機微信登錄投票
你怎么看？單選
確實危險，不能讓AI自進化
商業算計，立規矩鎖死對手
半真半假，有擔心也有私心
沒有辦法，發展趨勢擋不住
其他（評論聊聊）
躺著看
坐著看
關注并加星標??接收人類文明新資訊
*您的「?關注點贊??分享??推薦評論」都是我們持續更新的動力！* 本文綜合自網絡，僅用于學習交流分享，數據及表述以官方發布為準。如遇信息錯誤，歡迎評論區指正！
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
