四川
美國佛羅里達(dá)州周一對聊天機(jī)器人ChatGPT的開發(fā)商開放人工智能研究中心及其首席執(zhí)行官薩姆·奧爾特曼提起訴訟，指控該公司隱瞞聊天機(jī)器人的嚴(yán)重安全風(fēng)險。佛羅里達(dá)州也由此成為美國首個起訴這家人工智能公司的州。
這份長達(dá)83頁的訴狀由佛羅里達(dá)州總檢察長詹姆斯·烏特邁耶提出。訴狀稱，開放人工智能研究中心在無視安全警告和產(chǎn)品潛在危險的情況下，仍“積極向公眾營銷”ChatGPT。
烏特邁耶在聲明中說：“開放人工智能研究中心和奧爾特曼無視內(nèi)部和外部的安全警告，讓兒童面臨巨大風(fēng)險，并讓一種危險產(chǎn)品觸及數(shù)百萬佛羅里達(dá)人。”
開放人工智能研究中心發(fā)言人則表示，公司已為未成年人設(shè)置“行業(yè)領(lǐng)先的保護(hù)措施和政策”，包括年齡預(yù)測技術(shù)，以及讓家長監(jiān)測青少年使用人工智能情況的工具。
這起民事訴訟之前，佛羅里達(dá)州已于4月就ChatGPT在佛羅里達(dá)州立大學(xué)大規(guī)模槍擊案中的作用，對開放人工智能研究中心展開刑事調(diào)查。那起槍擊案造成2人死亡、6人受傷。
據(jù)《華爾街日報》報道，槍手曾與該聊天機(jī)器人進(jìn)行長時間對話，詢問諸如“要?dú)⒍嗌偃瞬拍芤鹑珖P(guān)注”之類的問題。報道說，ChatGPT回應(yīng)稱，造成3人或以上死亡，是獲得廣泛媒體關(guān)注的“非正式門檻”。
烏特邁耶在周一提交的民事訴狀中表示，他正代表本州居民尋求賠償，并要求法院下令開放人工智能研究中心停止訴狀中所列做法。
佛羅里達(dá)州的法律行動，是近期針對開放人工智能研究中心一系列訴訟的一部分。這些案件指控其聊天機(jī)器人正在加劇心理健康危機(jī)，并誘發(fā)暴力行為和自殺。
去年11月，有7起訴狀提交，指責(zé)該公司讓ChatGPT充當(dāng)“自殺教練”。今年4月，又有7起訴訟由受害者家屬提起，涉及加拿大一所學(xué)校發(fā)生的槍擊案。那起案件造成5人死亡、27人受傷。
谷歌也因其“雙子座”聊天機(jī)器人遭起訴。訴訟稱，該產(chǎn)品曾鼓動一名36歲男子制造“災(zāi)難性事故”，隨后自殺。
訴狀詳細(xì)描述了ChatGPT自2022年推出以來，開放人工智能研究中心如何迅速崛起，估值據(jù)稱已接近1萬億美元。訴狀寫道：“這種成功并非靠正當(dāng)方式獲得。開放人工智能研究中心的崛起，源于一張由欺騙和對用戶利用構(gòu)成的網(wǎng)絡(luò)。”
訴狀稱，ChatGPT在致命襲擊中“協(xié)助和教唆”大規(guī)模槍手，同時還鼓動脆弱人群傷害自己和他人。訴狀寫道：“這一連串傷害，源于被告明知ChatGPT存在危險，卻仍不顧一切地追逐人工智能軍備競賽的勝利和巨額財富。”
訴訟還稱，年輕人尤其容易受該聊天機(jī)器人影響，容易沉迷于這種模仿人類同情心的產(chǎn)品。佛羅里達(dá)州指控該公司沒有為未成年人設(shè)置足夠的保護(hù)措施，例如允許家長關(guān)聯(lián)子女賬戶。訴狀還稱，開放人工智能研究中心在缺乏充分監(jiān)管的情況下收集兒童數(shù)據(jù)。
不過，開放人工智能研究中心發(fā)言人表示，公司已為未成年人設(shè)置“行業(yè)領(lǐng)先的保護(hù)措施和政策”，包括年齡預(yù)測技術(shù)，以及讓家長監(jiān)測青少年使用人工智能情況的工具。不過，這些工具只有在孩子接受家長發(fā)出的賬戶關(guān)聯(lián)請求后才能生效，而且未成年人可隨時解除關(guān)聯(lián)。
烏特邁耶與開放人工智能研究中心的這場法律爭斗，也使他與不少共和黨同僚以及唐納德·特朗普的立場出現(xiàn)分歧。特朗普與奧爾特曼及其他人工智能行業(yè)領(lǐng)袖關(guān)系密切，并已簽署多項(xiàng)行政命令，放松對這一行業(yè)的監(jiān)管。上個月，特朗普放棄簽署一項(xiàng)新的行政命令。該命令原本將要求政府在新一代人工智能模型發(fā)布前進(jìn)行安全審查。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
