上海
財聯(lián)社7月7日訊（編輯 瀟湘）聯(lián)合國秘書長古特雷斯周一發(fā)出呼吁，全世界應(yīng)禁用“殺手機器人”。
古特雷斯當天在聯(lián)合國第一屆全球人工智能治理對話會議上表示，應(yīng)通過國際法禁止致命自主武器，這重新引發(fā)了一場關(guān)于AI安全的爭議——該爭議正是今年早些時候Anthropic公司與五角大樓產(chǎn)生分歧的核心所在。
“機器在沒有人類控制和判斷的情況下，自行選擇并鎖定目標，奪走生命——這在道德上令人反感，”古特雷斯在瑞士日內(nèi)瓦發(fā)表的演講中說道?！白屛覀冎焙羝涿簹⑹謾C器人(killer robots)?！?/strong>
古特雷斯在聯(lián)合國第一屆全球人工智能治理對話的開幕式中還表示，隨著AI持續(xù)飛速發(fā)展，目前全世界正進行一場“沒有計劃、也未經(jīng)同意”的實驗，而這種情況不能繼續(xù)下去。
古特雷斯強調(diào)，制定AI安全法規(guī)已刻不容緩。
“我們不應(yīng)等到暴行發(fā)生才采取行動，”他說，“有些決定必須永遠留給人類來做，而其中最重大的，莫過于剝奪另一個人的生命。”
近年來，原本設(shè)計用于民用的AI系統(tǒng)和芯片，正越來越多地被部署在戰(zhàn)場和軍事指揮部中。這引發(fā)了一場關(guān)于軍隊何時應(yīng)使用AI、人類何時應(yīng)介入以及由誰來決定劃定界限的爭論。
今年年初，當Anthropic公司要求五角大樓保證其AI模型不會被用于國內(nèi)監(jiān)控或自主武器系統(tǒng)時，這場爭論被徹底公開化了。當時作為Anthropic工具“重度用戶”的五角大樓拒絕了這一要求，稱應(yīng)允許其將Anthropic的人工智能用于所有合法目的。雙方目前仍在美國法庭上爭執(zhí)不休。
與此同時，在戰(zhàn)場上，技術(shù)進步正日新月異。AI武器的支持者和國防企業(yè)認為，自主武器仍將處于人類控制之下，AI將使人類指揮官能夠以更高且必要的精度和速度開展行動。反對者則指出，AI系統(tǒng)會犯錯，因此在戰(zhàn)況緊要關(guān)頭將控制權(quán)交給機器是極其危險的。
一些人工智能安全活動家——其中許多人早已擔心人工智能系統(tǒng)會脫離人類控制并反噬其創(chuàng)造者——認為，讓AI武裝起來只會加劇這種危險。
古特雷斯周一還警告了AI的另一種風險——即AI權(quán)力集中于少數(shù)企業(yè)、少數(shù)國家之手；而其他大多數(shù)國家對于那些將左右他們未來的相關(guān)決策，迄今仍全無話語權(quán)。
據(jù)悉，這場為期兩天的活動將吸引來自全球各國政府、科技業(yè)、學術(shù)界等的4000多名代表，以包容態(tài)度進行討論，并探索如何善用這項已經(jīng)迅速改變世界的AI技術(shù)。聯(lián)合國計劃于明年發(fā)布更加全面的評估報告，并將在紐約舉行第二屆全球AI治理會議。
（財聯(lián)社 瀟湘）
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
