加拿大央行以及該國(guó)主要銀行和金融機(jī)構(gòu)于周五召開(kāi)會(huì)議,討論由Anthropic最新人工智能模型引發(fā)的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。加拿大財(cái)政部長(zhǎng)Fran?ois-Philippe Champagne的發(fā)言人確認(rèn)該會(huì)議于周五舉行。
此次會(huì)議緊隨本周早些時(shí)候美國(guó)政策制定者采取的類(lèi)似行動(dòng)。媒體周四報(bào)道稱(chēng),美國(guó)財(cái)政部長(zhǎng)貝森特和美聯(lián)儲(chǔ)主席鮑威爾緊急召集華爾街高管,討論Anthropic的Mythos及類(lèi)似AI模型。
加拿大方面的會(huì)議由“加拿大金融部門(mén)韌性小組”成員參與,該小組由加拿大六家最大的銀行代表組成,例如加拿大皇家銀行和多倫多道明銀行。其他成員還包括多倫多證券交易所的母公司、聯(lián)邦財(cái)政部以及加拿大金融機(jī)構(gòu)監(jiān)管辦公室在內(nèi)的金融監(jiān)管機(jī)構(gòu)(OSFI)。
加拿大金融部門(mén)韌性小組由加拿大央行牽頭,是一個(gè)公私合作機(jī)制,其使命是“提升加拿大關(guān)鍵金融體系的運(yùn)營(yíng)韌性”。加拿大央行發(fā)言人表示:“我們已注意到這一問(wèn)題,并高度重視網(wǎng)絡(luò)安全。”
代表包括六大銀行在內(nèi)數(shù)十家機(jī)構(gòu)的行業(yè)組織加拿大銀行家協(xié)會(huì),未就Anthropic模型或此次會(huì)議作出具體評(píng)論。該協(xié)會(huì)發(fā)言人表示,銀行正通過(guò)“長(zhǎng)期存在的、行業(yè)特定的監(jiān)管要求和內(nèi)部框架”來(lái)管理與人工智能相關(guān)的風(fēng)險(xiǎn)。
加拿大金融機(jī)構(gòu)監(jiān)管辦公室(OSFI)一位發(fā)言人在郵件聲明中表示:“我們正與各機(jī)構(gòu)積極溝通,以提高對(duì)這一問(wèn)題的認(rèn)知,并評(píng)估其對(duì)金融系統(tǒng)韌性的潛在影響。”該監(jiān)管機(jī)構(gòu)正就“先進(jìn)人工智能模型的最新發(fā)展及其潛在網(wǎng)絡(luò)安全影響”與銀行保持接觸。
此次會(huì)議以及OSFI的表態(tài),進(jìn)一步表明全球監(jiān)管機(jī)構(gòu)日益擔(dān)憂(yōu):更強(qiáng)大的AI模型可能催生針對(duì)金融行業(yè)的新型網(wǎng)絡(luò)攻擊。
銀行正越來(lái)越多地組建專(zhuān)門(mén)團(tuán)隊(duì),利用AI降低成本并發(fā)掘商業(yè)機(jī)會(huì),但同時(shí)也在努力管理這一快速發(fā)展技術(shù)所帶來(lái)的風(fēng)險(xiǎn)。自2023年以來(lái),OSFI已被賦予職責(zé),評(píng)估銀行和保險(xiǎn)公司是否具備足夠的政策來(lái)防范安全威脅,并已發(fā)布技術(shù)與網(wǎng)絡(luò)風(fēng)險(xiǎn)管理指南。
該發(fā)言人表示:“OSFI目前不計(jì)劃因這一新興威脅在短期內(nèi)調(diào)整現(xiàn)有指南”,但會(huì)繼續(xù)與加拿大網(wǎng)絡(luò)安全中心協(xié)調(diào),分享威脅信息及緩解措施,并持續(xù)監(jiān)測(cè)相關(guān)風(fēng)險(xiǎn)。
Anthropic表示,其Mythos模型是一種高度復(fù)雜的新系統(tǒng),能夠識(shí)別并利用主流操作系統(tǒng)和網(wǎng)絡(luò)瀏覽器中的漏洞。由于能力過(guò)于強(qiáng)大,公司決定不向公眾發(fā)布該模型,而是成立了一個(gè)名為“Glasswing項(xiàng)目”的小組,向部分大型科技公司以及摩根大通提供測(cè)試訪(fǎng)問(wèn)權(quán)限。
這些公司將使用該模型測(cè)試自身產(chǎn)品,查找可能被利用的漏洞并反饋結(jié)果,Anthropic則據(jù)此確定需要為該技術(shù)設(shè)置哪些安全護(hù)欄。在美國(guó),包括高盛、花旗集團(tuán)和美國(guó)銀行在內(nèi)的一些華爾街銀行正在進(jìn)行內(nèi)部測(cè)試。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶(hù)上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.