當(dāng)?shù)貢r(shí)間4月13日，高盛集團(tuán)首席執(zhí)行官大衛(wèi)·蘇德巍（David Solomon）在財(cái)報(bào)電話會(huì)議上發(fā)出嚴(yán)厲警示，稱其對(duì)Anthropic旗下最新AI模型“Mythos”保持高度警覺(jué)。

蘇德巍在周一的會(huì)議上對(duì)分析師坦言：“顯然，大語(yǔ)言模型正在迅速進(jìn)步，在美國(guó)政府和模型開(kāi)發(fā)方的幫助下，我們對(duì)這些新模型的增強(qiáng)能力保持高度警覺(jué)。”

他所指的“增強(qiáng)能力”，正是Anthropic上周發(fā)布的、被譽(yù)為“分水嶺”級(jí)別的AI系統(tǒng)——Mythos。與傳統(tǒng)聊天機(jī)器人不同，Mythos被設(shè)計(jì)為一個(gè)強(qiáng)大的“漏洞發(fā)現(xiàn)機(jī)器”。Anthropic在官方博客中毫不掩飾其能力的恐怖之處：“AI模型在編程能力上已經(jīng)達(dá)到很高水平，發(fā)現(xiàn)和利用軟件漏洞的能力已超越除最頂尖人類專家外的所有人。這可能對(duì)經(jīng)濟(jì)、公共安全和國(guó)家安全帶來(lái)嚴(yán)重影響。”

蘇德巍補(bǔ)充道，高盛已經(jīng)充分了解Mythos的實(shí)際能力，并已開(kāi)始使用。“目前高盛正在與Anthropic等供應(yīng)商密切合作，盡可能利用這些前沿能力，并持續(xù)關(guān)注業(yè)界動(dòng)態(tài)。”他強(qiáng)調(diào)，高盛正在大力加強(qiáng)網(wǎng)絡(luò)安全和基礎(chǔ)設(shè)施建設(shè)，持續(xù)加大相關(guān)投資，以應(yīng)對(duì)這一新型威脅。

華爾街的恐慌，源于Mythos展示出的“降維打擊”般的攻擊能力。根據(jù)Anthropic披露的數(shù)據(jù)，Mythos并非簡(jiǎn)單的代碼輔助工具，而是一個(gè)具備自主戰(zhàn)略思維的“黑客代理”。

在測(cè)試中，Mythos展現(xiàn)了令人咋舌的戰(zhàn)績(jī)：

·挖掘27年安全漏洞： 它在以安全性著稱、廣泛用于防火墻等關(guān)鍵基礎(chǔ)設(shè)施的OpenBSD系統(tǒng)中，發(fā)現(xiàn)了一個(gè)潛伏了27年（自1998年起）的遠(yuǎn)程代碼執(zhí)行漏洞。攻擊者只需建立連接，即可遠(yuǎn)程崩潰運(yùn)行該系統(tǒng)的任意機(jī)器。

·突破500萬(wàn)次測(cè)試防線： 在廣泛使用的視頻編解碼庫(kù)FFmpeg中，Mythos發(fā)現(xiàn)了一個(gè)存在16年的漏洞。此前，自動(dòng)化模糊測(cè)試工具曾對(duì)這行代碼執(zhí)行了500萬(wàn)次測(cè)試，卻始終未能識(shí)別，而Mythos做到了。

·自主提權(quán)： 在Linux內(nèi)核中，模型自主發(fā)現(xiàn)并串聯(lián)多個(gè)漏洞，實(shí)現(xiàn)了從普通用戶權(quán)限到完全控制目標(biāo)機(jī)器的提權(quán)。

更令人不安的是其效率。創(chuàng)業(yè)公司Onit Security聯(lián)合創(chuàng)始人Ofer Amitai指出，頂級(jí)人類安全團(tuán)隊(duì)每年發(fā)現(xiàn)的此類高危漏洞約為100個(gè)，而Mythos在測(cè)試期間就挖掘出了“數(shù)千個(gè)”。這意味著其效率可能是人類頂尖團(tuán)隊(duì)的10至100倍，且能將漏洞利用開(kāi)發(fā)時(shí)間從數(shù)周壓縮至數(shù)小時(shí)。

值得一提的是，Mythos的出現(xiàn)，迫使監(jiān)管機(jī)構(gòu)將“AI驅(qū)動(dòng)的網(wǎng)絡(luò)攻擊”視為金融業(yè)面臨的最大威脅之一。

近日，美國(guó)財(cái)政部長(zhǎng)斯科特·貝森特與美聯(lián)儲(chǔ)主席杰羅姆·鮑威爾在華盛頓緊急召集了包括花旗集團(tuán)、摩根士丹利、美國(guó)銀行、富國(guó)銀行及高盛在內(nèi)的多家“系統(tǒng)重要性銀行”CEO舉行閉門會(huì)議。

與此同時(shí)，據(jù)《金融時(shí)報(bào)》報(bào)道，英國(guó)政府人工智能安全研究院（AISI）警告稱，Mythos在網(wǎng)絡(luò)威脅層面是一次“重大升級(jí)”。AISI指出，Mythos能夠在無(wú)需人工干預(yù)的情況下，獨(dú)立執(zhí)行需要多個(gè)步驟的攻擊操作。它是首個(gè)成功完成AISI設(shè)計(jì)的32步網(wǎng)絡(luò)攻擊模擬任務(wù)的AI模型。

未來(lái)兩周內(nèi)，英國(guó)各大銀行、保險(xiǎn)公司及交易所代表將被召集，聽(tīng)取關(guān)于該模型潛在威脅的專項(xiàng)簡(jiǎn)報(bào)。