美國人工智能(AI)企業(yè)Anthropic日前披露,該公司研發(fā)的最新大模型“克勞德神話(Claude Mythos)”能夠自主識別主流軟件系統(tǒng)中大量此前未被發(fā)現(xiàn)的安全漏洞,并能開發(fā)出相應攻擊手段。
這一情況在美英等國金融界和科技界引發(fā)高度關注與隱憂。國際貨幣基金組織總裁格奧爾基耶娃近日警告說,全球貨幣體系尚未做好應對AI風險快速升級的準備。美英監(jiān)管機構緊急召集多家大型銀行代表提示相關風險。與此同時,美國多家主流科技企業(yè)正在聯(lián)合測試該模型,以應對潛在風險。
識別和利用漏洞能力極強
“克勞德神話”能強化網(wǎng)絡防御的能力,同樣可能被攻擊者利用。
據(jù)了解,“克勞德神話”號稱在發(fā)現(xiàn)軟件漏洞方面展現(xiàn)出極強能力,已識別出包括主流操作系統(tǒng)和網(wǎng)絡瀏覽器在內的常用軟件程序中的“數(shù)千個”漏洞,其中一些漏洞相當隱蔽,難以被常規(guī)手段檢測到,且這些漏洞絕大多數(shù)尚未修復。它發(fā)現(xiàn)的最早一個漏洞可追溯至27年前,另外一個在視頻處理工具中發(fā)現(xiàn)的漏洞,即便在自動化測試工具運行了500萬次后,仍未被檢測出來。
Anthropic自稱,“克勞德神話”是一款通用模型,并非專門針對網(wǎng)絡安全訓練,但其強大的自主編碼和推理能力,使其具備發(fā)現(xiàn)網(wǎng)絡安全漏洞的突出能力。在沒有人工指導的情況下,它能夠“完全自主地識別漏洞,并開發(fā)出許多相關攻擊手段”。
但該公司也承認,這種能強化網(wǎng)絡防御的能力,同樣可能被攻擊者利用。測試顯示,“克勞德神話”能夠構建復雜的漏洞利用鏈,實施可繞過多層安全防護的多步攻擊,甚至自主實現(xiàn)了權限提升技術?!拌b于人工智能技術的發(fā)展速度,這種能力或將迅速擴散,甚至可能落入并非致力于安全應用的主體手中。這對經(jīng)濟、公共安全和國家安全都可能造成嚴重后果。”
據(jù)多家外媒報道,Anthropic在發(fā)布“克勞德神話”前,已主動向美國政府及金融等關鍵行業(yè)利益相關方通報了該模型的相關能力。
潛在風險引發(fā)金融界擔憂
目前全球尚不具備足夠能力保護國際貨幣體系免受大規(guī)模網(wǎng)絡風險沖擊,“我們迫切希望各方更加重視在AI時代維護金融穩(wěn)定所必需的監(jiān)管防線”。
“克勞德神話”的潛在風險已經(jīng)至少在美國、英國和加拿大引發(fā)金融界高度關注。格奧爾基耶娃近日在接受美國哥倫比亞廣播公司一檔節(jié)目采訪時表示,目前全球尚不具備足夠能力保護國際貨幣體系免受大規(guī)模網(wǎng)絡風險沖擊,“我們迫切希望各方更加重視在AI時代維護金融穩(wěn)定所必需的監(jiān)管防線”。她呼吁就此展開全球合作。
據(jù)外媒報道,美國財政部長貝森特和美聯(lián)儲主席鮑威爾近日緊急召集花旗集團、摩根士丹利、美國銀行、富國銀行和高盛等美國主要金融機構負責人開會,通報了這款新模型可能帶來的網(wǎng)絡安全風險,以確保銀行業(yè)充分認識到“克勞德神話”及同類模型帶來的威脅,并采取措施保護自身系統(tǒng)。
英國央行、英國金融行為監(jiān)管局和英國財政部等也正在與英國國家網(wǎng)絡安全中心以及各大銀行、保險公司和交易所的代表進行緊急磋商,以評估“克勞德神話”所帶來的網(wǎng)絡安全風險。
英國監(jiān)管機構預計將在未來兩周內向金融行業(yè)通報相關情況。
Anthropic表示,考慮到“克勞德神話”的潛在風險,暫時不會面向公眾發(fā)布這款大模型,并啟動名為“Glasswing”的合作項目,向微軟、亞馬遜、谷歌、蘋果、思科等40多家科技企業(yè)、金融機構以及基礎設施服務商開放了“克勞德神話”預覽版本的訪問權限,使它們能夠對模型進行測試,實現(xiàn)“提前防御”。
“Glasswing”項目的參與方將共享各自利用“克勞德神話”發(fā)現(xiàn)的漏洞信息,分析自身系統(tǒng)、識別高風險漏洞并加快修復。同時,“克勞德神話”的訪問權限受到嚴格限制,以防有人利用這一模型尋找系統(tǒng)漏洞并發(fā)起攻擊。
AI正重塑網(wǎng)絡安全攻防格局
“AI使漏洞從被發(fā)現(xiàn)到被對手利用之間的時間窗口大幅壓縮,過去可能需要數(shù)月的過程,如今可能幾分鐘內就會發(fā)生?!?/p>
美國業(yè)內人士及媒體普遍認為,AI正在從根本上改變網(wǎng)絡安全攻防格局。
思科公司首席安全與信任官格里科認為,AI能力已經(jīng)跨過一個門檻,從根本上改變了保護關鍵基礎設施免受網(wǎng)絡威脅所需的緊迫程度,必須通過多方合作加以應對。美國“眾擊”網(wǎng)絡安全服務公司首席技術官扎伊采夫說,AI使漏洞從被發(fā)現(xiàn)到被對手利用之間的時間窗口大幅壓縮,過去可能需要數(shù)月的過程,如今可能幾分鐘內就會發(fā)生。
美國阿克西奧斯新聞網(wǎng)站的報道指出,美國開放人工智能研究中心(OpenAI)也計劃向少數(shù)合作伙伴發(fā)布一款“具有先進網(wǎng)絡安全功能的產(chǎn)品”。報道說,AI的網(wǎng)絡攻擊能力達到新的臨界點,模型開發(fā)者越來越擔心可能帶來的破壞性后果,因此不愿直接公開發(fā)布。
美國微軟公司前首席研究與戰(zhàn)略官克雷格·蒙迪指出,過去只有大國、大企業(yè)和大型犯罪組織才能掌握的復雜網(wǎng)絡攻擊能力,未來可能會“徹底普及”。美國作家托馬斯·弗里德曼認為,世界上沒有國家能夠獨自解決這個問題。相關國家當務之急是著手開展合作,以防不法分子獲得這種更高層次的網(wǎng)絡能力。
友情鏈接: 政府 高新園區(qū)合作媒體
Copyright 1999-2026 中國高新網(wǎng)chinahightech.com All Rights Reserved.京ICP備14033264號-5
電信與信息服務業(yè)務經(jīng)營許可證060344號主辦單位:《中國高新技術產(chǎn)業(yè)導報》社有限責任公司