潮聲丨用AI之“道”降伏AI之“魔”！浙江的“一等獎(jiǎng)”為何花落這一成果？

人工智能帶來(lái)的顛覆性安全挑戰(zhàn)正在加快凝聚人們的共識(shí)。

11月8日，習(xí)近平主席向2023年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)開幕式發(fā)表視頻致辭指出，“我們倡導(dǎo)安危與共，構(gòu)建更加和平安全的網(wǎng)絡(luò)空間”“深化網(wǎng)絡(luò)安全務(wù)實(shí)合作，有力打擊網(wǎng)絡(luò)違法犯罪行為，加強(qiáng)數(shù)據(jù)安全和個(gè)人信息保護(hù)”，在全球引發(fā)熱烈反響。

兩天后，2022年度浙江省科學(xué)技術(shù)獎(jiǎng)揭曉，由螞蟻集團(tuán)聯(lián)合清華大學(xué)攻克的安全科技領(lǐng)域研究成果《面向海量交易的分布式協(xié)同風(fēng)險(xiǎn)防御關(guān)鍵技術(shù)與系統(tǒng)》（以下簡(jiǎn)稱，分布式風(fēng)險(xiǎn)防御技術(shù)），獲得了浙江省科學(xué)技術(shù)進(jìn)步一等獎(jiǎng)。

眾所周知，中國(guó)科學(xué)院區(qū)域創(chuàng)新能力報(bào)告前10的科創(chuàng)大省的“一等獎(jiǎng)”，歷來(lái)是國(guó)家科技大獎(jiǎng)的重要“候選人”。今年浙江這個(gè)一等獎(jiǎng)，又因切中時(shí)代痛點(diǎn)，而更加備受矚目。它究竟練成了什么“獨(dú)門秘技”扛住了愈加嚴(yán)峻的安全風(fēng)險(xiǎn)與挑戰(zhàn)？又預(yù)示著平臺(tái)經(jīng)濟(jì)乃至浙江省在國(guó)際最前沿科技探索活動(dòng)中，具備多強(qiáng)的實(shí)力、怎樣的擔(dān)當(dāng)？

日前，記者采訪了該項(xiàng)目的主要專家團(tuán)隊(duì)：螞蟻集團(tuán)副總裁、大安全事業(yè)群總裁趙聞飆，清華大學(xué)計(jì)算機(jī)系副主任徐恪，螞蟻集團(tuán)研究員、大安全事業(yè)群首席科學(xué)家王維強(qiáng)。他們的回答是：用AI之“道”，對(duì)抗AI之“魔”。

大模型時(shí)代，給安全防御帶來(lái)巨大挑戰(zhàn) 受訪者供圖

“絕頂功夫”：左右互搏，練成“金剛不壞”的AI之身

先來(lái)看看由多位院士組成的鑒定委員會(huì)是如何評(píng)價(jià)的——

總體評(píng)價(jià)：該項(xiàng)目系統(tǒng)復(fù)雜度高、問(wèn)題難度大，技術(shù)創(chuàng)新性強(qiáng)；

對(duì)“一個(gè)系統(tǒng)”和三項(xiàng)核心技術(shù)的評(píng)價(jià)：其端邊云分布式協(xié)同風(fēng)險(xiǎn)防御體系為國(guó)際首創(chuàng)，基于對(duì)抗學(xué)習(xí)的人工智能模型抗噪防御技術(shù)、可擴(kuò)展的在線動(dòng)態(tài)圖表征對(duì)比學(xué)習(xí)技術(shù)、知識(shí)驅(qū)動(dòng)的自適應(yīng)多維主動(dòng)詢問(wèn)風(fēng)險(xiǎn)分析技術(shù)達(dá)到國(guó)際領(lǐng)先水平。

“院士們的鑒定有兩層含義?！毙煦∠蛴浾呓忉尅?/p>

其一是“國(guó)際首創(chuàng)”，指的是端邊云分布式協(xié)同技術(shù)，比如中國(guó)的移動(dòng)支付技術(shù)和需求全球領(lǐng)先，需要協(xié)同移動(dòng)端、云計(jì)算等技術(shù)，還要保障各方的隱私數(shù)據(jù)安全，這種協(xié)同端、邊、云的分布式協(xié)同風(fēng)險(xiǎn)防御體系，在國(guó)際上此前還沒(méi)有出現(xiàn)過(guò)。

其二是“國(guó)際領(lǐng)先”，指的是針對(duì)人工智能驅(qū)動(dòng)的對(duì)海量數(shù)據(jù)的攻擊，人工防御已經(jīng)不再現(xiàn)實(shí)，只有通過(guò)采用人工智能抗噪防御、在線動(dòng)態(tài)圖表征對(duì)比學(xué)習(xí)等手段，對(duì)風(fēng)險(xiǎn)漏洞進(jìn)行智能化的自動(dòng)檢測(cè)，堵住隨生隨滅的漏洞。

由人工智能驅(qū)動(dòng)的“魔”，在大模型時(shí)代，更是對(duì)傳統(tǒng)防御技術(shù)形成了“降維打擊”。不僅可能引發(fā)技術(shù)崩潰，更帶來(lái)一系列社會(huì)、倫理、道德、法律等全新挑戰(zhàn)，“如果不加以有效應(yīng)對(duì)，互聯(lián)網(wǎng)的風(fēng)險(xiǎn)敞口會(huì)像決堤一樣?！壁w聞飆這樣形容。

會(huì)有內(nèi)生安全問(wèn)題。比如“過(guò)分依賴數(shù)據(jù)”、“數(shù)據(jù)偏見(jiàn)”等。如果給數(shù)據(jù)庫(kù)不斷投喂帶有特定價(jià)值觀的數(shù)據(jù)，那么很容易就產(chǎn)生“數(shù)據(jù)偏見(jiàn)”、“觀點(diǎn)霸權(quán)”等問(wèn)題。

前不久，某公司推出的人工智能學(xué)習(xí)機(jī)被發(fā)現(xiàn)一篇課文《藺相如》的讀后感中，含有歪曲歷史等違背主流價(jià)值觀的內(nèi)容。當(dāng)事企業(yè)事后查明，有毒內(nèi)容是第三方引入的，也就是無(wú)意或有意向數(shù)據(jù)庫(kù)中引入了有害數(shù)據(jù)，使得模型中毒，欺騙了機(jī)器學(xué)習(xí)模型，輸出含毒結(jié)果。

也會(huì)有衍生安全問(wèn)題。比如惡意攻擊者借助人工智能技術(shù)，可以生成假照片、假護(hù)照等實(shí)現(xiàn)AI偽造，還可以模仿人臉、聲音等進(jìn)行詐騙，甚至逼真模仿身份騙過(guò)安全管理員，取得頂級(jí)密鑰?！叭斯ぶ悄芗夹g(shù)脆弱性被惡意利用，就會(huì)讓安全問(wèn)題變得更加棘手?！壁w聞飆說(shuō)。

這樣的事件時(shí)有發(fā)生。今年，就有杭州市民借助ChatGPT杜撰限行取消新聞，鬧得滿城風(fēng)雨。此外，據(jù)業(yè)內(nèi)不完全統(tǒng)計(jì)，僅2022年，我國(guó)AI詐騙案件就達(dá)到了50萬(wàn)件，涉及金額超過(guò)100億元。

用AI對(duì)抗AI來(lái)實(shí)現(xiàn)“邪不壓正”，首要任務(wù)是抗得住來(lái)自四面八方仿真度極高的智能攻擊，練就“金剛不壞”之身。專家們從《射雕英雄傳》的周伯通“左右互搏”功夫中受到啟發(fā)。

在螞蟻集團(tuán)的技術(shù)中，也實(shí)踐了左右手互搏術(shù)：一邊模擬攻擊、一邊自衛(wèi)防守?！拔覀?cè)陂_發(fā)和迭代分布式風(fēng)險(xiǎn)防御技術(shù)時(shí)，每天都會(huì)模擬各種各樣的攻擊?！蓖蹙S強(qiáng)說(shuō)，假設(shè)一個(gè)真實(shí)的人，一天能模擬200次針對(duì)AI模型的攻擊，那么螞蟻集團(tuán)現(xiàn)有的技術(shù)力量已經(jīng)可以實(shí)現(xiàn)2500個(gè)人每天模擬發(fā)起50萬(wàn)次攻擊。

在海量的一攻一防之中，螞蟻集團(tuán)練就了風(fēng)險(xiǎn)防御的“絕頂功夫”，支撐風(fēng)險(xiǎn)防御技術(shù)與系統(tǒng)歷經(jīng)了六次迭代，最終升級(jí)為可信AI+大數(shù)據(jù)驅(qū)動(dòng)的智能安全防御系統(tǒng)，在網(wǎng)絡(luò)安全這條賽道上，跑到了全球領(lǐng)先的位置。

螞蟻集團(tuán)研發(fā)的摩斯隱私計(jì)算一體機(jī)受訪者供圖

厚積薄發(fā)：打造數(shù)實(shí)融合的安全基石

幾個(gè)月前，徐恪在首屆國(guó)際基礎(chǔ)科學(xué)大會(huì)上，有了一個(gè)新發(fā)現(xiàn)：這個(gè)大會(huì)把理論計(jì)算機(jī)與信息科學(xué)也列入了基礎(chǔ)科學(xué)的范疇。他說(shuō)：“的確，從工程到制藥，千行百業(yè)都在利用大數(shù)據(jù)、云計(jì)算提升生產(chǎn)力?！?/p>

基于中國(guó)數(shù)字經(jīng)濟(jì)的領(lǐng)先優(yōu)勢(shì)、制造業(yè)雄厚的實(shí)力，“數(shù)實(shí)融合”成為當(dāng)前數(shù)字經(jīng)濟(jì)發(fā)展的“必選項(xiàng)”，而新型的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)給數(shù)實(shí)融合帶來(lái)了前所未有的挑戰(zhàn)。螞蟻集團(tuán)和清華大學(xué)聯(lián)手取得這個(gè)“一等獎(jiǎng)”的巨大價(jià)值就此凸顯。

“以前AI只是一個(gè)工具，現(xiàn)在AI正在引領(lǐng)加強(qiáng)原創(chuàng)性、引領(lǐng)性科技攻關(guān)，它不僅僅只是一項(xiàng)新技術(shù)，更是開啟一個(gè)新世界的密鑰，最終將會(huì)嵌入整個(gè)經(jīng)濟(jì)運(yùn)行體系中，而我們開發(fā)的分布式風(fēng)險(xiǎn)防御技術(shù)就是為了打造一座‘?dāng)?shù)實(shí)融合’的安全基石?！壁w聞飆說(shuō)。

“安全科技是數(shù)字技術(shù)的重要組成，同樣要做到頂天又立地?！痹谮w聞飆看來(lái)，就像一個(gè)硬幣的兩面，安全科技的突破和經(jīng)濟(jì)效益的提升，就是矛盾統(tǒng)一的，安全不僅僅是防御，更能促進(jìn)發(fā)展和創(chuàng)新。加速基礎(chǔ)科學(xué)研究以尋求顛覆性突破，探索人工智能與安全技術(shù)深度融合，是應(yīng)對(duì)當(dāng)前安全挑戰(zhàn)的華山一條路。

新型網(wǎng)絡(luò)安全風(fēng)險(xiǎn)已經(jīng)存在于數(shù)據(jù)要素流轉(zhuǎn)的所有環(huán)節(jié)中。螞蟻集團(tuán)從最初因?yàn)楹Ａ拷灰讛?shù)據(jù)的安全而涉足安全領(lǐng)域，一步步從專家經(jīng)驗(yàn)，到淺層機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、預(yù)訓(xùn)練模型，走到今天的基礎(chǔ)大模型的演變和應(yīng)用，歷經(jīng)6次迭代，步入了“國(guó)際首創(chuàng)”的無(wú)人區(qū)。自身也從企業(yè)需求出發(fā)，自覺(jué)扛起了引領(lǐng)性科技創(chuàng)新的國(guó)家戰(zhàn)略擔(dān)當(dāng)。螞蟻集團(tuán)已與全球30多所知名院?？蒲泻献?，并組建了九大安全實(shí)驗(yàn)室，開展前沿安全科技研究。

在數(shù)據(jù)流傳的各個(gè)關(guān)鍵節(jié)點(diǎn)，螞蟻集團(tuán)安全科技都有出色的獨(dú)創(chuàng)性成果。

來(lái)自螞蟻集團(tuán)天穹實(shí)驗(yàn)室的團(tuán)隊(duì)，在天府杯競(jìng)賽現(xiàn)場(chǎng)受訪者供圖

比如，能夠自動(dòng)挖掘關(guān)鍵數(shù)字化基礎(chǔ)設(shè)施及供應(yīng)鏈中潛在未知漏洞的“天穹實(shí)驗(yàn)室”，獲得了國(guó)家網(wǎng)絡(luò)安全優(yōu)秀創(chuàng)新成果大賽、天府杯國(guó)際網(wǎng)絡(luò)安全大賽等多個(gè)獎(jiǎng)項(xiàng)；

再如，用獨(dú)特的隱私算法實(shí)現(xiàn)數(shù)據(jù)“可用不可見(jiàn)、可算不可識(shí)”的“隱語(yǔ)”系統(tǒng)，已經(jīng)廣泛運(yùn)用到了金融、醫(yī)療等領(lǐng)域，有效防范金融詐騙事件發(fā)生。

“數(shù)字時(shí)代，技術(shù)變革太快了，沒(méi)有一招鮮的解決方案了?！蓖蹙S強(qiáng)說(shuō)，尤其是大模型面世后，在訓(xùn)練過(guò)程中需要安全監(jiān)控，在流入市場(chǎng)時(shí)需要質(zhì)檢，在進(jìn)入市場(chǎng)后仍然需要可控的使用方式。

針對(duì)大模型時(shí)代的機(jī)遇與挑戰(zhàn)，螞蟻集團(tuán)正通過(guò)大模型的涌現(xiàn)能力探索下一代安全科技：一是用大模型保障安全，比如基于安全基座模型能力，持續(xù)升級(jí)全方位全鏈路的智能風(fēng)險(xiǎn)防御體系；二是保障大模型技術(shù)本身的安全，螞蟻集團(tuán)自主研發(fā)了大模型安全一體化方案“蟻天鑒”，同時(shí)也在今年世界人工智能大會(huì)上獲得了鎮(zhèn)館之寶。

所謂“蟻鑒”，就是大模型安全測(cè)評(píng)方案，通過(guò)誘導(dǎo)式對(duì)抗生成技術(shù)，對(duì)大模型進(jìn)行誘導(dǎo)式問(wèn)答，找出弱點(diǎn)和漏洞。所謂“天鑒”，就是大模型風(fēng)險(xiǎn)防御方案，基于智能風(fēng)控技術(shù)，幫助大模型擋住惡意提問(wèn)。

“一旦大模型在細(xì)分領(lǐng)域大規(guī)模應(yīng)用，那么‘蟻天鑒’就有可能成為另一塊基石?！壁w聞飆認(rèn)為，安全科技研究需要長(zhǎng)期堅(jiān)持、久久為功。面對(duì)生成式人工智能正在帶來(lái)的深度智能時(shí)代，安全科技需要隨著人工智能的對(duì)抗升級(jí)而不斷迭代、不斷完善，螞蟻集團(tuán)與清華大學(xué)等專家學(xué)者要做的還遠(yuǎn)未窮盡。

"數(shù)實(shí)融合”需要一塊堅(jiān)硬的安全基石受訪者供圖

向?qū)嵍好嫦驊?yīng)用和生態(tài)，高效產(chǎn)業(yè)協(xié)作

剛剛過(guò)去的雙十一，一些中小企業(yè)也許會(huì)有這樣的困擾：在網(wǎng)絡(luò)平臺(tái)投放的營(yíng)銷成本，都被薅羊毛群體薅走，投放效果如泥牛入海。還有流量造假、數(shù)據(jù)欺詐等等諸多痛點(diǎn)。

“我國(guó)有幾千萬(wàn)中小微商家和企業(yè)，都需要提升數(shù)字化經(jīng)營(yíng)的安全能力。”王維強(qiáng)說(shuō)，螞蟻集團(tuán)一直在堅(jiān)持向?qū)嵍?，最典型的是通過(guò)免費(fèi)服務(wù)的方式，將諸多安全能力給到生態(tài)小微企業(yè)，幫助他們解決數(shù)字化轉(zhuǎn)型中“不敢”和“不會(huì)”的問(wèn)題。

在王維強(qiáng)看來(lái)，數(shù)字科技企業(yè)向?qū)嵍?，有助于增?qiáng)實(shí)體經(jīng)濟(jì)的韌性和活力，也有助于充分激活數(shù)字技術(shù)的價(jià)值。因?yàn)閱未颡?dú)斗已經(jīng)不適應(yīng)這一時(shí)代的科技創(chuàng)新和產(chǎn)業(yè)變革，安全更需要面向應(yīng)用和生態(tài)，高效技術(shù)和產(chǎn)業(yè)協(xié)作是抓住技術(shù)變革機(jī)遇的關(guān)鍵。

向?qū)嵍?，就能在整個(gè)生態(tài)中，找到更多數(shù)實(shí)融合的結(jié)合點(diǎn)。

近一兩年，不少手機(jī)廠商與螞蟻集團(tuán)合作研發(fā)了一項(xiàng)名叫“可信隱私沙盒”的技術(shù)，這個(gè)沙盒部署了用于支付寶科技反詐的技術(shù)能力。這些沙盒當(dāng)中，只要部署“電信詐騙可疑感知模型”，就能使得風(fēng)險(xiǎn)感知、電詐定性均可在用戶個(gè)人的手機(jī)上完成，從而實(shí)現(xiàn)更有效的源頭上風(fēng)險(xiǎn)治理。

這種向?qū)嵍耐卣剐?，是可以預(yù)見(jiàn)的無(wú)限廣闊。單單這款“可信隱私沙盒”，通過(guò)“科技創(chuàng)新+產(chǎn)業(yè)聯(lián)防”的方式，可以通過(guò)手機(jī)系統(tǒng)進(jìn)一步賦能各類應(yīng)用，提高整體風(fēng)控水平，未來(lái)還會(huì)運(yùn)用到更多場(chǎng)景、更多產(chǎn)業(yè)中去。

數(shù)字技術(shù)向?qū)嵍?，擁有巨大的?yīng)用藍(lán)海 受訪者供圖

“向?qū)嵍臄?shù)字技術(shù)，確實(shí)正在成為實(shí)體經(jīng)濟(jì)的基礎(chǔ)設(shè)施?！毙煦〗榻B，他曾創(chuàng)作《賽博新經(jīng)濟(jì)》一書，重點(diǎn)闡述了互聯(lián)網(wǎng)產(chǎn)生以來(lái)對(duì)經(jīng)濟(jì)系統(tǒng)帶來(lái)的重要影響，由螞蟻集團(tuán)所代表的數(shù)字經(jīng)濟(jì)中堅(jiān)力量，已經(jīng)成為經(jīng)濟(jì)運(yùn)行體系中的基礎(chǔ)性支撐，在許多領(lǐng)域向世界輸出了合作范例。

事實(shí)上，螞蟻集團(tuán)就在發(fā)揮這樣的作用。

橫版、豎版、圓形、三角形，工作證、學(xué)生證……在擁有30多種官方證件的菲律賓，如何讓市民用上安全的電子錢包？

“針對(duì)菲律賓證件繁多的情況，我們?cè)O(shè)計(jì)了一套通用開發(fā)框架，來(lái)適配不同版式的證件，把注冊(cè)時(shí)間由原來(lái)的最快5天縮短到3分鐘左右的時(shí)間?！壁w聞飆所舉的案例，是螞蟻集團(tuán)利用技術(shù)優(yōu)勢(shì)幫助東南亞地區(qū)進(jìn)入移動(dòng)支付時(shí)代的一個(gè)縮影。

為了響應(yīng)共建“一帶一路”，螞蟻集團(tuán)輸出身份安全、業(yè)務(wù)安全、產(chǎn)業(yè)風(fēng)控、合規(guī)安全等全鏈路的安全風(fēng)控產(chǎn)品與服務(wù)，支撐印尼、馬來(lái)西亞、菲律賓等14個(gè)國(guó)家和地區(qū)的移動(dòng)支付安全保障及數(shù)字金融普惠。

“走出去”背后的技術(shù)支撐，則是以人像目標(biāo)為核心的視覺(jué)智能研究。今年，由螞蟻集團(tuán)與清華大學(xué)共同完成的“無(wú)約束人像目標(biāo)智能感知與理解”，獲得了“吳文俊人工智能自然科學(xué)獎(jiǎng)”一等獎(jiǎng)。這項(xiàng)研究揭示了人臉目標(biāo)“不變性特征學(xué)習(xí)”的重要性等三大重要科學(xué)發(fā)現(xiàn)，向行業(yè)開放的人臉識(shí)別平臺(tái)，在實(shí)現(xiàn)把人臉身份識(shí)別精度大幅提升的同時(shí)，還可將誤報(bào)率降低4倍。目前，螞蟻集團(tuán)通過(guò)這項(xiàng)技術(shù)成果研發(fā)的可信身份認(rèn)證產(chǎn)品與服務(wù)，已經(jīng)成為多國(guó)互聯(lián)網(wǎng)APP的第一道“門禁”，并且覆蓋了電信、金融、公眾服務(wù)等10多個(gè)行業(yè)及領(lǐng)域。

更有想象的向?qū)嵍诎l(fā)生。隨著東南亞地區(qū)移動(dòng)支付能力的建設(shè)，螞蟻集團(tuán)在中國(guó)與東南亞、東南亞與東南亞之間，打開了一條資源要素流動(dòng)的通道，這是提升開放能級(jí)的關(guān)鍵基礎(chǔ)設(shè)施，甚至可能將中國(guó)的企業(yè)、中國(guó)的產(chǎn)業(yè)帶去更廣闊的天地。