前段時(shí)間，一些視頻在網(wǎng)上廣泛傳播。有人在1994年電視劇《射雕英雄傳》中使用人工智能技術(shù)，將黃蓉一角的扮演者朱茵換成了楊冪，效果幾可亂真；還有人將人工合成的“美國(guó)前總統(tǒng)奧巴馬”放在境外社交媒體上，吐糟現(xiàn)任總統(tǒng)特朗普是“徹頭徹尾的笨蛋”。
人們看了之后，大多當(dāng)做網(wǎng)絡(luò)段子一笑而過(guò)，但仔細(xì)想想的話，如果你的臉也被用來(lái)制作假視頻、假新聞，你還能笑得出來(lái)嗎？
實(shí)際上，人工智能技術(shù)的濫用和因算法漏洞引起的安全問(wèn)題，已經(jīng)引起了業(yè)內(nèi)人士的高度警覺(jué)，一場(chǎng)看不見(jiàn)硝煙的“攻防戰(zhàn)”，www.haojoj.com，正日趨白熱化。
危險(xiǎn)逼近
人工智能正深刻地改變著人們的生產(chǎn)生活方式，但今年以來(lái)，利用人工智能技術(shù)造假的新聞屢見(jiàn)報(bào)端，也引發(fā)了越來(lái)越多的公眾關(guān)注。
“公眾對(duì)人工智能技術(shù)抱有希望和想象，相信它能為生活的方方面面帶來(lái)改變，但我們也應(yīng)當(dāng)正視，當(dāng)前人工智能技術(shù)還處在比較初步的發(fā)展階段，還面臨著一些挑戰(zhàn)。”清華大學(xué)教授、該校人工智能研究院基礎(chǔ)理論研究中心主任朱軍坦言。
冰凍三尺非一日之寒。早在幾年前，學(xué)術(shù)界和產(chǎn)業(yè)界已經(jīng)感受到危機(jī)在悄悄逼近。
“這幾年在各種各樣的學(xué)術(shù)會(huì)議上，我們能聽(tīng)到越來(lái)越多關(guān)切的聲音，有關(guān)人工智能安全的論文也是呈指數(shù)級(jí)增長(zhǎng)。”瑞萊智慧（RealAI）公司CEO田天說(shuō)。該公司是清華大學(xué)人工智能研究院重點(diǎn)孵化的一家高新技術(shù)企業(yè)。
人工智能濫用也已引起國(guó)家有關(guān)部門(mén)高度關(guān)注。5月28日，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布了《數(shù)據(jù)安全管理辦法（征求意見(jiàn)稿）》，其中明確表示，KUKA機(jī)器人維修，網(wǎng)絡(luò)運(yùn)營(yíng)者利用大數(shù)據(jù)、人工智能等技術(shù)自動(dòng)合成新聞、博文、帖子、評(píng)論等信息，應(yīng)以明顯方式標(biāo)明“合成”字樣；不得以謀取利益或損害他人利益為目的自動(dòng)合成信息。
除了技術(shù)的濫用，人工智能本身存在的算法漏洞也令人擔(dān)憂。幾個(gè)月前，比利時(shí)魯汶大學(xué)的研究人員發(fā)布了一則視頻，實(shí)驗(yàn)者通過(guò)在肚子上貼一張打印出來(lái)的圖片，就能夠逃脫智能監(jiān)控系統(tǒng)的識(shí)別，實(shí)現(xiàn)“隱身”；而想要把“隱身術(shù)”傳給同伴也很簡(jiǎn)單，只要把這張紙遞給他就好了。
“可以設(shè)想，如果這項(xiàng)技術(shù)被犯罪分子掌握，他們就能夠很容易躲避智能安防系統(tǒng)，給公共安全帶來(lái)極大威脅。”田天說(shuō)。
“道”高一尺必先“魔”高一丈
2019年6月，清華大學(xué)人工智能研究院揭牌成立，以“一個(gè)核心、兩個(gè)融合”作為發(fā)展戰(zhàn)略，即以人工智能基礎(chǔ)理論和基本方法研究為核心，積極推進(jìn)大跨度的學(xué)科交叉融合，積極推進(jìn)大范圍的技術(shù)與產(chǎn)業(yè)、學(xué)校與企業(yè)融合。
該研究院院長(zhǎng)、中國(guó)科學(xué)院院士張鈸認(rèn)為，作為研究性機(jī)構(gòu)，清華大學(xué)人工智能研究院的本分是搞好學(xué)術(shù)研究，“但是人工智能又與應(yīng)用結(jié)合相當(dāng)緊密，因此研究院不僅僅是開(kāi)開(kāi)會(huì)，我們的研究一定要產(chǎn)生出算法、孵化出新產(chǎn)業(yè)，甚至成為人工智能界的‘BAT’”。
在這一思路的指引下，瑞萊智慧應(yīng)運(yùn)而生，其核心研發(fā)團(tuán)隊(duì)來(lái)自清華大學(xué)、北京大學(xué)、中科院等，致力于打造安全、可靠、可解釋的第三代人工智能，提供工業(yè)檢測(cè)、預(yù)測(cè)性維護(hù)、金融風(fēng)控、人工智能系統(tǒng)安全評(píng)測(cè)與防護(hù)等服務(wù)。
“在技術(shù)層面，人工智能安全會(huì)是一個(gè)持續(xù)攻防的過(guò)程。”田天說(shuō)，“攻擊者會(huì)采用新的方法來(lái)進(jìn)行攻擊，而防御者也需要適應(yīng)動(dòng)態(tài)變化的攻擊場(chǎng)景。如果要占據(jù)主動(dòng)權(quán)，就要對(duì)未來(lái)可能潛在的攻防場(chǎng)景做預(yù)演，并為應(yīng)對(duì)潛在的風(fēng)險(xiǎn)提前設(shè)計(jì)可行方案。”
瑞萊智慧算法科學(xué)家蕭子豪介紹，他們很早就關(guān)注到網(wǎng)上假視頻、假圖片的問(wèn)題，一直在想能否利用清華積累的技術(shù)優(yōu)勢(shì)，去防止人工智能技術(shù)的濫用。
但是，想練就一副“火眼金睛”，就需要大量高質(zhì)量的數(shù)據(jù)去訓(xùn)練計(jì)算機(jī)。
近期，瑞萊智慧將工作的重點(diǎn)放在了換臉假視頻的檢測(cè)上，研發(fā)團(tuán)隊(duì)利用清華大學(xué)人工智能研究院在深度生成模型方面的積累，通過(guò)生成更加逼真的假視頻，訓(xùn)練出了一個(gè)更加可靠的模型來(lái)檢測(cè)假視頻。經(jīng)測(cè)試，這一模型的識(shí)別準(zhǔn)確率超過(guò)了99%，能夠覆蓋市面上絕大多數(shù)換臉技術(shù)生成的假視頻，達(dá)到了“真的不誤殺，假的不漏判”的目標(biāo)。
打開(kāi)“黑盒”
張鈸在2016年中國(guó)計(jì)算機(jī)大會(huì)上提出了“后深度學(xué)習(xí)時(shí)代的人工智能”，機(jī)器人維修，此后又進(jìn)一步提出了“第三代人工智能”的概念，曾引起廣泛關(guān)注。
這是因?yàn)楫?dāng)前主流的基于深度學(xué)習(xí)的人工智能技術(shù)即第二代人工智能，存在著一個(gè)難以逾越的“天花板”，業(yè)內(nèi)人士稱(chēng)之為“黑盒”。
“當(dāng)前人工智能的算法越來(lái)越復(fù)雜，它告訴你明天要下雨，但是你完全不知道它是怎么做的決策，又談何信賴呢？”田天坦言，如果被人利用，“黑盒”將帶來(lái)嚴(yán)重的安全問(wèn)題。
魯汶大學(xué)的“隱身術(shù)”原理其實(shí)就是針對(duì)這種算法漏洞，專(zhuān)門(mén)生成一些噪點(diǎn)，來(lái)誘導(dǎo)人工智能識(shí)別出錯(cuò)。
瑞萊智慧也做了類(lèi)似的嘗試。技術(shù)人員研發(fā)了一種帶有噪點(diǎn)的“眼鏡”，只要戴上，就能通過(guò)商用智能手機(jī)的刷臉解鎖。
多年來(lái)，清華大學(xué)人工智能研究院一直在攻防技術(shù)上深耕，曾在谷歌公司組織的“對(duì)抗樣本攻防競(jìng)賽”上獲得了所有任務(wù)的冠軍。創(chuàng)辦瑞萊智慧后，研發(fā)團(tuán)隊(duì)利用新技術(shù)做了更精確的建模，更加深入地研究如何利用白盒的替代模型來(lái)攻擊黑盒的受害模型。通過(guò)發(fā)現(xiàn)真實(shí)存在的、危害更大的漏洞，團(tuán)隊(duì)進(jìn)一步有針對(duì)性地設(shè)計(jì)防御算法來(lái)提升整個(gè)人工智能系統(tǒng)的安全性。
今年5月，清華大學(xué)人工智能研究院與瑞萊智慧聯(lián)合發(fā)布了人工智能安全平臺(tái)——“RealSafe對(duì)抗攻防平臺(tái)”，它能夠提供多種攻擊與防御算法，開(kāi)展全面、細(xì)致的攻擊防御算法的評(píng)測(cè)與比較。此外，通過(guò)該平臺(tái)，研究人員可以很容易地開(kāi)展人工智能安全方面的學(xué)習(xí)和實(shí)訓(xùn)，幫助更多的人來(lái)關(guān)心和研究人工智能安全。
“隨著人工智能技術(shù)滲透到人們生活的各個(gè)方面，因技術(shù)濫用、算法漏洞等導(dǎo)致的安全問(wèn)題也隨之而來(lái)。對(duì)此，公眾需要提高自我保護(hù)意識(shí)。”田天呼吁。