AI時(shí)代，人工智能和黑客之間誰(shuí)更勝一籌？ GeekPwn2017給你答案。10月24日，在中國(guó)上海舉辦的GeekPwn2017國(guó)際安全極客大賽的現(xiàn)場(chǎng)，上演了一場(chǎng)白帽黑客與人工智能的巔峰對(duì)決，展示了令人驚嘆的人工智能項(xiàng)目破解秀，揭露了目前人工智能發(fā)展過(guò)程所存在的安全問(wèn)題。

　　KEEN公司CEO、GeekPwn大賽發(fā)起和創(chuàng)辦人王琦表示，人工智能對(duì)抗或?qū)⒊蔀楹诳偷慕K極目標(biāo)。GeekPwn作為全球首個(gè)探索人工智能與專業(yè)安全的前沿平臺(tái)，始終保持敏銳的科技洞察力，在創(chuàng)建之初就開(kāi)始關(guān)注AI安全問(wèn)題。2017年GeekPwn更是將人工智能作為全年的重點(diǎn)項(xiàng)目，聯(lián)合NEXT IDEA（騰訊創(chuàng)新大賽）發(fā)起“人工智能安全挑戰(zhàn)賽”，同時(shí)特別增設(shè)“AI仿聲驗(yàn)聲攻防賽”，去探索人工智能時(shí)代下的安全問(wèn)題。

　　作為國(guó)內(nèi)首創(chuàng)的人工智能對(duì)抗新玩法，黑客與人工智能之間的博弈無(wú)疑成為本屆GeekPwn大賽最大的亮點(diǎn)。

　　機(jī)械臂顛覆“立字為據(jù)”模仿人類筆跡難辨真假

　　將人工智能作為攻擊手段僅僅只是人類的設(shè)想嗎？GeekPwn2017就用 AI 顛覆了大眾傳統(tǒng)認(rèn)知中的“立字為據(jù)”。由于個(gè)人書(shū)寫習(xí)慣等因素影響，筆跡具有特殊性，因此被模仿的難度相對(duì)較高。但中國(guó)金融認(rèn)證中心（CFCA）團(tuán)隊(duì)卻利用一個(gè)AI機(jī)械臂，就可以模仿中國(guó)著名科幻作家陳楸帆的字跡，達(dá)到了肉眼難以辨別的逼真程度。

　　在現(xiàn)場(chǎng)，選手通過(guò)構(gòu)建一個(gè)深度學(xué)習(xí)“DeepWriting“，使機(jī)械臂可以在紙張上隨意書(shū)寫，輕松“模仿”人的筆跡，甚至可以達(dá)到筆觸、線條的寬度和字母的傾斜度都難辨真假的程度。試想一下，假設(shè)別有用心者利用這樣的機(jī)器臂假冒他人筆跡，就可能會(huì)造成受害者的財(cái)產(chǎn)損失，甚至是更為嚴(yán)重的后果。

　　你的聲音竟并非“唯一”？合成語(yǔ)音可“欺騙”聲紋識(shí)別

　　除了筆跡可以被模仿，獨(dú)一無(wú)二的聲音也可以被復(fù)制。在GeekPwn2017特別開(kāi)設(shè)的場(chǎng)景賽——“AI仿聲驗(yàn)聲攻防賽”上就上演了合成語(yǔ)音與聲紋驗(yàn)證系統(tǒng)的對(duì)抗。語(yǔ)音識(shí)別系統(tǒng)看似成熟，但在白帽黑客的挑戰(zhàn)下，竟也出現(xiàn)了漏洞，變得不堪一擊。

　　在通過(guò)激烈的初賽選拔后，“Maxmon”、SmartParrot、“有點(diǎn)意思”、“神牛gogo”及“清晨李唐王”共計(jì)五組隊(duì)伍入圍本次“AI仿聲驗(yàn)聲攻防賽”決賽，向四個(gè)具有聲紋識(shí)別功能的設(shè)備發(fā)起挑。令人驚喜的是，本次的比賽的聲音樣本由當(dāng)下最火熱的游戲《王者榮耀》里的英雄人物——妲己的配音者提供。

　　根據(jù)比賽規(guī)則，各位選手提前學(xué)習(xí)了妲己聲音樣本的聲紋特征，合成語(yǔ)音音頻，并在現(xiàn)場(chǎng)對(duì)若干語(yǔ)音驗(yàn)證系統(tǒng)發(fā)起攻擊。在GeekPwn2017現(xiàn)場(chǎng)，五組選手成功實(shí)現(xiàn)了對(duì)語(yǔ)音驗(yàn)證系統(tǒng)的突破，“欺騙”了目標(biāo)系統(tǒng)，使其無(wú)法做出正確的判斷。

　　最終，“清晨李唐王”成功破解三個(gè)聲紋驗(yàn)證設(shè)備獲得第一名，“神牛gogo”團(tuán)隊(duì)獲得第二名，“SmartParrot”團(tuán)隊(duì)獲得第三名，“有點(diǎn)意思“、“maxmon”團(tuán)隊(duì)分列四、五名。

　　這一破解展示也讓大眾意識(shí)到，聲紋識(shí)別技術(shù)仍存在安全隱患，并非絕對(duì)安全�！癆I 仿聲驗(yàn)聲攻防賽”主評(píng)委鄭方教授表示，就目前生物特征識(shí)別技術(shù)的發(fā)展來(lái)看，聲紋本身因語(yǔ)音信號(hào)所含信息量的豐富性而是最安全的。但目前市面上所見(jiàn)的一些帶聲紋識(shí)別功能的智能語(yǔ)音產(chǎn)品，普遍對(duì)安全性考慮不夠，沒(méi)有防攻擊技術(shù)支撐。這是被黑客攻陷的主要原因。

　　為幫助人工智能安全成長(zhǎng)，GeekPwn2017還將邀請(qǐng)包括加州大學(xué)伯克利分校宋曉東教授、谷歌大腦團(tuán)隊(duì)頂尖工程師、計(jì)算機(jī)視覺(jué)與圖像處理博士Alex Kurakin 、谷歌機(jī)器學(xué)習(xí)研究員Ian Fischer、加州大學(xué)伯克利分校博士后研究員 Bo Li、加州大學(xué)河濱分校教授錢志云等在內(nèi)的人工智能領(lǐng)域頂級(jí)專家學(xué)者參加11月13日于美國(guó)硅谷舉辦的GeekPwn2017硅谷站，繼續(xù)解鎖人工智能安全領(lǐng)域的前瞻觀點(diǎn)及技術(shù)分享。

　　人工智能視覺(jué)識(shí)別能否被“欺騙”？AI學(xué)習(xí)算法存在哪些安全問(wèn)題？這些頂級(jí)安全專家又將帶來(lái)怎樣的全新AI安全觀點(diǎn)？答案盡在GeekPwn2017硅谷站。