下一個震驚全球被黑客鎖定的“獵物”是什么?這個答案或?qū)⒃?0月24日舉辦的國際安全極客大賽GeekPwn硅谷·上海站揭曉。日前，GeekPwn(極棒) 正式向全球頂尖黑客們發(fā)出邀請——以500萬獎金池懸賞打破思維枷鎖的創(chuàng)新攻破項目。
今年，GeekPwn特別增設(shè) “人工智能安全挑戰(zhàn)專項”，鼓勵極客從對抗的思路出發(fā)，協(xié)助AI進行安全性的預(yù)演分析，從而尋找AI潛藏的風(fēng)險并不斷幫助其完善，幫助人工智能安全健康成長。也許有朝一日，黑客可以成為保護人類的那群人。
不斷突破創(chuàng)新 黑客與AI打響欺騙與反欺騙之戰(zhàn)
2014年，“沒有規(guī)則”的極棒大賽橫空出世，2015年設(shè)置了指紋專場、 SSL/TLS 協(xié)議安全專場，2016年更是首創(chuàng)機器特工挑戰(zhàn)賽和跨次元CTF賽。2017年，GeekPwn 將重點放在了備受關(guān)注的“人工智能安全挑戰(zhàn)賽”。同時，主辦方還將與項目聯(lián)合發(fā)起方Next Idea(騰訊創(chuàng)新大賽)、獨家AI協(xié)辦機構(gòu)機器之心等合作伙伴，就AI安全的社會及專業(yè)議題展開前所未有的前沿探討。
當(dāng)AI可以被誤導(dǎo)，人類的未來將會怎樣?如今，人工智能已經(jīng)廣泛應(yīng)用于生活的諸多場景中，包括實時語音翻譯、目標(biāo)識別、自動駕駛等等。率先關(guān)注到人工智能可能暴露出的諸多風(fēng)險，極棒實驗室在2015年底開始了AI對抗的研究，并廣泛接觸和招募AI領(lǐng)域的頂尖人才，很快，在2016年的GeekPwn美國站上，生成對抗網(wǎng)絡(luò)(GANs)之父Ian Goodfellow就展示了“對抗性圖像”在現(xiàn)實物理世界欺騙機器學(xué)習(xí)的效果。人工智能在圖像領(lǐng)域可能被蒙騙的證實，引發(fā)了極棒實驗室的思考，這些看似AI的錯誤和不完善，在黑客眼里就成了可以被利用的漏洞。
根據(jù)功能區(qū)分，人工智能安全挑戰(zhàn)賽將分為 PWN AI 與 AI PWN 兩部分。PWN AI簡單來說就是利用AI中存在的漏洞或錯誤，“黑掉”它，使它做出錯誤判斷或讓程序崩潰。舉例來說，比如突破人臉識別手機解鎖，以任意人臉解鎖手機;在自動駕駛系統(tǒng)中找到安全問題，使其不能夠正確識別障礙物的存在。
而AI PWN則是讓AI成為你攻擊其他目標(biāo)的工具。舉例來說，用人工智能的方法進行語音合成，生成目標(biāo)模擬對象的語音并以高的概率通過語音身份驗證系統(tǒng);用人工智能的方法進行動作的判別，從視頻中識別出門禁密碼輸入并達到較高的正確識別概率;用人工智能的方法識別復(fù)雜的機器驗證碼，正確識別率較高，使得目標(biāo)驗證碼機制失去作用。
是上演“科幻大片”誤導(dǎo)似乎已具備超強能力的AI?還是演繹現(xiàn)實版的“AI特工入侵人類”?不懼一切未知，黑客會把一切不可能變?yōu)榭赡堋?/p>
無所不PWN挑戰(zhàn)一切 白帽黑客保護世界
除了AI挑戰(zhàn)專項，GeekPwn將延續(xù)“無所不PWN”的傳統(tǒng)，鼓勵選手將市場在售的所有智能設(shè)備、物聯(lián)網(wǎng)(IoT)產(chǎn)品或產(chǎn)品中的安全模塊作為目標(biāo)。在合理的攻擊條件下，實現(xiàn)越權(quán)控制、越權(quán)訪問數(shù)據(jù)或者突破原有安全機制。
用鼻尖解鎖手機、任意遠(yuǎn)程劫持世界任一用戶的通訊、發(fā)現(xiàn)影響全球數(shù)億網(wǎng)民的骨干網(wǎng)絡(luò)設(shè)備漏洞……在GeekPwn上，白帽黑客們將他們的逆向思維、奇思妙想的腦洞發(fā)揮到了極致。在向世界秀出他們的才華的同時，也幫助了上百個廠商及產(chǎn)品去修復(fù)安全問題。對此，GeekPwn創(chuàng)辦人、碁震KEEN公司CEO王琦就曾表達：在極棒上面，每個選手成功的背后，就成功的避免了一次互聯(lián)網(wǎng)的癱瘓，避免了千萬人隱私的泄露，避免了一次可能難以計數(shù)的損失。白帽黑客實際上在默默保護全人類。
附：GeekPwn2017硅谷·上海站比賽規(guī)則
（報名官網(wǎng)：www.geekpwn.org）
無所不PWN
目標(biāo)范圍：
市場在售的所有智能設(shè)備、物聯(lián)網(wǎng)(IoT)產(chǎn)品或產(chǎn)品中的安全模塊。在合理的攻擊條件下，對于范圍內(nèi)的產(chǎn)品或者模塊，實現(xiàn)越權(quán)控制、越權(quán)訪問數(shù)據(jù)或者突破原有安全機制。參考
參考實例：實例
黑客通過一臺受惡意軟件感染的打印機，從物理隔絕的網(wǎng)絡(luò)中提取數(shù)據(jù)，并通過激光將數(shù)據(jù)發(fā)給裝有攝像頭的無人機。
智能穿戴可能透露使用者的密碼：恢復(fù)出用戶手掌的運動軌跡，隨后獲得訪問ATM機、電子門禁以及用鍵盤控制的企業(yè)服務(wù)器的密碼。
PWN AI范圍
目標(biāo)范圍：
對于已發(fā)布的 AI 服務(wù)、產(chǎn)品、庫、框架，采取手段使得在學(xué)習(xí)或者實際使用中，發(fā)生意外情況導(dǎo)致系統(tǒng)停止工作或系統(tǒng)被欺騙、誤導(dǎo)，做出違反常規(guī)或者錯誤的判斷、決策。方向包括但不限于圖像識別、語音識別、自然語言處理、自動駕駛、惡意軟件識別等，AI 框架主要是指流行框架如 Tensorflow、TorchNet、Caffe 等。
參考實例：
突破人臉識別手機解鎖，以任意人臉解鎖手機。
在自動駕駛系統(tǒng)中找到安全問題，使其不能夠正確識別障礙物的存在。
在AI開源框架中找到問題，使得部署的AI系統(tǒng)在得到某種輸入的情況下停止響應(yīng)。
AI PWN
場景：
選手以AI(包括圖像，語音，自然語言，自動駕駛等各個領(lǐng)域的各種人工智能方法)作為主要或者輔助的手段，突破原有系統(tǒng)設(shè)定的限制，導(dǎo)致目標(biāo)系統(tǒng)的功能、機制失效，或者信息泄露。參考實例
參考實例：
用人工智能的方法進行語音合成，生成目標(biāo)模擬對象的語音并以高的概率通過語音身份驗證系統(tǒng)。
用人工智能的方法進行動作的判別，從視頻中識別出門禁密碼輸入并達到較高的正確識別概率。
用人工智能的方法識別復(fù)雜的機器驗證碼，正確識別率較高，使得目標(biāo)驗證碼機制失去作用。
數(shù)字化要一盤棋更要各自為戰(zhàn)
分享到微信 ×
打開微信，點擊底部的“發(fā)現(xiàn)”，
使用“掃一掃”即可將網(wǎng)頁分享至朋友圈。