“隨著人工智能和大數(shù)據(jù)技術(shù)的應(yīng)用落地，特別是在自動(dòng)駕駛、人臉識(shí)別、醫(yī)療診斷等安全敏感型的場(chǎng)景應(yīng)用越來越多，AI和數(shù)據(jù)安全問題也受到廣泛關(guān)注。”近日，360人工智能研究院院長(zhǎng)鄧亞峰受邀參加首屆清華大學(xué)人工智能合作與治理國(guó)際論壇，并就“數(shù)據(jù)與人工智能安全”議題發(fā)表演講。
鄧亞峰指出，由于人工智能是快速出現(xiàn)的新應(yīng)用，AI應(yīng)用生產(chǎn)和部署的各個(gè)環(huán)節(jié)均暴露出一系列安全風(fēng)險(xiǎn)。比如在人工智能框架方面，深度學(xué)習(xí)框架及依賴組件可能帶有漏洞，存在容易被忽視的安全隱患;在人工智能應(yīng)用方面，存在模型文件竊取、數(shù)據(jù)流降維攻擊等安全風(fēng)險(xiǎn);在人工智能算法方面，由于神經(jīng)網(wǎng)絡(luò)模型的黑盒屬性(不可解釋性)，容易導(dǎo)致一系列以模型誤判為目標(biāo)的惡意攻擊。
這就容易造成嚴(yán)重的數(shù)據(jù)泄露和安全風(fēng)險(xiǎn)。“我們?cè)趯?shí)踐中發(fā)現(xiàn)了大量以隱私竊取為目標(biāo)的攻擊，如模型反轉(zhuǎn)攻擊、模型萃取攻擊、成員推斷攻擊等。”鄧亞峰表示。
他認(rèn)為，雖然從技術(shù)角度看，人工智能體很長(zhǎng)一段時(shí)間都無法擁有真正的自我意識(shí)，但是，一些壞人會(huì)對(duì)人工智能加以利用，偽裝為壞的AI對(duì)人類安全造成威脅。因此，保護(hù)人工智能和數(shù)據(jù)安全刻不容緩。
鄧亞峰表示，首先，需要相關(guān)國(guó)家和組織聯(lián)合起來，針對(duì)隱私保護(hù)和人工智能倫理問題等新情況，制定更加明晰有效的法律法規(guī)，保證在應(yīng)用人工智能為人類造福的同時(shí)，也要保護(hù)好數(shù)據(jù)隱私，避免相關(guān)社會(huì)倫理問題的困擾;
其次，需要構(gòu)建統(tǒng)一的人工智能硬件、軟件、算法的安全評(píng)估標(biāo)準(zhǔn)和準(zhǔn)則，并開發(fā)相關(guān)系統(tǒng)，用于檢測(cè)和確定人工智能相關(guān)系統(tǒng)的整體安全，特別是開源框架和軟件方面，更需要統(tǒng)一行動(dòng);
再次，需要用更加開放協(xié)同的方式進(jìn)行科學(xué)研究和技術(shù)交流，推動(dòng)人工智能技術(shù)快速并安全的落地。
作為網(wǎng)絡(luò)安全頭部公司，360也一直致力于構(gòu)建以安全大腦為核心的新一代安全能力框架體系，整體提升在數(shù)字化時(shí)代應(yīng)對(duì)安全挑戰(zhàn)的能力。據(jù)了解，去年8月，360安全大腦入選了國(guó)家新一代人工智能開放創(chuàng)新平臺(tái)，是網(wǎng)絡(luò)安全領(lǐng)域惟一一家入選公司，這標(biāo)志著360成為人工智能安全領(lǐng)域領(lǐng)軍企業(yè)，以及推動(dòng)網(wǎng)絡(luò)安全行業(yè)發(fā)展的領(lǐng)導(dǎo)力量。
數(shù)字化轉(zhuǎn)型需要重構(gòu)企業(yè)文化
分享到微信 ×
打開微信，點(diǎn)擊底部的“發(fā)現(xiàn)”，
使用“掃一掃”即可將網(wǎng)頁分享至朋友圈。