8月18日消息，據(jù)報道，AI換臉詐騙檢測與預(yù)警技術(shù)正在測試中。
工業(yè)和信息化部反詐工作專班專家李坤表示：“我們正在會同行業(yè)內(nèi)的手機終端企業(yè)，將推出AI換臉詐騙風(fēng)險提醒功能，這項功能僅在手機端來本地運行，能夠有效保護(hù)用戶數(shù)據(jù)不泄露。經(jīng)過用戶授權(quán)后，可為用戶提供AI換臉詐騙風(fēng)險預(yù)警提醒。”
當(dāng)用AI換了臉的技術(shù)人員與記者發(fā)起視頻通話時，測試手機終端提示“對方疑似假冒身份”。點擊檢測按鈕，經(jīng)過圖像掃描，系統(tǒng)提示“AI換臉合成概率93%”。
AI換臉主要是使用深度合成技術(shù)。《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》提出了算法備案、安全評估的手段，要求深度合成服務(wù)提供者對深度合成的內(nèi)容添加顯式或隱式水印。
中國信通院人工智能所安全與元宇宙部專家陳文弢稱：“要對生成合成的內(nèi)容去添加一些水印，這個水印的本質(zhì)其實就是要一方面去提示公眾這個內(nèi)容是由AI生成或者合成的，另一方面也是要追溯它的來源。”
分享到微信 ×
打開微信，點擊底部的“發(fā)現(xiàn)”，
使用“掃一掃”即可將網(wǎng)頁分享至朋友圈。
數(shù)據(jù)分類分級方法、標(biāo)準(zhǔn)及應(yīng)用實踐
