近日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布關(guān)于《人工智能生成合成內(nèi)容標(biāo)識辦法(征求意見稿)》(下稱《征求意見稿》)公開征求意見的通知，還配套發(fā)布了國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識方法》。
《征求意見稿》共十四條，其中較為重要的條款包括要求人工智能生成合成內(nèi)容標(biāo)識包括顯式標(biāo)識和隱式標(biāo)識。
北京師范大學(xué)法學(xué)院博士生導(dǎo)師、中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括在接受新京報(bào)貝殼財(cái)經(jīng)記者采訪時表示，這是全球范圍內(nèi)第一部關(guān)于人工智能生成合成內(nèi)容的標(biāo)識國家標(biāo)準(zhǔn)，是關(guān)于人工智能內(nèi)容治理機(jī)制建設(shè)的重要探索，對人工智能內(nèi)容產(chǎn)業(yè)的有序發(fā)展和業(yè)務(wù)規(guī)則具有重要的指引意義，也有助于人工智能良性生態(tài)的培育。
文本、音頻、圖片、視頻、虛擬場景等均需添加顯著標(biāo)識
《征求意見稿》明確，人工智能生成合成內(nèi)容是指利用人工智能技術(shù)制作、生成、合成的文本、圖片、音頻、視頻等信息。而要求添加的標(biāo)識的具體解釋為，“顯式標(biāo)識是指在生成合成內(nèi)容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可被用戶明顯感知到的標(biāo)識。隱式標(biāo)識是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標(biāo)識。”
根據(jù)《征求意見稿》第四條，服務(wù)提供者提供的生成合成服務(wù)屬于《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條第一款情形的，應(yīng)當(dāng)按照下列要求對生成合成內(nèi)容添加顯式標(biāo)識。
貝殼財(cái)經(jīng)記者注意到，《征求意見稿》第四條幾乎囊括了所有目前AI能夠生產(chǎn)的內(nèi)容，如對AI生成文本，要求在文本的起始、末尾、中間適當(dāng)位置添加文字提示或通用符號提示等標(biāo)識，或在交互場景界面或文字周邊添加顯著的提示標(biāo)識;AI生成音頻，要求在音頻的起始、末尾或中間適當(dāng)位置添加語音提示或音頻節(jié)奏提示等標(biāo)識，或在交互場景界面中添加顯著的提示標(biāo)識;AI生成視頻，要求在視頻起始畫面和視頻播放周邊的適當(dāng)位置添加顯著的提示標(biāo)識，可在視頻末尾和中間適當(dāng)位置添加顯著的提示標(biāo)識，等等。
《征求意見稿》還明確，提供網(wǎng)絡(luò)信息內(nèi)容傳播平臺服務(wù)的服務(wù)提供者應(yīng)當(dāng)采取措施，規(guī)范生成合成內(nèi)容傳播活動，如應(yīng)當(dāng)核驗(yàn)文件元數(shù)據(jù)中是否含有隱式標(biāo)識，對于含有隱式標(biāo)識的，應(yīng)當(dāng)采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識，明確提醒用戶該內(nèi)容屬于生成合成內(nèi)容等。
專家解讀：問題導(dǎo)向，破解人工智能生成合成內(nèi)容新需求新風(fēng)險(xiǎn)
中國信息通信研究院人工智能研究所所長魏凱分析稱，立足于生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，《征求意見稿》以問題為導(dǎo)向，通過系統(tǒng)性、創(chuàng)新性制度設(shè)計(jì)，全面回應(yīng)了對人工智能生成合成內(nèi)容標(biāo)識的要求。
魏凱表示，《征求意見稿》根植于我國發(fā)展實(shí)踐，通過標(biāo)準(zhǔn)完善補(bǔ)充生成式人工智能綜合治理機(jī)制，有力支撐了科技向善的治理理念，為世界貢獻(xiàn)發(fā)展與安全并行的人工智能治理中國方案。
據(jù)了解，早在2022年中央網(wǎng)信辦等就發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》(以下簡稱《規(guī)定》)，明確指出深度合成服務(wù)提供者應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識，向公眾提示深度合成情況。
魏凱表示，《規(guī)定》主要明確了需要添加標(biāo)識的情況，但對于添加標(biāo)識的位置、字形和表達(dá)并未做出具體要求，因此各類企業(yè)在實(shí)施過程中出現(xiàn)了文本內(nèi)容顯式標(biāo)識不明顯、難察覺，音頻、視頻等內(nèi)容顯式標(biāo)識未插入、淺提示，隱式標(biāo)識少信息、難校驗(yàn)等問題，對于落實(shí)監(jiān)管提出了挑戰(zhàn)。
在他看來，出臺《征求意見稿》加強(qiáng)了服務(wù)商生成合成內(nèi)容標(biāo)識的規(guī)范性，是進(jìn)一步推進(jìn)生成合成內(nèi)容標(biāo)識工作的必要舉措，對規(guī)范互聯(lián)網(wǎng)信息服務(wù)深度合成管理、解決生成合成內(nèi)容標(biāo)識突出問題、推進(jìn)信息網(wǎng)絡(luò)生態(tài)環(huán)境治理意義重大，影響深遠(yuǎn)。
魏凱認(rèn)為，《征求意見稿》進(jìn)一步完善生成式人工智能監(jiān)管問責(zé)體系。生成式人工智能生成合成內(nèi)容涉及多種類型的主體，清晰界定各主體義務(wù)更有利于壓實(shí)主體責(zé)任，便利技術(shù)檢測實(shí)施，進(jìn)而落實(shí)精準(zhǔn)問責(zé)?！墩髑笠庖姼濉凡粌H界定了人工智能生成合成內(nèi)容的基本概念，更針對服務(wù)提供者、傳播平臺、應(yīng)用服務(wù)分發(fā)平臺和用戶分別規(guī)定了具體標(biāo)識要求，為各相關(guān)主體落實(shí)合規(guī)指明了方向。由此，《征求意見稿》在現(xiàn)行責(zé)任制度作出補(bǔ)充，充分細(xì)化了《規(guī)定》提出的深度合成服務(wù)提供者和技術(shù)支持者行為規(guī)范，為促進(jìn)新技術(shù)新應(yīng)用的規(guī)范發(fā)展提供了有益范例。
分享到微信 ×
打開微信，點(diǎn)擊底部的“發(fā)現(xiàn)”，
使用“掃一掃”即可將網(wǎng)頁分享至朋友圈。
如何在數(shù)據(jù)生態(tài)系統(tǒng)中運(yùn)營數(shù)據(jù)產(chǎn)品的...
