三部門加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)深度合成管理
關(guān)注濟(jì)源網(wǎng)微信
中新網(wǎng)12月12日電 據(jù)“網(wǎng)信中國”微信公眾號(hào)消息,,近日,國家互聯(lián)網(wǎng)信息辦公室,、工業(yè)和信息化部,、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》(以下簡稱《規(guī)定》),自2023年1月10日起施行,。國家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示,,出臺(tái)《規(guī)定》,旨在加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)深度合成管理,,弘揚(yáng)社會(huì)主義核心價(jià)值觀,,維護(hù)國家安全和社會(huì)公共利益,保護(hù)公民,、法人和其他組織的合法權(quán)益,。
近年來,,深度合成技術(shù)快速發(fā)展,在服務(wù)用戶需求,、改進(jìn)用戶體驗(yàn)的同時(shí),,也被一些不法人員用于制作、復(fù)制,、發(fā)布、傳播違法和不良信息,,詆毀,、貶損他人名譽(yù)、榮譽(yù),,仿冒他人身份實(shí)施詐騙等,,影響傳播秩序和社會(huì)秩序,損害人民群眾合法權(quán)益,,危害國家安全和社會(huì)穩(wěn)定,。出臺(tái)《規(guī)定》,是防范化解安全風(fēng)險(xiǎn)的需要,,也是促進(jìn)深度合成服務(wù)健康發(fā)展,、提升監(jiān)管能力水平的需要。
《規(guī)定》明確了制定目的依據(jù),、適用范圍,、部門職責(zé)和導(dǎo)向要求。明確在中華人民共和國境內(nèi)應(yīng)用深度合成技術(shù)提供互聯(lián)網(wǎng)信息服務(wù),,適用本規(guī)定,。明確國家和地方網(wǎng)信部門統(tǒng)籌協(xié)調(diào)深度合成服務(wù)的治理和相關(guān)監(jiān)督管理職責(zé),國務(wù)院電信主管部門,、公安部門以及地方相關(guān)部門的監(jiān)督管理職責(zé),。明確提供深度合成服務(wù)的總體要求。鼓勵(lì)相關(guān)行業(yè)組織加強(qiáng)行業(yè)自律,。
《規(guī)定》明確了深度合成服務(wù)的一般規(guī)定,。強(qiáng)調(diào)不得利用深度合成服務(wù)從事法律、行政法規(guī)禁止的活動(dòng),。要求深度合成服務(wù)提供者落實(shí)信息安全主體責(zé)任,,建立健全管理制度和技術(shù)保障措施,制定公開管理規(guī)則,、平臺(tái)公約,,對(duì)使用者進(jìn)行真實(shí)身份信息認(rèn)證,加強(qiáng)深度合成內(nèi)容管理,,建立健全辟謠機(jī)制和申訴,、投訴,、舉報(bào)機(jī)制。明確應(yīng)用程序分發(fā)平臺(tái)應(yīng)當(dāng)落實(shí)安全管理責(zé)任,,核驗(yàn)深度合成類應(yīng)用程序相關(guān)情況,。
《規(guī)定》明確了深度合成數(shù)據(jù)和技術(shù)管理規(guī)范。要求深度合成服務(wù)提供者和技術(shù)支持者加強(qiáng)訓(xùn)練數(shù)據(jù)管理和技術(shù)管理,,保障數(shù)據(jù)安全,,不得非法處理個(gè)人信息,定期審核,、評(píng)估,、驗(yàn)證算法機(jī)制機(jī)理。深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或編輯的信息內(nèi)容,,應(yīng)當(dāng)添加不影響使用的標(biāo)識(shí),。提供智能對(duì)話、合成人聲,、人臉生成,、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的,應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí),,避免公眾混淆或者誤認(rèn),。要求任何組織和個(gè)人不得采用技術(shù)手段刪除、篡改,、隱匿相關(guān)標(biāo)識(shí),。
《規(guī)定》明確了監(jiān)督檢查與法律責(zé)任。明確具有輿論屬性或者社會(huì)動(dòng)員能力的深度合成服務(wù)提供者,、技術(shù)支持者應(yīng)當(dāng)履行備案和變更,、注銷備案手續(xù)。上線具有輿論屬性或者社會(huì)動(dòng)員能力的新產(chǎn)品,、新應(yīng)用,、新功能的,應(yīng)當(dāng)開展安全評(píng)估,。深度合成服務(wù)提供者,、技術(shù)支持者應(yīng)當(dāng)依法配合網(wǎng)信部門和有關(guān)主管部門開展的監(jiān)督檢查,并提供必要的支持和協(xié)助,。發(fā)現(xiàn)存在較大信息安全風(fēng)險(xiǎn)的,,網(wǎng)信部門和有關(guān)主管部門可以按照職責(zé)依法要求其采取暫停信息更新、用戶賬號(hào)注冊(cè)或者其他服務(wù)等措施,。明確違反規(guī)定的法律責(zé)任,。
《規(guī)定》明確了相關(guān)用語的含義。要求深度合成服務(wù)提供者和技術(shù)支持者從事網(wǎng)絡(luò)出版服務(wù),、網(wǎng)絡(luò)文化活動(dòng),、網(wǎng)絡(luò)視聽節(jié)目服務(wù)的,,應(yīng)當(dāng)同時(shí)符合有關(guān)主管部門的規(guī)定。
國家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人指出,,深度合成服務(wù)治理需要政府,、企業(yè)、社會(huì),、網(wǎng)民等多方主體共同參與,,推動(dòng)深度合成技術(shù)的依法、合理,、有效使用,,積極防范化解深度合成技術(shù)帶來的風(fēng)險(xiǎn),促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展,,維護(hù)網(wǎng)絡(luò)空間良好生態(tài)。
《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》
第一章 總則
第一條為了加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)深度合成管理,,弘揚(yáng)社會(huì)主義核心價(jià)值觀,,維護(hù)國家安全和社會(huì)公共利益,保護(hù)公民,、法人和其他組織的合法權(quán)益,,根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》、《中華人民共和國數(shù)據(jù)安全法》,、《中華人民共和國個(gè)人信息保護(hù)法》,、《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等法律、行政法規(guī),,制定本規(guī)定,。
第二條在中華人民共和國境內(nèi)應(yīng)用深度合成技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)(以下簡稱深度合成服務(wù)),適用本規(guī)定,。法律,、行政法規(guī)另有規(guī)定的,依照其規(guī)定,。 第三條國家網(wǎng)信部門負(fù)責(zé)統(tǒng)籌協(xié)調(diào)全國深度合成服務(wù)的治理和相關(guān)監(jiān)督管理工作,。國務(wù)院電信主管部門、公安部門依據(jù)各自職責(zé)負(fù)責(zé)深度合成服務(wù)的監(jiān)督管理工作,。
地方網(wǎng)信部門負(fù)責(zé)統(tǒng)籌協(xié)調(diào)本行政區(qū)域內(nèi)的深度合成服務(wù)的治理和相關(guān)監(jiān)督管理工作,。地方電信主管部門、公安部門依據(jù)各自職責(zé)負(fù)責(zé)本行政區(qū)域內(nèi)的深度合成服務(wù)的監(jiān)督管理工作,。
第四條提供深度合成服務(wù),,應(yīng)當(dāng)遵守法律法規(guī),尊重社會(huì)公德和倫理道德,,堅(jiān)持正確政治方向,、輿論導(dǎo)向,、價(jià)值取向,促進(jìn)深度合成服務(wù)向上向善,。
第五條鼓勵(lì)相關(guān)行業(yè)組織加強(qiáng)行業(yè)自律,,建立健全行業(yè)標(biāo)準(zhǔn)、行業(yè)準(zhǔn)則和自律管理制度,,督促指導(dǎo)深度合成服務(wù)提供者和技術(shù)支持者制定完善業(yè)務(wù)規(guī)范,、依法開展業(yè)務(wù)和接受社會(huì)監(jiān)督。
第二章 一般規(guī)定
第六條任何組織和個(gè)人不得利用深度合成服務(wù)制作,、復(fù)制,、發(fā)布、傳播法律,、行政法規(guī)禁止的信息,,不得利用深度合成服務(wù)從事危害國家安全和利益、損害國家形象,、侵害社會(huì)公共利益,、擾亂經(jīng)濟(jì)和社會(huì)秩序、侵犯他人合法權(quán)益等法律,、行政法規(guī)禁止的活動(dòng),。
深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)制作、復(fù)制,、發(fā)布,、傳播虛假新聞信息。轉(zhuǎn)載基于深度合成服務(wù)制作發(fā)布的新聞信息的,,應(yīng)當(dāng)依法轉(zhuǎn)載互聯(lián)網(wǎng)新聞信息稿源單位發(fā)布的新聞信息,。
第七條深度合成服務(wù)提供者應(yīng)當(dāng)落實(shí)信息安全主體責(zé)任,建立健全用戶注冊(cè),、算法機(jī)制機(jī)理審核,、科技倫理審查、信息發(fā)布審核,、數(shù)據(jù)安全,、個(gè)人信息保護(hù)、反電信網(wǎng)絡(luò)詐騙,、應(yīng)急處置等管理制度,,具有安全可控的技術(shù)保障措施。
第八條深度合成服務(wù)提供者應(yīng)當(dāng)制定和公開管理規(guī)則,、平臺(tái)公約,,完善服務(wù)協(xié)議,依法依約履行管理責(zé)任,,以顯著方式提示深度合成服務(wù)技術(shù)支持者和使用者承擔(dān)信息安全義務(wù),。
第九條深度合成服務(wù)提供者應(yīng)當(dāng)基于移動(dòng)電話號(hào)碼,、身份證件號(hào)碼、統(tǒng)一社會(huì)信用代碼或者國家網(wǎng)絡(luò)身份認(rèn)證公共服務(wù)等方式,,依法對(duì)深度合成服務(wù)使用者進(jìn)行真實(shí)身份信息認(rèn)證,,不得向未進(jìn)行真實(shí)身份信息認(rèn)證的深度合成服務(wù)使用者提供信息發(fā)布服務(wù)。
第十條深度合成服務(wù)提供者應(yīng)當(dāng)加強(qiáng)深度合成內(nèi)容管理,,采取技術(shù)或者人工方式對(duì)深度合成服務(wù)使用者的輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核,。
深度合成服務(wù)提供者應(yīng)當(dāng)建立健全用于識(shí)別違法和不良信息的特征庫,完善入庫標(biāo)準(zhǔn),、規(guī)則和程序,,記錄并留存相關(guān)網(wǎng)絡(luò)日志。
深度合成服務(wù)提供者發(fā)現(xiàn)違法和不良信息的,,應(yīng)當(dāng)依法采取處置措施,,保存有關(guān)記錄,及時(shí)向網(wǎng)信部門和有關(guān)主管部門報(bào)告;對(duì)相關(guān)深度合成服務(wù)使用者依法依約采取警示,、限制功能,、暫停服務(wù)、關(guān)閉賬號(hào)等處置措施,。
第十一條深度合成服務(wù)提供者應(yīng)當(dāng)建立健全辟謠機(jī)制,發(fā)現(xiàn)利用深度合成服務(wù)制作,、復(fù)制,、發(fā)布、傳播虛假信息的,,應(yīng)當(dāng)及時(shí)采取辟謠措施,,保存有關(guān)記錄,并向網(wǎng)信部門和有關(guān)主管部門報(bào)告,。
第十二條深度合成服務(wù)提供者應(yīng)當(dāng)設(shè)置便捷的用戶申訴和公眾投訴,、舉報(bào)入口,公布處理流程和反饋時(shí)限,,及時(shí)受理,、處理和反饋處理結(jié)果。
第十三條互聯(lián)網(wǎng)應(yīng)用商店等應(yīng)用程序分發(fā)平臺(tái)應(yīng)當(dāng)落實(shí)上架審核,、日常管理,、應(yīng)急處置等安全管理責(zé)任,核驗(yàn)深度合成類應(yīng)用程序的安全評(píng)估,、備案等情況,;對(duì)違反國家有關(guān)規(guī)定的,應(yīng)當(dāng)及時(shí)采取不予上架,、警示,、暫停服務(wù)或者下架等處置措施,。
第三章 數(shù)據(jù)和技術(shù)管理規(guī)范
第十四條深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)加強(qiáng)訓(xùn)練數(shù)據(jù)管理,采取必要措施保障訓(xùn)練數(shù)據(jù)安全,;訓(xùn)練數(shù)據(jù)包含個(gè)人信息的,,應(yīng)當(dāng)遵守個(gè)人信息保護(hù)的有關(guān)規(guī)定。
深度合成服務(wù)提供者和技術(shù)支持者提供人臉,、人聲等生物識(shí)別信息編輯功能的,,應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人,并取得其單獨(dú)同意,。
第十五條深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)加強(qiáng)技術(shù)管理,,定期審核、評(píng)估,、驗(yàn)證生成合成類算法機(jī)制機(jī)理,。
深度合成服務(wù)提供者和技術(shù)支持者提供具有以下功能的模型、模板等工具的,,應(yīng)當(dāng)依法自行或者委托專業(yè)機(jī)構(gòu)開展安全評(píng)估:
(一)生成或者編輯人臉,、人聲等生物識(shí)別信息的;
(二)生成或者編輯可能涉及國家安全,、國家形象,、國家利益和社會(huì)公共利益的特殊物體、場景等非生物識(shí)別信息的,。
第十六條深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或者編輯的信息內(nèi)容,,應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識(shí),并依照法律,、行政法規(guī)和國家有關(guān)規(guī)定保存日志信息,。
第十七條深度合成服務(wù)提供者提供以下深度合成服務(wù),可能導(dǎo)致公眾混淆或者誤認(rèn)的,,應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置,、區(qū)域進(jìn)行顯著標(biāo)識(shí),向公眾提示深度合成情況:
(一)智能對(duì)話,、智能寫作等模擬自然人進(jìn)行文本的生成或者編輯服務(wù),;
(二)合成人聲、仿聲等語音生成或者顯著改變個(gè)人身份特征的編輯服務(wù),;
(三)人臉生成,、人臉替換、人臉操控,、姿態(tài)操控等人物圖像,、視頻生成或者顯著改變個(gè)人身份特征的編輯服務(wù);
(四)沉浸式擬真場景等生成或者編輯服務(wù);
(五)其他具有生成或者顯著改變信息內(nèi)容功能的服務(wù),。
深度合成服務(wù)提供者提供前款規(guī)定之外的深度合成服務(wù)的,,應(yīng)當(dāng)提供顯著標(biāo)識(shí)功能,并提示深度合成服務(wù)使用者可以進(jìn)行顯著標(biāo)識(shí),。
第十八條任何組織和個(gè)人不得采用技術(shù)手段刪除,、篡改、隱匿本規(guī)定第十六條和第十七條規(guī)定的深度合成標(biāo)識(shí),。
第四章 監(jiān)督檢查與法律責(zé)任
第十九條具有輿論屬性或者社會(huì)動(dòng)員能力的深度合成服務(wù)提供者,,應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行備案和變更、注銷備案手續(xù),。
深度合成服務(wù)技術(shù)支持者應(yīng)當(dāng)參照前款規(guī)定履行備案和變更,、注銷備案手續(xù)。
完成備案的深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)在其對(duì)外提供服務(wù)的網(wǎng)站,、應(yīng)用程序等的顯著位置標(biāo)明其備案編號(hào)并提供公示信息鏈接,。
第二十條深度合成服務(wù)提供者開發(fā)上線具有輿論屬性或者社會(huì)動(dòng)員能力的新產(chǎn)品、新應(yīng)用,、新功能的,,應(yīng)當(dāng)按照國家有關(guān)規(guī)定開展安全評(píng)估。
第二十一條網(wǎng)信部門和電信主管部門,、公安部門依據(jù)職責(zé)對(duì)深度合成服務(wù)開展監(jiān)督檢查,。深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)依法予以配合,并提供必要的技術(shù),、數(shù)據(jù)等支持和協(xié)助,。
網(wǎng)信部門和有關(guān)主管部門發(fā)現(xiàn)深度合成服務(wù)存在較大信息安全風(fēng)險(xiǎn)的,可以按照職責(zé)依法要求深度合成服務(wù)提供者和技術(shù)支持者采取暫停信息更新,、用戶賬號(hào)注冊(cè)或者其他相關(guān)服務(wù)等措施。深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)按照要求采取措施,,進(jìn)行整改,,消除隱患。
第二十二條深度合成服務(wù)提供者和技術(shù)支持者違反本規(guī)定的,,依照有關(guān)法律,、行政法規(guī)的規(guī)定處罰;造成嚴(yán)重后果的,,依法從重處罰,。
構(gòu)成違反治安管理行為的,由公安機(jī)關(guān)依法給予治安管理處罰,;構(gòu)成犯罪的,,依法追究刑事責(zé)任。
第五章 附則
第二十三條本規(guī)定中下列用語的含義:
深度合成技術(shù),是指利用深度學(xué)習(xí),、虛擬現(xiàn)實(shí)等生成合成類算法制作文本,、圖像、音頻,、視頻,、虛擬場景等網(wǎng)絡(luò)信息的技術(shù),包括但不限于:
(一)篇章生成,、文本風(fēng)格轉(zhuǎn)換,、問答對(duì)話等生成或者編輯文本內(nèi)容的技術(shù);
(二)文本轉(zhuǎn)語音,、語音轉(zhuǎn)換,、語音屬性編輯等生成或者編輯語音內(nèi)容的技術(shù);
(三)音樂生成,、場景聲編輯等生成或者編輯非語音內(nèi)容的技術(shù),;
(四)人臉生成、人臉替換,、人物屬性編輯,、人臉操控、姿態(tài)操控等生成或者編輯圖像,、視頻內(nèi)容中生物特征的技術(shù),;
(五)圖像生成、圖像增強(qiáng),、圖像修復(fù)等生成或者編輯圖像,、視頻內(nèi)容中非生物特征的技術(shù);
(六)三維重建,、數(shù)字仿真等生成或者編輯數(shù)字人物,、虛擬場景的技術(shù)。
深度合成服務(wù)提供者,,是指提供深度合成服務(wù)的組織,、個(gè)人。
深度合成服務(wù)技術(shù)支持者,,是指為深度合成服務(wù)提供技術(shù)支持的組織,、個(gè)人。
深度合成服務(wù)使用者,,是指使用深度合成服務(wù)制作,、復(fù)制、發(fā)布,、傳播信息的組織,、個(gè)人,。
訓(xùn)練數(shù)據(jù),是指被用于訓(xùn)練機(jī)器學(xué)習(xí)模型的標(biāo)注或者基準(zhǔn)數(shù)據(jù)集,。
沉浸式擬真場景,,是指應(yīng)用深度合成技術(shù)生成或者編輯的、可供參與者體驗(yàn)或者互動(dòng)的,、具有高度真實(shí)感的虛擬場景,。
第二十四條深度合成服務(wù)提供者和技術(shù)支持者從事網(wǎng)絡(luò)出版服務(wù)、網(wǎng)絡(luò)文化活動(dòng)和網(wǎng)絡(luò)視聽節(jié)目服務(wù)的,,應(yīng)當(dāng)同時(shí)符合新聞出版,、文化和旅游、廣播電視主管部門的規(guī)定,。
第二十五條本規(guī)定自2023年1月10日起施行,。