近年來(lái)，多地警方破獲“變臉”詐騙案，有的不法分子用AI換臉技術(shù)，冒充被害人在社交平臺(tái)上進(jìn)行詐騙；有的將一張張靜態(tài)照片制作為人臉動(dòng)態(tài)視頻，甚至還能逼真地點(diǎn)頭、眨眼、皺眉……這些新型詐騙的出現(xiàn)，與深度合成技術(shù)的濫用有關(guān)。近日，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，自2023年1月10日起施行，劃定了深度合成服務(wù)的“底線”和“紅線”，維護(hù)網(wǎng)絡(luò)空間良好生態(tài)。
技術(shù)發(fā)展與風(fēng)險(xiǎn)挑戰(zhàn)往往相伴而生。深度合成技術(shù)，是指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等網(wǎng)絡(luò)信息的技術(shù)。從生成虛擬主播到搭建元宇宙場(chǎng)景，從影視中的特效制作到社交媒體上的美顏美妝，深度合成技術(shù)的迅猛發(fā)展催生了大量應(yīng)用，在教育、影視、傳媒等領(lǐng)域扮演著日益重要的角色。然而，能夠“以假亂真”的深度合成技術(shù)，也帶來(lái)了深度偽造的風(fēng)險(xiǎn)——一些不法人員將其用于制作、復(fù)制、發(fā)布、傳播違法信息，詆毀、貶損他人名譽(yù)、榮譽(yù)，仿冒他人身份實(shí)施詐騙等違法行為，影響傳播秩序和社會(huì)秩序，損害人民群眾合法權(quán)益，危害國(guó)家安全和社會(huì)穩(wěn)定。
網(wǎng)絡(luò)空間不是法外之地，真實(shí)與虛假的邊界更模糊不得。《法治社會(huì)建設(shè)實(shí)施綱要（2020—2025年）》就制定完善“算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法”提出了明確要求。特別是隨著深度合成技術(shù)門檻大幅降低，普通人都可能利用一些軟件或工具，制作出真假難辨的合成內(nèi)容。這種技術(shù)普及化的趨勢(shì)，讓加快推進(jìn)其依法合理有效利用顯得尤為迫切。對(duì)此，近年來(lái)，一系列法律法規(guī)相繼將其納入監(jiān)管，如今通過(guò)對(duì)應(yīng)用深度合成技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)制定系統(tǒng)性、專門性規(guī)定，明確各類主體的信息安全義務(wù)，進(jìn)一步為促進(jìn)深度合成服務(wù)規(guī)范發(fā)展提供了有力法治保障。
明確“底線”“紅線”，才能為長(zhǎng)遠(yuǎn)發(fā)展留足空間。人工智能和大數(shù)據(jù)技術(shù)的飛速發(fā)展，讓深度合成技術(shù)在未來(lái)的應(yīng)用前景愈發(fā)廣闊。安全是發(fā)展的前提，對(duì)技術(shù)的善用為良性發(fā)展、造福社會(huì)提供了基礎(chǔ)，而不加約束的濫用注定只能結(jié)出阻礙自身發(fā)展的“毒瘤”。我國(guó)擁有海量數(shù)據(jù)資源、巨大應(yīng)用需求、深厚市場(chǎng)潛力，讓技術(shù)實(shí)現(xiàn)向上向善，才能充分發(fā)揮這些得天獨(dú)厚的發(fā)展優(yōu)勢(shì)，最大程度使技術(shù)進(jìn)步趨利避害，提升廣大人民群眾在網(wǎng)絡(luò)空間的獲得感、幸福感、安全感。
黨的二十大報(bào)告明確提出：“健全網(wǎng)絡(luò)綜合治理體系，推動(dòng)形成良好網(wǎng)絡(luò)生態(tài)?！奔夹g(shù)進(jìn)步不會(huì)等待我們準(zhǔn)備萬(wàn)全才出現(xiàn)，面對(duì)日新月異的數(shù)字化浪潮，相關(guān)治理既不能因噎廢食，更不能放任自流。從完善制度、加強(qiáng)監(jiān)管，更好發(fā)揮法治固根本、穩(wěn)預(yù)期、利長(zhǎng)遠(yuǎn)的保障作用，到以技術(shù)對(duì)技術(shù)，以技術(shù)管技術(shù)，做到魔高一尺、道高一丈，再到鼓勵(lì)相關(guān)行業(yè)組織加強(qiáng)行業(yè)自律，建立健全行業(yè)標(biāo)準(zhǔn)、行業(yè)準(zhǔn)則和自律管理制度……統(tǒng)籌發(fā)展與安全，既是在守正創(chuàng)新中不斷探索新技術(shù)、新應(yīng)用、新業(yè)態(tài)的治理路徑，更是立足自身實(shí)踐為全球相關(guān)科技治理提供中國(guó)方案、貢獻(xiàn)中國(guó)智慧。
《 人民日?qǐng)?bào) 》（ 2023年01月05日? ?第 19 版）