(資料圖片)
近日，國家網信辦、工信部、公安部聯(lián)合發(fā)布《互聯(lián)網信息服務深度合成管理規(guī)定》。其中要求提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或顯著改變信息內容功能的服務的，應當進行顯著標識，避免公眾混淆或者誤認，任何組織和個人不得用技術手段刪除、篡改、隱匿相關標識。該規(guī)定自明年1月10日起施行。
繼算法推薦之后，深度合成技術也迎來單獨規(guī)范，這其實和我們目前的互聯(lián)網生活息息相關。
近日火爆全網的聊天機器人ChatGPT，以及“換臉”、AI繪畫、虛擬主播等為人所熟知的場景都使用了深度合成技術。很多用戶日常也在使用這些技術，比如一些視頻平臺提供的換臉服務，讓用戶可以自己制作很多新奇有趣的視頻產品，玩出一些有趣的網絡梗。但其中的隱私安全問題一直備受爭議，普通用戶對潛在的風險也并不了解。
以AI“換臉”為例，負面事件并非沒有發(fā)生過。2019年，AI“換臉”應用ZAO一度爆紅。人們只要上傳一張自己的照片，就可以換臉成為影視劇主角。然而僅僅三天，ZAO便因涉嫌未依法依規(guī)收集使用人臉信息被工信部約談，接著直接下架。
此外，深度合成技術也被應用在了散播虛假信息、詐騙、色情內容制作上。類似事件人們也見過不少了，一些栩栩如生的視頻引發(fā)了巨大的社會關注，最后證明不過是換臉合成而來。這些亂象顯然也有進一步規(guī)制的必要。
隨著新規(guī)的出臺，這些合成技術將被顯著標識，就相當于是個時刻存在的提醒，用戶能很清楚地了解到接下來將使用的技術就是人工合成，這當中可能存在風險。雖然這可能給用戶玩梗澆一盆涼水，但用戶的知情權才是第一位的，相應的產品邏輯也應當向這個方向轉變。
當然，僅有提示還不夠，關鍵是對互聯(lián)網平臺要保持足夠的制度性約束。比如《規(guī)定》明確，深度合成服務提供者、技術支持者應當依法配合網信部門和有關主管部門開展的監(jiān)督檢查，并提供必要的支持和協(xié)助。發(fā)現存在較大信息安全風險的，網信部門和有關主管部門可以按照職責依法要求其采取暫停信息更新、用戶賬號注冊或者其他服務等措施。
這一方面是對用戶的提示，另一方面也是對各大互聯(lián)網平臺的約束。這不僅是讓用戶知情，互聯(lián)網服務提供者也必須明白自己的義務，對涉及用戶隱私的信息必須做到充分保護，任何一個產品功能和營銷手段都不能凌駕于這條底線之上。
還是要認識到，互聯(lián)網技術提供了異常多元、新奇的產品體驗，用戶當然也有網絡玩梗的剛需，但安全風險問題也隨著互聯(lián)網介入生活程度的加深而不斷凸顯。當一項新技術橫空出世之際，背后的漏洞風險也應當審慎評估，相關的規(guī)定應該適時跟上，努力縮短從野蠻生長到規(guī)范發(fā)展的時間差。（江城）
責任編輯：Rex_13
