科普信息网

换脸变声:深度合成技术的边界在哪里?

发布时间:2022-03-08 09:18:24 来源:福建日报 责任编辑:caobo

继算法推荐之后,深度合成也有了单独规范。近期,国家网信办发布《互联网信息服务深度合成管理规定(征求意见稿)》,并于1月28日至2月28日期间完成意见征求。管理规定要求,深度合成服务提供者应建立辟谣机制,使用者要进行身份信息认证,非真类音频视频须有显著标识。

深度合成或许还不为人所熟悉,但若提及“换脸术”“变声术”,恐怕大多数人不会感到陌生。其实,深度合成就是利用以深度学习、虚拟现实为代表的生成合成类算法,制作文本图像、音频视频、虚拟场景等信息。诸如换脸变声、AI合成主播、虚拟偶像、修复老照片、“数字复活”、影视剧本地化配音等,都是其场景应用。

作为人工智能领域的新实践,这项技术广泛应用于新闻传媒、影视制作、广告营销和社交娱乐等多个领域,市场前景广阔。比如,语音合成已成为人机交互重要一环并衍生出语音导航、有声读物、新闻播报等应用,电影制作引入相关技术后显著提升音视频制作质量与效率。另外,技术背后也有脉脉温情。去年,第八批在韩中国人民志愿军烈士遗骸归国时,有主流媒体运用技术修复还原志愿军老照片,广受好评。今年冬奥会期间,虚拟数字主播“小聪”用手语为听障人士解说,走红网络。概而言之,合理应用深度合成技术,既能取得经济利益,也能产生社会效益。

深度合成的正向应用价值有目共睹。然而,随着技术门槛不断降低,滥用恶用的事件频频发生。一些不法之徒恶意利用深度合成技术伪造虚假语音和视频,实施诬陷诽谤、诈骗勒索等违法犯罪行为,给个人、企业造成声誉损害和财产损失。更要警惕的是,深度合成技术一定程度上模糊了真实和虚假的边界,恶意伪造内容通常又迎合猎奇心理,容易在网络上产生病毒式传播。这有可能扰乱社会正常秩序,甚至带来安全风险。

客观而言,技术是价值中立的,本身并没有对错和善恶之分。只有当技术被误用或滥用,并跨越道德和法律的边界,才会出现负面效应。倘若不问青红皂白便“一刀切”地禁止深度合成技术,不仅阻碍其正向应用与创新,也不利于人工智能等相关产业发展。从这个角度来说,我们不仅要推动技术发展,更应展现出驾驭技术的智慧。

驾驭技术,需要法规作为明确指引。此次,相关部门出台管理规定,可谓做到随技术发展而不断“查缺补漏”。尤其是规定中一系列具有针对性和实效性的要求,划出清晰红线,体现规制乱象的决心,有助于维护清朗的网络生态。

当然,避免深度合成技术沦为深度伪造骗术,除了制定实施法规,还应从技术、伦理等方面出发,填补新技术的约束空白。比如,强化伦理先行的意识,倡导产研发展自律自治,防止滥用恶用。再如,加强识破伪造的监测技术研究,以精准识别从源头上解决安全问题。唯有构建多维度治理机制,多方发力、共同治理,精确施治、系统遏制,才能实现技术赋能生产生活的美好愿景。(潘抒捷)

标签: 深度合成技术 深度合成 数字复活 换脸变声

上一篇:摩托罗拉MotoG22在欧洲发布 薄荷绿版本没上架
下一篇:最后一页

新闻排行