AI克隆不能零门槛 监管治理须发力-新华网
新华网 > > 正文
2025 08/20 11:26:05
来源:钱江晚报

AI克隆不能零门槛 监管治理须发力

字体:

  “大家好,我是你们的婵宝,今天有事请大家帮忙。婵妹就想着帮助妈妈,让家里的生活过得更好一点,同时把老家的土鸡蛋分享给粉丝们尝尝……”

  在网络上,奥运冠军的“声音”突然开始推销农产品;知名演员的“声音”24小时不间断在直播间与粉丝互动……当这些熟悉的声音能被轻易窃取和滥用,随之而来的侵权乱象频繁上演。

  事实上,备受这类侵权乱象困扰的,不只是奥运冠军等名人名家。无论你是谁,只要你在网上有了一定关注度和流量,让一些不法分子看到了有流量可蹭、有利可图的机会时,你我的声音以及肖像等信息就都可能被盗用。

  用AI克隆奥运冠军声音带货,掀开了AI侵权乱象的冰山一角,其背后涉及法律、道德、伦理和技术层面等多重问题。当下,除了侵犯声音权等合法权益,AI克隆目前最大的隐患是被别有用心者利用,一旦与AI换脸等技术结合,生成高度逼真的“数字人”实施诈骗,其危害非常严重。

  随着AI时代来临,各种AI应用多如牛毛。这些作品不仅使用相关名人的声音,还配上他们一些公开的视频素材,具有一定的隐蔽性和迷惑性,再加上AI技术进步飞快,这些AI侵权现象正在从“一听就假”到“真假难辨”直至“以假乱真”。另外,当一项技术带来“广参与度”时,其不可控性自然飙升。每一次“技术平权”实现后,带来便捷和美好的同时,也会进一步放大监管和治理的难度。

  针对此类乱象,我们的法律和治理也在进步。比如,《民法典》将人格权独立成编,首次以立法形式将保护“声音”写入其中,并明确规定,对自然人声音的保护,参照适用肖像权保护的有关规定。将于今年9月1日起施行的《人工智能生成合成内容标识办法》也明确规定,服务提供者应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识等。中央网信办近日也在全国范围内部署开展“清朗·整治AI技术滥用”专项行动。

  法律规定和治理措施的落地,需要一个循序渐进的过程,任何监管也都具有一定滞后性。由此,一方面需要提升网民辨别能力和防骗意识,另一方面,也要倒逼越轨者强化自我约束。同时,监管部门要进一步提升善治、智治、法治的水平和力度,再辅之以行业自律和市场自我净化,AI智能向善定会战胜AI侵权乱象。(王彬)

【纠错】 【责任编辑:马若虎】