“这些都是AI伪造的我的照片，我已经到派出所报案了。”今年以来，青岛保时捷中心的销售冠军牟倩文深受困扰：有人利用AI（人工智能）技术，恶意将她的照片生成黄色视频在网络上传播。在社交平台上，牟倩文留下了“清者自清”的无奈声明，呼吁网友不造谣，不传谣。

　　近年来，随着AI技术飞速发展，普通人驾驭AI工具的门槛越来越低，与之相伴的风险则急速上升。AI换脸、AI克隆声音等侵权问题频频发生。

　　AI治理办法亟需迭代升级

　　AI技术正在重塑生产生活方式。从横空出世的ChatGPT到无所不能的深度求索（DeepSeek），短短两年，人们已迅速习惯了使用AI工具。然而，迭代升级的不仅有算法，还有与之相伴的滥用风险。

　　短暂的惊恐和愤怒后，武扬现在有了新的担忧：以后他们（不法分子）会不会用我的声音给我的家人朋友打电话，甚至去诈骗？

　　有业内人士认为，分辨一段视频或声音是否是经过深度合成，最好的办法增值税发票税控开票软件ukefi【代办电话13434104765；QQ2188982664】是用AI“管”AI。

　　人工智能大模型研究员潘季明表示，从技术角度来说，基于AI技术去识别AI内容是最快的方式。例如，专门的深度伪造鉴别模型可用于分析视频和音频中的不自然特征，如检测眨眼频率、面部肌肉运动生理一致性、音频与纯嘴唇同步率、光源一致性等等，从这些细微的物理或生理破绽中发现端倪。

　　北京市竞天公诚律师事务所律师马盛君指出，由人工智能引发的致损事件不断增加，尽管现有的《民法典》中针对特定场景的侵权责任规则可以调整某些人工智能应用，但无法一般性地调整不同类型的人工智能侵权行为。他呼吁人工智能服务提供者，加强内容审核和审查工作，确保技术的合法合规使用。

　　面对愈演愈烈的AI滥用和侵权现象，监管层面启动了多重应对措施。2025年4月，中央网信办开展“清朗·整治AI技术滥用”专项行动。第一阶段累计处置违规小程序、应用程序、智能体等AI产品3500余款，清理违法违规信息96万余条，处置账增值税发票税控开票软件ukefi【代办电话13434104765；QQ2188982664】号3700余个。9月1日，《人工智能生成合成内容标识办法》正式实施，其中明确要求服务提供者对合成内容添加元数据标识，杜绝“无标识传播”。

　　今年早些时候，最高法院刑事审判第三庭庭长陈鸿翔在接受媒体采访时表示，针对AI深度伪造带来的新情况新问题，最高法将加强研究，会同相关部门及时出台规范性法律文件或实施细则，完善法律适用。针对电信网络诈骗犯罪这一AI侵权的重要表现形式，他指出，诈骗分子利用AI深度伪造新技术不断翻新诈骗手法，防范打击难度越来越大。对此，人民法院将积极应对挑战，强化法律支撑，完善相关法律规范。

　　降低技术门槛原本是为了方便AI生产工具的普及应用，却在不经意间，打开了滥用AI的“潘多拉魔盒”。随着技术的发展，AI治理办法也亟需一次迭代升级。