亲耳听到、亲眼见到，就是真的吗？未必。“假赵本山”用英文演小品；“假张文宏”在深夜直播带货蛋白棒……如今的网络平台上，借助AI（人工智能）技术生成的音视频随处可见。这一现象令人反思，AI技术应用的合理边界在哪里？相关技术滥用为何愈演愈烈？
随着AI技术开发和应用的高速发展，利用AI合成的音视频信息大量涌现——只需向软件输入一段含有清晰人脸和声音的视频素材，就可以在短时间内生成一个与原视频高度相似的新视频，视频人物说话的内容可由创作者自行编辑。AI生成视频中的人物形态自然、语言流畅、声音逼真，令人难分真假。
技术在飞奔，风险也在加剧。今天你被AI合成音视频逗得捧腹大笑，明天你的面孔和声音就可能被“移花接木”，被不法分子所用。张文宏无奈地表示，自己直播带货的视频是AI合成的，虽然他已向有关平台投诉，平台也已封禁部分账号，但由于造假账号太多，“根本举报不过来”。在天津一起AI诈骗案中，市民李先生被视频电话中的“假领导”分三次骗走了95万元。在AI技术滥用面前，每个人都可能成为受害者，面临无法估量、难以承受的损失。
AI技术被滥用，相关应用获得的门槛低、违法成本低等皆为背后原因。在一些平台上，有人随意兜售AI合成软件，只需百元左右，任何人都可以“包教包会”掌握AI“换脸”技术。有专家表示，用AI合成技术仿冒他人，除了构成民法概念中的侵犯他人肖像权、人格权外，还可能构成虚假宣传、网络诈骗等刑事犯罪。如所售AI合成软件被用于犯罪活动，卖家也可能构成共同犯罪面临惩罚。2023年以来，我国陆续推出《互联网信息服务深度合成管理规定》《生成式人工智能服务暂行管理办法》等，明确要求深度合成服务提供者落实信息安全主体责任，使用者不得滥用深度合成服务等，在一定程度上画出了AI技术应用的“红线”。然而在现实中，如何细化AI合成技术在生产、传播、应用等链条上各个主体的法律责任，精准打击AI犯罪，仍需更多努力。
对AI合成技术进行规范管理，必要且紧迫。改变AI技术滥用的现状，需要从多方面入手，首先，立法者要明确AI技术的应用范围和法律边界，细化各方法律责任，加大对AI犯罪的处罚力度。其次，公安机关要与网信、工信等部门强化联动执法，全方位打击涉AI犯罪活动和产业链，执法部门要同步更新监管技术。再次，平台要强化责任，对AI合成视频进行清晰标注，对涉AI犯罪账号实施限流、警告、冻结，严格落实网络实名制和黑名单制度等。最后，公众也需提高对AI犯罪的防范意识，了解掌握AI技术的基本知识和风险所在。
技术本身是中立的，虽然存在被滥用的风险，但其本身并无“原罪”。AI合成技术在越来越多的行业领域获得成功应用，提升了生产效率，降低了生产成本，前景十分广阔。例如，包括中影集团在内的一些电影公司在电影后期制作时，已开始用AI合成声音为人物配音，这一生产方式的变革大幅降低了电影制作成本。在新闻领域，已有大量AI主播上岗完成信息传播任务，《杭州新闻联播》就在今年春节期间启动了AI数字人进行新闻播报，实现“零失误率”播报，引发广泛关注。
希望AI技术在策马奔腾的同时，配好约束的“缰绳”，在合理合法的前提下，带来更多造福人类的应用成果。
|
