马上评｜雷军之怒，能阻止AI合成滥用吗？
澎湃新闻2024-10-10 17:08
国庆假期期间，短视频平台上出现了大量“雷军AI配音”的恶搞视频。在视频中，“雷军”锐评了堵车、假期等热门话题，其中还有一些不雅谩骂。有网友调侃称：“国庆上网被雷军骂了整整7天。”
除了吐槽外，视频里的“雷军”还称要投资某某大学。截至目前，平台上相关话题浏览量过亿。10月7日晚，针对网友“为何骂人”的询问，雷军回复了3个发怒的表情。
“雷军AI配音”恶搞相关话题浏览量过亿。
客观来说，部分“雷军AI配音”恶搞视频，也许没有太大的恶意。鉴于雷军的公众人物身份，一些网友用AI配音玩梗未必就完全不能容忍。但凡事得有度，像这次大量的雷军视频中，不乏不雅谩骂，甚至还有疑似谣言的内容，如“投资某某大学”，这就越过了开玩笑、玩梗的界限。雷军的“怒”，也足见这些行为已给本人带来困扰。
近年来，人工智能深度合成技术已在多个领域广泛应用，从图文、视频生成到在线问答，可谓层出不穷。当普通人也能轻松利用AI恶搞名人、大量生成音视频，肯定会给社会带来信息失真、认知混乱等问题。
而且，由AI换脸、变音等催生的侵权甚至犯罪行为，也变得多起来。前段时间，闹得沸沸扬扬的“三只羊卢某”录音事件，最终被警方证实系嫌疑人通过AI配音大模型平台伪造。今年7月，国家金融监管部门发布《关于防范新型电信网络诈骗的风险提示》，明确提醒公众警惕“AI换脸拟声”类新型电信网络诈骗。
在此背景下，雷军等公众人物遭遇AI配音恶搞带来的“困扰”，再次说明规范AI合成技术的应用和传播边界，已非常迫切。
事实上，为AI立法已成为各国监管部门的共识。我国《生成式人工智能服务管理暂行办法》规定，提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德。其中就包括尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。
但是，落到实践中，这样的原则性要求，如何形成具体的指导、给各方带来明确预期，还有待进一步厘清。比如，提供生成式人工智能服务的大模型平台，对这类侵权行为到底该承担怎样的责任？相关网络平台若未能及时阻止侵权行为的发生，是否应该承担连带责任？
值得注意的是，就在上个月，国家网信办就人工智能生成合成内容标识办法公开征求意见，征求意见稿提出，提供网络信息内容传播平台服务的服务提供者应当采取措施，规范生成合成内容传播活动，包括提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容等。
就此次事件来看，不少视频确实标注了“AI合成”的字样，但从实际效果来看，还是对雷军本人的形象造成了一定损害。对于名人，是不是进行了标注就可以随意合成、随意恶搞？这个问题也值得探讨。
因此，此次雷军之“怒”能否转化为一个依法处置AI合成侵权的样本，进而发挥“以案释法”的价值，并推动相关规范举措和风险责任的落实，或是一个值得观察的后续。随着技术的不断进步，AI合成技术的门槛越来越低，正因如此，对其应用的规范就应该越严格。
澎湃特约评论员 予恒
(本文来自澎湃新闻，更多原创资讯请下载“澎湃新闻”APP)
举报/反馈
0
0
收藏
分享
