对AI污染须尽快拿出有效治理方法
千龙网2024-10-23 03:43
有MCN机构利用人工智能程序日产上千篇虚假新闻，导致大量不实信息在网上病毒式传播；某小说平台账号依靠AI“创作”，每日更新十几本电子书，行文却逻辑不通、辞藻空洞……一段时间以来，AI生成、伪造或篡改文本、图片、音频和视频的现象愈发普遍，大量粗制滥造、真假难辨的“信息垃圾”，引发了舆论关于“AI污染”的讨论。
在科技日新月异的今天，人工智能（AI）以强大的数据处理和生成能力，正逐步得到广泛应用，渗透到生活的方方面面。清华大学新闻与传播学院新媒体研究中心今年4月发布的一份研究报告显示，近一年来，经济与企业类AI谣言量增速达99.91%。
美国一家调查机构提供的数据显示，生成虚假文章的网站数量自2023年5月以来激增1000%以上，涉及15种语言。业内专家认为，AI制造的“信息垃圾”产量庞大，且辨别、筛选成本较高，治理难度较大。
“AI污染”的危害不容小觑。它不仅污染了信息环境，降低了信息的质量和价值，还加剧了信息过载和选择困难的问题。
在海量且真假难辨的网络信息面前，人们往往感到无所适从，容易被虚假信息误导、蒙骗，还会产生焦虑和恐慌情绪，甚至被虚假信息“绑架”，沦为被别有用心之人利用的工具。
此外，“AI污染”对青少年的价值观和行为模式也会产生负面影响，甚至引导他们走向错误的信息消费和创作道路。
事实上，自AI生成技术诞生以来，就不断出现使用AI生成虚假新闻、篡改内容的行为，造成了恶劣的社会影响。如有人利用AI技术提供所谓“一键去衣”服务，将受害者的日常照片篡改为淫秽图像并进行贩卖；有人利用“AI换脸”技术伪造名人、明星的视频，甚至提供换脸定制服务；国外有人利用AI技术伪造政要人物演讲视频，意图制造各种舆论效应。
如今，身处海量信息时代，“眼见不一定为实，耳听不一定为真”，声音、视频、图像等多模态AI深度伪造的内容，制造出形形色色的虚假信息迷雾。今年2月发布的一份人工智能安全报告显示，2023年，基于AI的深度伪造欺诈激增30倍。
面对“AI污染”这一数字时代的新挑战，需要采取积极有效的措施应对。要加强法律法规建设，明确AI在内容创作和传播中的法律地位、责任边界，对利用AI进行虚假信息传播和欺诈的行为进行严厉打击。
监管部门应尽快完善AI创作标准，明确使用AI生成技术创作的内容，必须在显著位置予以标注，并采取区块链等可追溯技术，一旦发现虚假内容、违规行为，必依法予以严惩。
同时，应坚持“用技术对抗技术，用魔法打败魔法”，加快探索应用AI新技术应对AI造假，实现高效识别、预防拦截、追根溯源等，让AI虚假信息无处躲藏。
应提高公众的信息素养和辨别能力，教育引导广大受众有效识别AI生成的内容，避免被虚假信息所误导。还要鼓励和支持高质量的AI内容创作和应用，推动AI技术与人类智慧的深度融合，共同营造健康、有序的信息生态环境。
举报/反馈
0
0
收藏
分享
