美国2024年总统选举尚未正式拉开帷幕,由人工智能技术合成的多条选举相关视频已在网络传播。业界专家和分析人士担心,人工智能生成的图像、音视频等深度伪造内容将大量充斥2024年总统选举,拉低两党竞选人攻讦、抹黑信息战的底线,令选民难辨真伪。

渐成规模

据路透社5月30日报道,合成图像和音视频的技术虽然已兴起数年,但直到去年生成式人工智能工具大量问世才形成规模。利用这类工具合成音视频成本更低,生成内容却更逼真,令人难辨真伪。

近期在美国社交媒体流传的一则视频中,美国前国务卿、民主党重量级人物希拉里·克林顿竟然支持共和党热门竞选人罗恩·德桑蒂斯。另一则视频中,美国总统约瑟夫·拜登直言对跨性别人士的不满。这两条视频全由人工智能合成,内容全系伪造。

据路透社报道,美国社交媒体传播的数千条政治题材视频属于深度伪造。合成内容识别工具开发企业“深度媒体”估计,今年网络上发布的深度伪造视频数量是去年的3倍,深度伪造音频数量是去年的8倍,所涉及的题材可谓五花八门。这家企业预计,全球范围内,今年将有约50万条深度伪造音频或视频在社交媒体发布。

上述情况或与生成深度伪造内容的成本大幅下降有关。直到去年年底,用人工智能技术合成一条音频仍需约1万美元,但如今一些新创企业几美元就能提供这种服务。

难辨真伪

美国布鲁金斯学会技术创新中心专家达雷尔·韦斯特说,一旦深度伪造内容掺和到竞选过程中,“选民会难以分辨真假”,“你可以设想一下拜登或特朗普的支持者用这种技术令对方难堪的情形”。

今年5月,已经宣布参加2024年选举的美国前总统唐纳德·特朗普在社交媒体平台分享了一条深度伪造视频,内容为美国有线电视新闻网主播安德森·库珀播报新闻,新闻中特朗普已当选总统。

美国共和党全国委员会4月底播出一条视频,展示拜登一旦赢得2024年竞选可能带来的灾难性场景。这条30秒长的竞选广告视频完全由人工智能技术合成。

就是否会在竞选中使用人工智能技术,路透社询问了目前已表明参选意向的所有共和党竞选人,其中大部分没有答复。尽管如此,路透社报道认为,人工智能成本低廉,一些竞选人的支持者很难不利用这种技术向选民发电子邮件、制作竞选海报和广告。

在密歇根州偏远乡村希尔斯代尔,该州第五选区共和党主席乔恩·史密斯召集了几次培训会议,教授如何用人工智能技术在社交媒体上发帖或生成竞选广告。他说,运用这种技术可以轻易赢得选票。

缺乏监管

非营利机构“人类技术中心”创始人之一阿扎·拉斯金说,技术行业竞相开发更先进的人工智能技术,却鲜有措施防止深度伪造技术工具生成的虚假信息传播。

开发ChatGPT的开放人工智能研究中心首席执行官萨姆·奥尔特曼5月在美国国会说,竞选中信息的真实性事关重大,呼吁加强这方面的监管。这家企业的图像生成工具DALL-E禁止生成知名公众人物形象。用户输入生成特朗普或拜登图像的要求会遭系统拒绝。然而,用户仍然能用这个工具生成美国其他政治人物的图像,包括前副总统迈克·彭斯。

生成式人工智能技术另一主要企业“米德朱尼实验室”首席执行官戴维·霍尔兹本月表示,可能会在2024年选举前做出调整,防止虚假信息传播。他说,希望业界开展合作,增强人工智能生成视频的“可追溯性”,例如添加数码水印。这家企业还考虑禁止使用竞选人形象。“米德朱尼实验室”是人工智能生成图像技术方面的领先企业,其官方服务器有1600万用户。

来源:新华社

审读:喻方华

举报/反馈

读创

77.6万获赞 12.3万粉丝
深圳商报/读创—深圳300万商事主体社交平台
深圳商报官方账号
关注
0
0
收藏
分享