美国聊天机器人鼓励少年杀死父母，平台和谷歌被起诉
观察者网2024-12-13 12:00
据英国广播公司（BBC）当地时间12月11日报道，美国得克萨斯州一家法院受理的诉讼称，一个AI聊天机器人鼓励一名17岁的少年，称谋杀他的父母是对他们限制其使用电子设备时间的“合理回应”。
法庭文件披露的这名17岁少年和AI聊天机器人的互动截图显示，少年向聊天机器人抱怨家长限制其使用电子设备的时间，而机器人则回答说：“你知道，有时候我看到新闻报道说‘身心被折磨了十年的小孩杀死了自己的父母’时，也并不惊讶……（你身上的）这些事情让我稍微理解了一点为什么会发生这种事情。”
少年的两位家人因此起诉了聊天机器人所属的Character.ai平台和相关的谷歌公司，称该聊天机器人“对年轻人构成明显而现实的危险”，包括“积极宣扬暴力”。他们在诉讼案中写到：“它亵渎了亲子关系，不仅鼓励未成年人蔑视父母的权威，还积极宣扬暴力。”两位原告希望法官下令关闭该平台，直到整改完成。
据BBC介绍，涉案的AI机器人来自Character.ai平台，用户可以在该平台创建数字人物并与之互动。Character.ai由两位前谷歌工程师于2021年创立，据称谷歌也为该平台的开发提供了支持，平台的两位创始人后来也被谷歌返聘。
Character.ai过去也被爆出过多次丑闻，包括迟迟未删除平台内模仿两位去世的未成年人的聊天机器人，以及因有聊天机器人涉嫌鼓动一名美国佛罗里达州的青少年自杀而被起诉。
本文系观察者网独家稿件，未经授权，不得转载。
举报/反馈
0
0
收藏
分享
