财联社4月2日讯(编辑 周子意)人工智能(AI)带来机遇的同时,越来越多人对即将到来的下一代人工智能(AI)感到忧心。周一(4月2日),美国和英国宣布在人工智能安全科学方面建立新的合作伙伴关系。

美国商务部长吉娜·雷蒙多和英国技术大臣米歇尔·多尼兰周一在华盛顿签署了一份谅解备忘录,宣布共同开发先进的人工智能模型测试。

这是继去年首届全球人工智能安全峰会上宣布的国际声明后,全球达成的又一份国际合作。

去年11月,首届全球人工智能安全峰会在英国布莱切利庄园举行,开幕式上,包括中国在内的与会国共同达成《布莱切利宣言》,这是全球第一份针对人工智能这一快速新兴技术的国际性声明。

人工智能风险

生成式人工智能可以根据开放式提示创建文本、照片和视频,不过它也存在许多负面因素,例如淘汰一些工作岗位、影响选举结果、并可能推翻人类、造成灾难性后果。

周一,雷蒙多和多尼兰在接受联合采访时表示,需要紧急采取联合行动来应对人工智能风险。

雷蒙多指出,她特别担心人工智能应用于生物恐怖主义或核战争模拟的威胁,“这些事情的后果可能是灾难性的,所以我们真的必须对其中一些模型被用于这种能力持零容忍态度。”

雷蒙多透露,拜登政府计划很快宣布其人工智能团队的新成员,“我们正在动用美国政府的全部资源。”

多尼兰同样表示,“时间是至关重要的,因为下一代人工智能即将发布,它们将更加强大。”

基于此次合作,两国计划分享与人工智能模型和系统相关的能力和风险的关键信息,以及人工智能安全和安保的技术研究。

研究所间的交流

目前,英国和美国都建立了由各自政府主导的人工智能安全研究所。

英国去年10月份宣布成立人工智能安全研究所,将研究和测试新型人工智能;今年2月,英国还表示将斥资1亿多英镑启动9个新的研究中心,并对人工智能监管机构进行技术培训。

美国则在去年11月份表示,它将启动自己的安全研究所,以评估所谓的前沿人工智能模型的风险,目前正在与200家公司和实体合作。

根据正式的伙伴关系,英国和美国计划至少进行一次公开模式的联合测试,并正在考虑探索两所研究所之间的人员交流。

雷蒙多称,“我们都知道人工智能是我们这一代的决定性技术,这一伙伴关系将加速我们两家相关研究机构在各个领域的工作,以解决我们国家安全担忧的风险和我们更广泛的社会担忧。”

多尼兰指出,“这是世界上第一个这样的协议,人工智能已经是我们社会中一股非凡的有益力量,在应对世界上一些最大挑战方面具有巨大潜力,但前提是我们能够控制这些风险。”

(财联社 周子意)
举报/反馈

财联社

895万获赞 91.7万粉丝
财联社A股24小时电报
财联社官方账号,优质财经领域创作者
关注
0
0
收藏
分享