过去一年,全球迎来新一轮人工智能(AI)热潮,从ChatGPT的更新迭代,到Sora的出现,大量与 AI 相关的研究快速推进。

“时隔一年回到博鳌,可以看到与 AI 相关的技术产业已发生了翻天覆地的变化。”中国工程院院士、清华大学智能产业研究院院长张亚勤表示。

而与此同时,AI 潜在的安全风险也引发越来越多的关注与讨论。包括欧盟、联合国等国际组织正加速推动相关监管法案的制定工作。那么,2024年,全球AI领域监管将走向何方?如何推动在全球形成统一的AI治理框架和标准规范?

日前举行的博鳌亚洲论坛2024年年会上,与 AI 相关的分论坛共有三场,分别是科技革命“奇点”离我们有多远、AIGC改变世界,以及人工智能全球治理。钛媒体App简单梳理其中的关键发言。

AI 一日,人间一年

在不少专家看来,AI 技术不仅能显著提高生产效率,在改善人类福祉方面也是潜力巨大。

张亚勤认为,大模型和生成式AI之间的关系是前者为后者提供了基础。他预计,大模型将朝多模态、自主智能和边缘智能方向发展,而生成式AI不再局限于传统的识别任务,还能进行创造和生成工作,如编写代码、设计药物等。

《人工智能:现代方法》作者、加州大学伯克利分校计算机科学系教授斯图尔特·罗素表示,“AI改变着创意产业,作者、商业作曲者和艺术家都将被AI取代,这些都很难预测。虽然几十年来有人说技术带来的失业是不存在的,我们有理论可以证明这一点。但现在有人说这种理论是错的,人类的工资可能会变为零。”

咨询公司罗兰贝格全球管理委员会联席总裁戴璞(Denis Depoux)称,大量资本正流入AI领域,尤其是投向开发大语言模型的公司。

他指出,早期AI技术与企业现有系统的集成挑战,正被语言模型所克服,它们成为了关键的接口。这一发展预示着将加速AI的采纳,开启了一系列用例,包括加速工程速度、由机器驱动的产品研发,以及提升服务行业的生产力和质量。

“一个显著的例子是呼叫中心,降低成本往往导致服务质量下降,因为接听电话的人员技能不足,无法恰当地服务客户。用AI替代这些角色可以确保更高质量的服务,将人力资源重新分配到重视个人互动的任务上。”戴璞称,AI的部署推广需要时间,其许多客户正就具体用例“询问非常具体的问题”,这一趋势预计将持续增长。

“ AI 是人类的未来,我们要全力以赴,抢占先机。”在小i集团董事长兼首席执行官袁辉看来,AI 所带来的变革,不仅是改变某些产业,而且会变得像空气和水一样,无处不在。

如今,AI 技术变革加快,AI 一日,人间一年。AI 相关学科发展、理论建模、技术创新、软硬件升级等整体推进,正引发链式突破,推动经济社会各领域从数字化、网络化向智能化加速跃升。

袁辉强调,“数字经济是未来发展的趋势,数字经济的核心是人工智能。谁能通过算法掌控数据,谁就拥有话语权。”

科大讯飞研究院副总裁、研究院院长刘聪表示,“这一波通用大模型浪潮席卷了全球,AI 非常受关注,包括过去一年中国在通用大模型和产业应用也做了非常多的应用。我们在内容的生产、在全自动地完成任务交互上,包括颠覆原来传统的编程,以及科研新范式,都在产生快速的进展。在这个过程中我可能更多地谈在中国我们怎么样做通用大模型。在中国,我觉得我们自己现在跟国际上顶尖水平还是有差距的,这是一个共识,当然这个差距我们也在持续地追赶。在中国我们有一个点就是关于自主可控,关于软硬件自主可控这块还是非常关键的点,我仍然认为,现在整个通用大模型发展是系统性的机制,但是主战场我认为还是底座大模型。从这样一个角度,我们认为在自主可控的硬件平台上去研发可以对标国际顶尖大模型。有了这样的大模型后,我们的行业应用其实有更好的发展舞台,用人工智能+非常有可能成为发展新智生产力的非常重要的引擎。”

刘聪在博鳌期间向钛媒体App等透露,科大讯飞计划在今年6月正式发布对标GPT-4 (Turbo)当前能力的讯飞星火大模型V4.0版本。

建立全球AI治理架构迫在眉睫

“AI发展风险需引起重视。”张亚勤认为,AI发展对算力非常依赖,算法效率低下的问题值得关注。

斯图尔特·罗素坦言,当前的 AI 是错误的方向。

“当前我们所扩展的大语言模型好像黑匣子,他们是看不透的,它们能够满足的目标是我们现在不清楚的,这是错误的方向,我们不应该朝这个方向走。”斯图尔特·罗素表示,中美 AI 领域的竞争是良性的,他不同意“零和博弈”这个说法。

他直言,“如果AI是安全的,能够让人类受益,甚至比人类能力更强,那么它就能够成为人类无限财富的基础,所有的人都可以利用这样的技术,我们很多人都会因此而享受。从这个角度来讲,这个竞争并没有意义。所以核心问题是我们如何安全地与这个技术共存,安全是一个方面。AI系统提供受益是另外一方面。”

首尔大学电子与计算机工程系教授Kyoung Mu Lee则表示:“AI有无限的能力,同时也会带来一些风险。”

他指出,“大家都知道AI发展非常迅速,不能够完全预测它的未来。我们对于AI的恐惧并不是来自于AI巨大的能量,而是来自于我们并不知道AI实际的运作方式,以及将来它会变成什么样子,因为未知所以恐惧。这样一个新的怪物会淘汰我们所有人,还是拯救我们所有人?我们能够控制它吗,或者它会控制我们发生什么样的剧变?因此,我们需要对AI进行好的治理。”

AI将给人类带来怎样的风险与影响?经济发展与合作组织秘书长马蒂亚斯·科尔曼从就业的角度切入。

他认为,AI会给全球劳动力市场带来巨大的动荡,给人类教育和技能的发展造成很大的挑战。有些人可能会在AI导致的劳动力市场动荡中失去自己的就业机会,所以政府要制定相关的政策来应对劳动力市场的变化。

经济发展与合作组织秘书长马蒂亚斯·科尔曼

Kyoung Mu Lee也表示:“我们需要更加务实的监管AI系统,这些大模型会影响到我们的生活,会影响到我们的经济决定,会影响到我们的国家问题。所以AI的影响不是遥远的,而是就在我们的身边。”

布鲁金斯学会高级研究员、清华大学客座教授唐睿思指出,目前人类从AI获得的益处还是有限的,尽管已经有几个大型科技公司变得非常的富有,因为这些公司卖底层的技术。但是对于社会其他成员带来的益处我们并没有看到。

“另外还有一个事实是,如果在2030年达到我们对AI的预期目标,不管这些目标是否正确,我们都需要增加4万个核电站才能够为这些AI机器提供动力,因为它们是极其耗能的。与此同时,大国之间的博弈以及资金与人才的缺乏都会使AI技术的创新延迟或减速,我们如何保证这样的创新不会使全球经济破产。更何况我们所要监管的AI行业现在还不挣钱,我们如何保证AI治理在鼓励技术创新的同时不会给行业带来太多的负担。”唐睿思说。

与会嘉宾表示,目前国际社会在AI治理的基本原则上已达成一定共识,包括以人为本的AI,关注生态体系,关注安全,尊重国际法律等。关键是如何把这些道德规范变成统一的监管框架,包括尽快填补AI数字鸿沟,以及建立全球AI治理架构。

从分散走向协同,全球AI治理需加强对话

全球AI治理架构的建立需要各国加强对话和协同合作。

Kyoung Mu Lee表示,尽管AI系统可能是一家公司或一个国家开发的,但这个AI系统会带来全球的影响,会影响整个人类,所以不只是一个国家的问题。“我们需要各国之间的合作来讨论解决方案,利益相关者应该参与到(监管规则)制定过程中来,使得监管规则变得更加有效。”

科尔曼也认为:“我们需要国际论坛上的对话,比如通过二十国集团,通过金融组织,通过联合国,有不同级别的国际上的对话进行交流,我们希望看到这些会议带来安全的、符合伦理的方式。我们不介意技术创新,但也希望人类不会受到技术创新的伤害。”

值得注意的是,国际上关于AI治理方面的对话依然存在一定的不足与不平等。唐睿思指出,这是因为当前AI行业并没有均衡的分配权利,比如算力本质上是由美国主导的,其他国家的缺口很大。所以如果想要全球推广AI治理的话就必须要依赖美国的技术是好是坏,本质上来讲这就是一种权利的聚集。

“如果(各经济体)想坐这个桌子上参与讨论,我们就必须让每一个国家都找到方法去建立自己的算力、自己的堆站。有两种方法,一个是通过监管,另一个是通过加强合作,当然也要创新。算力是由一小部分国家所控制,因为它非常昂贵,所以我们需要建立自己的算力基础设施,否则没有人可以为此进行负担。手机之所以平价,是因为各国政府、公司花非常多的钱来投资、推广基础设施,各国的人才相互合作,才能够使得手机下降到如此的价格。而在AI领域,美国在做自己的事情,中国也在做自己的事情,所有投资都要再重新发生一次,我们是在冗余的投资,而不是在解决问题。”唐睿思称。

对于这一现象,清华大学公共管理学院教授、院长朱旭峰分析道:“每一个国家都是自由主权的国家,他们是根据自身的内外部环境做出相应决策的。”

通过研究全球62个国家的300多个AI治理政策,朱旭峰发现,有四个因素会影响到国家AI治理规则的制定:一是国家是否有强有力的创新能力和产业化的能力;二是人口结构,老龄化严重的国家往往更关心AI的发展;三是资本和劳动力市场的关系,比如美国近期有很多汽车生产企业工人罢工、演员罢工等;四是社会规范。如果社会规范更关注的是个人隐私和道德的话,就会建立更加严格的AI治理机制。

清华大学公共管理学院教授、院长朱旭峰

“研究是帮助我们理解不同国家在AI治理决策方面所做出的努力,所以对我们普通人来说,我们必须理性地观察不同国家的行为和他们的决策过程,同时每个国家都是遵循理性的,所以AI的全球治理需要国际组织,比如联合国来帮助我们达成。”朱旭峰表示。

弥合AI“数字鸿沟”,实现全人类共享

2024年3月21日,联合国大会通过首个关于AI的全球决议《抓住安全、可靠和值得信赖的人工智能系统带来的机遇,促进可持续发展》。据悉,该决议的草案由美国发起,并得到中国等120多个联合国会员国的共提或支持。该决议的通过有望促进国际电信联盟等联合国实体在AI问题上进一步开展工作.

关于这一决议,与会嘉宾认为,从中国的角度来看,这个决议仍然有一定的提升空间,比如它并没有充分地提及发展中国家的AI能力建设,以及他们如何能够从AI发展中获益。

朱旭峰也赞同打破全球AI技术障碍。在他看来,从人类文明的角度去看,技术可以分成三类,一类是能源方面的技术,让人类去了解能源,开发更多的能源来利用,比如太阳能。第二类技术就是信息技术,信息技术更多的是促进人类之间的沟通,特别是关注在精英与普通民众之间缺口的弥合。第三类技术是帮助人类提升效率,减少能源的使用。

“AI是横跨第二类技术和第三类技术的,它既是信息技术,可以帮助我们推进一个平权的社会,普通民众也可以获得更多的信息、知识,也有了更多权利和力量。同时AI也是涉及到效率方面的第三类技术,使得我们的社会、我们的工业更加有效率,AI就是如此。这种技术使得世界的资源得以重新分配,不仅是能源,还有其他的资源,像矿产和土地资源。只有少数的人掌握了AI技术行业中的头部。因此,我们必须要打破在AI使用方面的障碍,从而建设一个平权社会。”朱旭峰说。

中国科学院自动化研究所、联合国高层顾问专家曾毅教授表示,未来的 AI 将走向何方,谁能真正引领?AI 走向何方这没有任何一个专家能说清楚,所以根本没有真正的引领方。

“我不认为美国真正引领未来的 AI ,我也更不认为中国能引领未来的 AI 。AI 的发展是基础性的、赋能性的技术,这个世界足够大,让中国、美国以及更多的国家在构建基础设施和应用方面都找到机会。但是对于 AI 带来的潜在风险,同样的,世界需要理解和保护人类。所以在这样的问题下,我们确实是首先要共同地探索未来的可能性,那就是全世界如何团结起来真正地为人类安全、人类繁荣构造一个更安全、更可靠、更可信的人工智能,这才是世界更团结的目标。美国不会引领,中国不会引领,世界上任何一个国家都不会。”曾毅表示。

(本文首发钛媒体App,作者|任颖文,编辑|林志佳)

举报/反馈

钛媒体APP

224万获赞 36.7万粉丝
犀利、前沿、独家,引领未来商业与生活新知
鲲鹏计划获奖作者,钛媒体APP官方账号,优质科技领域创作者
关注
0
0
收藏
分享