蚂蚁集团漆远:可信AI是数字时代抵抗风险的关键能力

第一财经

发布时间: 07-0916:43第一财经官方帐号,优质财经领域创作者

随着人工智能在工业、医疗、教育等领域的应用,包括算法的安全、数据歧视、数据滥用等诸多问题浮出水面,因此,发展可信AI是能够释放人工智能潜力的关键。

“蚂蚁在过去的几年里一直布局、研发相关的技术能力,在今年6月份IPR Daily全球专利榜里面我们有全球最多的在可信人工智能领域的相关技术积累。”在2021世界人工智能大会“可信AI”论坛上,蚂蚁集团副总裁、首席AI科学家漆远在演讲中表示,从技术的视角看,可信AI是数字时代抵抗风险的关键能力,是推进科技普惠的关键。

在支付宝上,每天上亿笔交易背后,发起攻击的早已不是散户,而是专业的黑产团伙。为了应对复杂多变的黑产攻击,如何持续加强风控模型的抗打击能力,成为摆在蚂蚁集团技术团队面前的难题。

2018年,漆远带领着蚂蚁集团AI技术骨干,在人工智能模型算法中融入经济学“博弈理论”,开发了一项业界全新的技术——“智能对抗”,即通过结合AI和博弈对抗,让机器自动且实时、动态地对自身系统进行安全性攻击,从而提升模型能力,使模型更加鲁棒(robust),处理结果更加准确。

在借助AI防御数字经济风险的同时,如何确保AI的安全、可信和公平成为全行业关注的重要课题。作为数字经济中“抵御风险”的关键,可信AI技术目前已在蚂蚁集团包括反欺诈、反洗钱、反赌博、企业联合风控、数据隐私保护在内的多个风控场景下落地,支撑着支付宝全风险域的防御需求。

此外,长期以来,传统数据传输和共享方式无法对数据进行有效的保护,不同金融机构的数据难以互联互通,这也制约了防范风险、反欺诈和反洗钱等领域的多方协作。如何实现数据共享和隐私保护以实现“原始数据不出域,价值安全共享”,多方安全计算被认为是破题之策。

IDC最新发布的《开放金融数据共享中隐私计算的平衡之道》报告指出,浦发银行和蚂蚁集团针对零售贷款业务开发了一整套风险评估解决方案,采用多方安全计算的风险模型利用浦发银行及其合作方的数据来共同提高模型的有效性,同时保证了数据的安全性和隐私性。

该模型基于浦发银行及其合作方的数据构建而成,蚂蚁集团为双方提供技术服务,在训练和运行两个阶段内均采取了分布式部署,且双方都应用了加密算法。这意味着,任何一方的原始数据都不会泄露给另一方,并且也无法通过对训练结果的反向工程来推导原始数据。

举报/反馈