2024听两会｜专访全国政协委员齐向东：AI带来的安全问题，需要用AI来解决
央广网2024-03-07 17:00
央广网北京3月7日消息（记者 万玉航）“网络安全、科技创新、民营经济是我履职工作的三个支点。”2024年全国两会期间，全国政协委员、全国工商联副主席、奇安信科技集团董事长齐向东向央广网记者表示，今年他带来了两份提案，关注创新发展“AI+安全”，以及“科技金融”等主题。他也向记者详细解答了如何应对AI时代的信息安全和网络安全威胁相关问题。
全国政协委员、全国工商联副主席、奇安信科技集团董事长齐向东
Sora的横空出世，再次引发了人工智能话题的热议。“Sora让我们看到了人工智能大模型的成长速度及应用前景。当前，利用人工智能技术进行网络攻击的事件已经不在少数。可以预料，未来利用人工智能发动网络攻击的活动会更频繁。”齐向东说。
具体来看，人工智能的应用可能带来数据泄露、欺诈攻击、社会治理安全等方面的威胁。“生成式 AI 技术可以快速生成钓鱼邮件、编写恶意软件与代码，导致攻击数量爆发式增长。数据显示，ChatGPT等生成式 AI 导致网络钓鱼邮件攻击增长135%。这就让数据非法获取、数据泄露及恶意滥用等数据安全问题成为了突出问题，比如用户和AI在对话交互过程中，存在涉及到个人隐私数据、业务数据等敏感信息的隐患，加剧数据泄露风险。不法分子还可能通过‘深度伪造’技术换脸变声、伪造视频，让网络诈骗大增。”齐向东表示。
同时，利用和针对AI的攻击层出不穷，也让网络安全“易攻难守”。“人工智能大幅降低了网络攻击门槛，不懂代码、不懂技术的普通人也能成为黑客，他们可以利用AI大模型制作恶意软件、生成用于规避杀毒软件检测的代码等，这让网络攻击能力将出现跃升。此外，在针对AI算法攻击方面，机器视觉攻击、数据源污染等攻击也愈加频繁，攻击者通过对抗样本、数据投毒、模型窃取等多种方式，对 AI 算法进行攻击，使其产生错误的判断。由于算法黑箱和算法漏洞的存在，这些攻击往往难以检测和防范。”齐向东说。
那么，人工智能时代，如何保证信息和网络安全，提高我国应对网络空间安全风险与不确定性呢？齐向东认为，AI带来的安全问题，需要用AI来解决。“我们要大力推进AI＋安全的科技创新能力，把AI安全技术融入到数字化场景当中。同时，鼓励企业和高校把最新的AI科研成果和网络安全攻防技术相融合。借助AI能力加速网络安全技术创新、安全防护体系创新。这样安全技术就能比AI技术跑得更快。”齐向东说。
在回答“人工智能是否能替代网络专家”的问题时，齐向东说，人工智能和网络安全专家将是协同合作的关系，它能帮助专家从日常繁重的工作中解放出来，做更有价值、更有难度的安全工作。
齐向东给记者举了一个例子：一位安全专家一年可以处理大概12万条告警，但是如果利用安全机器人辅助，能把告警处理的效率提高到人工的70倍，使安全运营结构发生重大变化。“因为安全机器人可以自动分析研判，在短短几分钟内从海量威胁告警中快速甄选出真实有效、亟需处置的告警，并自动生成处置建议，帮助安全专家平均节省80%的盯屏时间。这样就能让网络专家把节省下来的时间用来做与业务相关的高价值任务。”齐向东说。
齐向东也在提案中建议，希望我国能大力探索“AI+安全”创新应用，抢占国家安全的人工智能战略制高点，提高我国应对网络空间安全风险与不确定性的能力。他建议，要鼓励各行业企业与安全厂商开展联合创新，围绕攻防实战和应用场景实现“AI+安全”尖端技术研发突破；强化政策牵引，推动“AI+安全”技术创新产品在各行业落地应用；展开校企合作，共同培养“AI+安全”领域的实战型、复合型人才队伍。
更多精彩资讯请在应用市场下载“央广网”客户端。欢迎提供新闻线索，24小时报料热线400-800-0088；消费者也可通过央广网“啄木鸟消费者投诉平台”线上投诉。版权声明：本文章版权归属央广网所有，未经授权不得转载。转载请联系：cnrbanquan@cnr.cn，不尊重原创的行为我们将追究责任。
举报/反馈
0
0
收藏
分享
