网心科技CEO李浩：构建新摩尔定律下的算力分发网络
中国搜索2023-04-07 18:16
近日,LiveVideoStackCon 2022音视频技术大会·北京站拉开帷幕。网心科技首席执行官(CEO)李浩受邀出席,并发表了题为《构建新摩尔定律下的算力分发网络》的主题演讲。他认为,当前全球新一轮AI技术风暴渐起,生成式AI将推动边缘云的新一轮爆发增长,边缘AI将沿着边缘推理、边缘训练到自主学习的轨迹发展。
AGI时代开启,算力奇点将至
作为新一轮颠覆性科技革命,以ChatGPT为代表的AIGC技术,依靠强大的AI模型和海量数据,可以广泛应用于文本、音频、视频、游戏等领域,显著降低内容生产门槛的同时,也将大幅提升内容生产的效率。伴随着人工智能应用向纵深发展,无论是大模型训练需求攀升,还是AI应用的争相落地,都将进一步驱动算力需求的高增长,这将会对网络与算力带来持续强劲的拉动。
伴随着ChatGPT、GPT-4的迅速“出圈”,让 OpenAI 一战成名,外界对这家公司的关注度达到了前所未有的高度。OpenAI创始人Sam Altman此前在社交平台提出了“新摩尔定律”——宇宙中的智能总量每18个月翻一倍。尽管Sam Altman没有做出详细的解释,但可以预见的是AI飞速发展的背后,算力是一个明确可衡量的指标,也是必不可少的条件。李浩以GPT-4为例做出趣味化类比,目前GPT-4大模型由100万亿连接数构成,相当于一个松鼠的神经连接数,而人的神经连接数是170万亿,按照新摩尔定律,GPT-4仅需十几年的时间就能达到人类的水平。
类似的观点还有,库兹韦尔此前提出用钱来考虑计算机的发展状况:用1000美元能买多少计算能力。目前1000美元买到的电脑可以打败老鼠的大脑,水平大约是人类的千分之一。按照这个速度,2025年之前我们就能买得起一台与人类大脑相媲美的电脑。
在新摩尔定律中,算法、数据和算力三要素耦合共振。其中,数据是新型生产资料,算力是新型生产力,算法是新型生产关系,它们共同构成了人工智能时代的生产力三要素,而当前技术创新更多体现在模型算法。在对数线性曲线中,当模型大小呈指数增长时,相应的模型性能呈线性增长。在相变曲线中,当模型尺寸达到一定规模时,会出现突现能力,让性能急剧增加。可以看出,涌现能力推翻比例定律。当模型尺寸达到一定规模时,会出现涌现能力,让性能急剧增加。
相比传统的低代码、零代码平台主要依靠可视化和模块化等实现,生成式AI使非程序员的创造者能够使用自然语言指令进行调用算力手段。随着AIGC的进一步平民化,必将改变人们的内容创作方式,让更多人借助AI来拓展智慧、知识和想象力的边界。
在音视频领域,从智能配音到生成AI宣讲视频,再到文本生成视频模型,新一轮AI驱动的内容生产力革命正拉开大幕。根据此前国际数据公司IDC调研数据,到2025年,44%的数据将在核心和边缘创建,同时全球将近80%的数据将存储于核心和边缘。而在隐私保护方面,未来每个用户都有自己的数据节点,边缘侧是AI数据保护的重要选项之一,毫无疑问,在AIGC发展路径下,AI和边缘侧有着关键性的重叠。
边缘云新定位:成为新的内容生产中心
在ChatGPT引发的新一轮AI浪潮下,边缘云俨然已成为AI应用的主战场,由于大量内容在边侧生产,并伴随着在边缘云处完成内容的处理、分发。对此,李浩提出“云(训练)-边(推理)-端(请求)”全场景AI训练推理协同框架,将训练过程部署在云端,而将训练好的模型部署在边缘设备,边缘侧网络使用判定器判断特征信息是否足以进行准确的推理,当判定为错误推理时,边缘侧抛出数据至云侧,由云侧更复杂的网络进行推理,得到更准确的推理结果,通过云边端协同的方式,可以带来高质量的AI技术方案解决实际使用场景里的更多痛点。
围绕生成式AI+边缘云的畅想,李浩认为边缘云未来有三大关键趋势:
第一、智能场景多。一方面,AI交互多种形态,底层出现大量异构算力,对应不同模型大小和成本;另一方面,算力分层进行全网算力资源的智能编排、弹性调度。
第二、实时交互多。从边缘侧分发到超低延迟RTC,沉浸式需求和“临场感”驱动下一代互联网演进。
第三、业务逻辑多。数据源头的变革,大量业务逻辑要在边缘网络基于Serverless重塑。
从单纯分发到算网融合,边缘云也将面临全新挑战。算力网络是数字化时代的资源网,是以计算为核心,通过网络实现连接,通过感知实现匹配与调度的服务。算力网络有三大组成要素:首先是计算,算力网络的核心资源;其次是感知,对具体场景算力需求的感知及算力资源的感知;第三是连接:将分散、异构、多层级、闲置的算力集合起来。以上三大要素赋予算力网络功能属性和服务属性,让其能高效盘活全社会算力资源,并赋能产业应用。
从算力网络的技术架构上看,从下到上可分为基础资源层、算网调度层和算网运营层,同时算网运维和算网安全贯穿全程,形成“三横两纵”的支撑形态。最终,算力网络会以产品或能力的形式,赋能产业应用。
从传输到算力,网心科技持续探索AI场景落地实践
作为全球边缘计算创领者,网心科技通过共享和自建,汇聚海量边缘计算资源,构建了全球首个百万量级节点边缘计算平台——星域云。上层通过对接中心云,其余层次用各层级边缘节点去覆盖。在此基础上,基于网心科技的智能调度、资源封装、虚拟化平台,把比较复杂的资源封装成标准化的产品给到客户使用。
目前,网心科技在边缘云计算领域已建立领先的行业地位。在市场地位方面,网心科技拥有边缘计算全品类产品,目前客户接入SDK数量已达6亿;IDC报告显示,2022上半年网心科技位列中国边缘公有云服务市场第三。在技术实力方面,网心科技拥有全栈式边缘计算解决方案、行业最优的技术指标、卓越创新的边缘计算产品。在资源优势方面,网心科技拥有全球最大、最下沉的边缘计算网络,超过500万节点数量和70Tbps带宽储备,同时拥有自研的边缘智能硬件设备,适配各类边缘场景。在团队创新方面,网心科技是国内最早涉足边缘CDN的厂商之一。公司研发人员占比70%,并且组建了国内规模最大的边缘计算团队。
据李浩介绍,目前网心科技边缘云计算解决方案已在云游戏、AIGC等多个AI场景落地实践。在云游戏领域,网心云游戏布局了覆盖全网的算力节点,结合自身智能调度系统与基于QUIC构建的超低延时RTC,为云游戏玩家提供大带宽、低时延的稳定传输。
首先,在智能调度方面,传输双端智能、精准的定位功能,确保IP库、位置信息的高精度;基于网络测量的策略优化,依靠海量边缘节点以及终端的网络测量数据更新最优网络拓扑;海量节点的实时调度能力,以全内存管理实现高效的节点调度能力。其次,在端到端的超低延迟RTC性能优化方面,网心自研RTC,基于QUIC传输协议构建,拥有更快的连接建立、减少线路阻塞、更好的拥塞控制、改进隐私保护及流完整性;高效利用GPU特点实现零拷贝的采集编码,大幅降低CPU占用率的同时,有效提升视频的编解码效率。
从实际观测结果来看,当网络突发大面积丢包后可快速恢复到预期带宽。此外,弱网表现的结果也在延时、吞吐,带宽间实现了很好的tradeoff,以此保障游戏过程中的优质体验。
在AIGC领域,与传统基于中心云的AIGC应用方案架构不同,网心云IAAS架构依托自身边缘节点管理能力构建了超大规模的算力节点池,这使得数据不需要回传到中心云,而是在离用户更近的边缘侧就能解决,从而实现更低延时、更高服务质量、更低带宽成本、更安全的AIGC算力供给。
最后,李浩表示,从传输到算力,网心未来业务演进实施“三步走”:
第一步、降本增效。目前立足于能产生经济收益的场景以及客户的实际需求,利用客户扩大网络规模,提升网络水平,降低成本,提高效率,推助企业良性扩张。
第二步、功能迭代。逐渐丰富业务场景,助推云游戏、AIGC等业务的完善与推广,坚持对算力类需求的研发与覆盖,持续提升算力布局和能力。
第三步、构建生态。推动边缘网络和算力叠加,对接产业场景并实现产业场景产品化,构建开放网络平台,吸引开发者、合作伙伴共同构建生态。（信息）
（免责声明：此文内容为本网站刊发或转载企业宣传资讯，仅代表作者个人观点，与本网无关。仅供读者参考，并请自行核实相关内容）
举报/反馈
0
0
收藏
分享
