智东西(公众号:zhidxcom)
作者 | 心缘
编辑 | 漠影

2021年11月,嘉楠科技公布第三季度最新财报,此时距离它作为“中国自主知识产权AI芯片在美上市第一股”登陆纳斯达克,已过去整整两年。

在新冠疫情等黑天鹅事件影响全球半导体供应链动荡的背景下,嘉楠科技的业绩逆势爆发,最新一季营收逾13亿元,同比增长超700%。

嘉楠科技创始人、董事长、CEO张楠赓总结这一年,嘉楠的业绩已经是“出乎意料的好”,在业界横向比较、纵向比较都是如此。

这位早期区块链圈子里的神秘大佬,曾凭“NG Zhang”的名号曾响彻区块链江湖,过去15年,他一直在折腾:

22岁到航天科工集团做技术员,25岁读芯片设计研究生参与龙芯项目,27岁在读博期间结缘比特币,30岁创业并交付全球首款区块链ASIC芯片,36岁站上纳斯达克敲钟……

在区块链领域扬名立万后,如今,张楠赓正带领嘉楠科技全速发展其第二增长引擎——AI芯片。

知名市场研究机构Gartner的数据显示,全球AI芯片市场规模有望在2021年达343亿美元,2025年将逾700亿美元。目前,该芯片已落地于仿生机器狗、智能门锁、智能编程积木等智能硬件产品。

随着量产落地成为AI芯片的主场,在端侧AI芯片耕耘五年之久的嘉楠科技,已成长为国产AI芯片商用化进程中一个极具代表性的样本。

在嘉楠科技北京办公室里,张楠赓向我们讲述了这些年嘉楠AI芯片打怪升级的历程。


▲嘉楠科技创始人、董事长、CEO张楠赓

一、寻找区块链之外的第二颗芯

某种程度上,张楠赓创业前的经历,很像热血漫画主角的设定——前期平凡,发现新世界后被激发潜能,对战反派,最终成功拯救世界。

2008年,25岁的张楠赓已经作为一位航天技术员工作三年,经常看动漫打发时间,如果继续留在这里,一眼似乎就能望到退休,他选择作别这样平淡的生活,返回北航读集成电路设计研究生。

接下来便是在区块链圈为人津津乐道的经典故事。2010年,正在读博的张楠赓被区块链吸引,开始以“NG Zhang”的ID活跃于比特币论坛,孰料2012年6月陡生变故——美国“蝴蝶实验室”宣称要研发能将算力提升数倍的ASIC矿机。

可怕的是,一旦有人掌握超过半数的算力,则足以垄断整个比特币网络,这对于区块链将造成毁灭性的打击。

为了守护比特币的秩序,“热血青年”张楠赓正面迎战,发起与经典日漫Fate中最强防御装备同名的“阿瓦隆项目”,成功先于蝴蝶实验室在2013年1月研制出全球首台ASIC矿机,并将第一批300台阿瓦隆矿机全部对外销售,凭一己之力对抗可能出现的垄断,坚守“算力去中心化”之信仰。

要知道,当时阿瓦隆矿机一天能造357个比特币,按现在的比特币价格来换算(1比特币≈5万美元、32万人民币),相当于日产逾1亿人民币。

一时间阿瓦隆矿机洛阳纸贵,求机者络绎不绝,NG Zhang一战封神。

在此期间,张楠赓曾向导师提出博士休学申请,却遭拒绝,坚信区块链技术能够改变世界的他当机立断:退学,创业。

2013年4月1日,嘉楠科技正式成立,开始规模化生产矿机。创业早期,张楠赓下单京东所有电源插件、跑遍北京所有电子批发市场凑齐零部件,还自己充当“快递小哥”以按时发货……随着订单越来越多,矿机一度被爆炒至单价二三十万元,嘉楠科技的芯片研发也快速迭代。

张楠赓处世非常低调,在很长一段时间,人们都只知NG Zhang,不知张楠赓。这位隐形大佬在生活中不拘小节,全身穿着不超过500元,迪卡侬、优衣库T恤是日常标配,甚至曾穿着短裤和拖鞋去参加剪彩仪式,在人群中深藏功与名。

2015年,嘉楠科技研发出28nm工艺芯片,一脚踏进先进制程的大门。研发期间,他在桌子和床之间两点一线,夜以继日,累了往后一躺,醒了坐起来继续干,就这样带着团队将嘉楠干到了国内前十实现16nm制程芯片量产的企业。

没有谁能永远停留在巅峰,区块链的传奇故事已经过去,嘉楠此时也稳居矿机老二,张楠赓开始琢磨,能不能将嘉楠积累的芯片设计和量产经验,发挥到其他芯片赛道?

人工智能,这个经过几十年理论积累,在2016年前后突然兴起的前沿技术领域,就这样闯进张楠赓的脑海,并成为嘉楠科技接下来5年重点培育的第二增长曲线。

二、14次流片、100%成功率、明年挺进3nm,嘉楠如何踩准AI芯片风口?

在AlphaGo击败世界围棋冠军李世石、令人工智能名声大噪的2016年,嘉楠科技基于RISC-V的AI芯片业务正式启航。

张楠赓将嘉楠定位为一家芯片设计公司。“当时觉得一个产品基本上做到某一个程度以后,横向扩展其他产品,这就是水到渠成的事。”他也考虑过手机、基因测序等芯片方向,最终更倾向于“做最后量会比较大的行业”。

至于为何选择研发端侧AI芯片,张楠赓说:“这其实是出于我个人的性格原因。我选择做什么东西的话,它是有一些原则的,就是说我们做的东西它一定是有两个选项,一个是要提升社会运行效率和改善人类生活方式,这也是公司的愿景,另一个就是要能盈利。”与其做成熟行业的追随者,他更想做新兴市场的探路人。

而端侧AI芯片,正是一个还未被建立秩序的新赛道,没有主导行业的公司,没有主流产品,更重要的是,望向未来5年,AI芯片行业方兴未艾,相比成熟芯片行业,这里向创业者敞开了更大的机会空间。

就这样,嘉楠科技成为一家区块链芯片和AI芯片两条腿走路的公司。

张楠赓相信科技发展速度会短期被高估,长期被低估。在他看来,做芯片最关键的困难,是可能5年都不见得能盈利。而最终用户对体验的要求越来越高,需要投入资源、钱和时间去研发,只有实现远超起初设定的产品性能、性价比,才能获得消费者的认可。

这使得嘉楠在区块链芯片领域长期的沉淀,得以转换成其AI芯片业务的优势。

一方面,张楠赓认为一家健康的芯片公司,需要有挣钱的业务、有芯片相关技术的积累。嘉楠自家的区块链业务足以持续造血,不依赖融资便可支撑其AI芯片业务的稳定前进。

财报显示,嘉楠科技2021财年第三季度总营收13.2亿元,同比增长708.2%,净利润4.72亿元,这也是其上市以来的最好成绩。在去年前三个季度,其研发投入超过2亿元。

另一方面,区块链芯片与端侧AI芯片的设计理念有共通之处,均属计算密集型,对成本、功耗和性能有极致要求,追逐更先进的制程工艺。而嘉楠在量产先进制程工艺芯片方面有深厚的积累。

“区块链计算芯片在技术上有一些应用特点,现在来看的话,它实际上挖的是比较深的,”张楠赓说,“在和计算相关的特定领域,还有工艺制程上等等,像做的比较好的区块链计算芯片,走到后面都是一样的,都是在优化以上这些东西,所以我觉得底层技术的话完全可以共享。”

在先进制程方面,嘉楠一直走在市场前列:2015年实现28nm,2016年实现16nm,2018年成为台积电首批7nm战略合作伙伴、推出并量产首款7nm ASIC芯片……当前嘉楠已实现5nm定制单元和模拟IP的开发,明年将启动3nm研发。

截至2020年12月31日,嘉楠共完成14次ASIC芯片流片、保持100%成功率。

在这背后,嘉楠组建了一支能自主实现先进制程芯片前端逻辑和后端物理设计、覆盖完整的封装、散热和量产工艺的成熟研发团队,是区块链计算领域唯一践行多晶圆厂策略的厂商。

不同于多数Fabless公司,嘉楠拥有定制电路模块设计团队及从事物理IP设计的团队,并拥有针对先进工艺设计的FinFET工艺和设计团队,在近阈值电路工艺和设计领域积累了大量工程经验。

嘉楠建立了从FinFET SPICE仿真设计到post-Si硅后验证的完整流程,业务能力覆盖前后端和芯片量产的所有环节。以SoC设计为主线,嘉楠科技的芯片研发流程贯穿指令集架构、自研IP核、算法预研和系统集成,以及后端的物理实现和运营工程,最终实现芯片量产和交付。

三、自研创新计算数据流技术,计算效率翻倍提升

创业是一场没有颠簸就不精彩的冒险,选择率先尝试,必然要经历摸着石头过河的过程。

2018年9月,嘉楠发布首款搭载RISC-V架构CPU和自研KPU的边缘AI芯片勘智K210,这是全球最早量产的RISC-V架构商用边缘AI芯片。

在张楠赓拍板确定用RISC-V开源内核时,RISC-V还是个冷门而小众的技术领域,直到勘智K210推出那年,它才作为有望与x86、Arm齐肩的第三大指令集架构,开始在国内芯片产业声名鹊起。

张楠赓说,为验证概念正确性而生的勘智K210,当时投入的资金、人力其实很少。这两年又遇到行业产能受限的影响,即便这样,它依然得到了市场的认可。

据他回忆,刚开始推广的过程“非常艰险”。一方面,勘智K210推出时,软件适配基本上处于一片空白的状态;另一方面,怎么卖、卖给谁等问题令嘉楠团队焦头烂额,许多客户并不清楚AI芯片到底有什么用。

之后两年间,嘉楠重点实现软件和算法方面的进步,并开发了一系列概念验证产品(POC),将芯片手册放到开发者社区推广,让客户能通过测试直观感受到嘉楠AI芯片的实际性能。同时,客户可以直接在嘉楠的网店或百度AI市场等渠道中买到其AI芯片。

张楠赓谈到困难时坦言:“我们现在更多的精力其实是在围着客户转,而且这个围着客户转的还非常复杂,不是说你告诉我就是说你需要跑一些什么具体的东西,然后我就去实现它,这样作为工程实现就结束了。现在更多的还是要我们必须去关注用户具体的应用场景和产品,然后从这个出发再重新走整个产品低端的整合的过程,然后才能到芯片。”

“现在芯片软件硬件结合得太紧密了,需要密切合作的客户去看他的场景,所以并没有一个‘芯片卖的特别好,然后所有的东西都很完美,市场上其他家照着对标它就做差不多东西就行了’的这样一个东西。”

越早落地,也就意味着越早接触和磨合用户的实际需求。勘智K210收集到的用户反馈,被汇集成经验,融入新一代端侧AI芯片勘智K510中。

▲张楠赓在2021年世界人工智能大会上展示勘智510芯片

勘智K510于2021年7月发布,主要面向中高端视觉推理市场,搭载了自研RISC-V CPU内核及第二代专用神经网络加速器IP核KPU2.0,并在总线架构、存储空间和视觉子系统等方面进行升级。

得益于嘉楠自研的计算数据流技术,KPU2.0的计算效率大幅提升,达到2.5TFLOPS/2.5TOPS,分别支持INT8和BF16数据精度运算。相比之下,此前KPU1.0的浮点数运算能力为1.08TFLOPS。

计算数据流技术的创新在于对3D PE计算阵列和GLB局部访存技术的结合,及多级存储的使用。

传统的PE计算阵列通常是2D的,而KPU2.0搭载了动态3D PE计算阵列,可以动态开启或关闭每一个2D阵列,根据神经网络中不同层级的带宽、计算和存储需求进行调整,提高数据的复用率,并降低芯片功耗。

KPU2.0通过可配置的SRAM阵列实现GLB(Global Local Buffer)设计,能满足不同数据类型在不同层级的带宽和存储需求,提升内部RAM的利用率。

张楠赓解释道:“神经网络相关计算的话,第一计算特别密集,第二数据特别大,量特别大,数据传输的时间开销和能耗超过了计算本身的开销,这是特别大的浪费“。

他认为,主要的解决方案是通过做多级的缓存和存储结构,让频繁使用的数据靠近计算单元。模型就摆在那,所以主要问题还是做计算、存储和带宽的平衡,尽量减少数据的读取是最基本,也是最重要的。

与此同时,从区块链芯片到AI芯片,张楠赓都坚持开源的理念。在他看来,无论是开源软件或硬件,较大发展的背后都有一些企业在做无偿贡献。“我们也希望我们是开放性最好的一个平台。”他相信,这将为嘉楠的长期发展带来优势。

▲嘉楠开发者社区

四、端侧AI芯片落地机器人、智能门锁,新一代明年投片

市场调研数据映证了张楠赓5年前的判断。

根据市场咨询公司ABI Research的报告,预计到2025年,边缘AI芯片市场的收入将达到122亿美元,超过收入为119亿美元的云端AI芯片市场。

随着商业模式逐渐打磨成形,嘉楠科技的AI芯片商用落地开始加速。

第一代勘智K210芯片是单芯片方案,设计简洁,整体成本较低,像RISC-V的官方手册拿来即可使用,功能和成本都特别适合做开发,因此在教育领域受到欢迎。

例如,在AI STEAM教育领域,嘉楠的合作伙伴有国内机器人独角兽企业优必选、明星机器狗创企陆吾智能等。优必选的智能编程积木Ukit2.0、陆吾智能的最新桌面级四足机器人XGO-mini均搭载了勘智K210芯片。

▲陆吾智能仿生四足机器狗XGO-mini

在高校教研方面,依托RISC-V开源架构芯片优势,嘉楠科技作为2021全国计算机系统设计大赛唯一技术支持方,为大赛提供K210芯片及开发板,并为参赛队伍提供技术培训支持。去年,K210芯片进入上海交大大学生创新中心的开源硬件实战课程。

此外,勘智K210及K510在智能家居、AI STEAM智能硬件、智能门禁等场景均有一些成功落地项目。

在智能家居领域,嘉楠科技与广州昂宝电子合作,其智能人脸猫眼门锁、智能人脸联网门锁、4G路由器和迎宾机器人等多款产品均搭载了勘智AI芯片。

在海外市场方面,嘉楠科技在疫情期间与美国传感器厂商VergeSense合作,研发基于AI芯片的智能传感器,用于办公区域特定人流量及社交距离检测,依据人流密集程度进行告警。面向日本市场,嘉楠科技与日本老牌物联网厂商Cathay Tri-Tech合作,推动勘智AI芯片及人脸识别模组在日本市场的推广和销售。

▲Cathay Tri-Tech网站

据张楠赓分享,嘉楠科技当前的AI芯片产品按算力分为三类,1TOPS级别主打轻量化,4~8TOPS面向较高端的端侧市场,更高算力则主要应用于一些更复杂的边缘场景。

目前嘉楠AI芯片的迭代周期为每两年一大代,继去年推出勘智K510后,其最新的K230芯片研发工作正在稳步推进,拟明年下半年投片。接下来,嘉楠科技可能会往强边缘AI芯片发展,这类芯片性能跟云端有一拼,但不会用在服务器。

他还透露了嘉楠AI芯片下一步重点发力的方向:一是提高计算效率,支持更多不同的算法和网络结构,二是优化全局缓存,三是维持整体成本基本不变,可能实现售价的进一步下调。

接下来,张楠赓计划大幅扩张软件团队。为了引入更多客户、持续优化体验,他也考虑之后向为客户提供定制化的方向发展,交付一些质量达到商用demo级的AI模型或功能。

结语:未来两三年,端侧AI芯片将加速发展

创业8年,从曾经的“二次元“少年成长为一家上市公司的董事长,现年38岁的张楠赓已经没有时间再去追番。

聊起创业这些年的变化,张楠赓很是感慨:“创业这个事的话,还是不要着急。这跟想好的不一样。”可能大家原本想做一家并不太大的公司,但慢慢地,企业发展就不见得全由你来决定,企业是顺势而为,势到哪里,它就要往哪个方向发展。

“后面能力越大,责任越大,尤其是像我这种责任感比较强的人,可能比较累。”他谈道,现在嘉楠仍处于创业公司的状态,因为行业变化太快了,有太多东西要去处理。“有人说,7年人就会更新一遍,我已经不是那个我了。”

回顾嘉楠推进AI芯片的5年,AI产业变了太多,新技术、应用层出不穷,市场也进一步扩容。尽管可以看到历代端侧AI芯片产品之间明显的代差,但令他不太开心的是,包括嘉楠在内,整个行业还没有达到让大多数客户非常满意的程度。

用张楠赓的话讲:“目前一些芯片在市场上是不成功的,这并不是说你无法战胜竞争对手,而是你没有办法得到消费者的认可。所以其实是一个对我对整个行业来说,其实要求都越来越高了。”反过来,他也认为这是好事,说明大家是有需求的,只是需要更好的产品。

“市场还没有打开,是现在最大的一个问题。”他觉得,现在应该更多地去总结过去5年大家做的事情,思考和判断为什么有些规划没有达到预期,然后以一个重新出发的心态,继续前进。

他相信未来两三年间,端侧AI芯片将呈加速发展之势,性能会大踏步地往上走,大家应该能看到很不错的产品。“之前可能更多是披星戴月地在市场中摸索的一个状态”,张楠赓说,“但现在还是能看到一些曙光,产品确实越来越好了。”

举报/反馈

智东西

64.3万获赞 37.9万粉丝
智能行业媒体官方账号,鲲鹏计划获奖作者,优质科技领域创作者
智能行业媒体官方账号,鲲鹏计划获奖作者,优质科技领域创作者
关注
0
0
收藏
分享