Google通过AIY项目套件向成千上万的人们介绍了人工智能和机器学习概念,例如带语音识别的AIY Voice Kit和用于计算机视觉应用的AIY Vision Kit。
该公司现已进一步推出Edge TPU,它自己的专用ASIC芯片设计用于在边缘运行TensorFlow Lite ML模型,以及相应的AIY Edge TPU开发板,以及AIY Edge TPU加速器USB添加到任何USB兼容硬件。
Edge TPU是一款用于机器学习(ML)的小型芯片,针对每瓦性能和每美元性能进行了优化。 它既可以加速设备上的ML推理,也可以与Google Cloud配对,创建完整的云端到边缘ML堆栈。 在任何一种情况下,本地处理都可以减少延迟,消除对持久网络连接的需求,增加隐私,并使用更少的功率实现更高的性能。
该芯片将支持新的Cloud IoT Edge软件,该软件允许您在Edge TPU或基于GPU和CPU的加速器上执行在Google Cloud中训练的ML模型。Cloud IoT Edge可以在Android Things或基于Linux OS的设备上运行。
它有三个主要组件:
具有至少一个CPU的网关类设备的运行时,用于在本地存储,转换,处理和从边缘数据中获取智能,同时与其余的Cloud IoT平台进行互操作。
Edge IoT Core运行时可以更安全地将边缘设备连接到云。
基于TensorFlow Lite的Edge ML运行时,使用预先训练的模型执行本地ML推理
用户在边缘做得越多越好,但对于像培训和更强大的框架这样的任务,仍然需要云。
谷歌还将提供一个带有系统级模块(SoM)的开发板,该系统将Edge TPU与NXP i.MX 8M处理器以及基板暴露端口和I/O相结合。
该板采用Raspberry Pi的一些提示,信用卡外形和40针连接器,但连接器的位置不会使其与RPI配件兼容。
Edge TPU Dev Board将运行Debian Linux或Android Things,并支持TensorFlow Lite。
但是,如果您已经熟悉特定的开发板和环境,那么您可能不想再购买另一个,并再次学习。 就像英特尔的Movidius神经计算棒一样,AIY Edge TPU加速器是一种USB棒,旨在通过USB接口为现有主板增加机器学习加速功能。 但是,Edge TPU加速器不依赖于Myriad 2 VPU和USB 3.0 A型端口,而是配备了Edge TPU芯片和USB C型端口。
AIY Edge TPU加速器规格:
ML加速器 - Google Edge TPU协处理器
连接器 - USB Type-C(数据/电源)仅与USB 2.0速度的Raspberry Pi板兼容
尺寸 - 65毫米x 30毫米
外壳包括用于连接主机板的安装孔,例如Raspberry Pi Zero,即将推出的Libre Computer AML-S805X-AC板或您的定制板。就像开发板一样,Edge TPU加速器可以与Debian,Android Things和TensorFlow Lite框架一起使用。
TensorFlow目前还没有利用Broadcom VideoCore图形处理器的潜在ML功能,因为Nvidia使用更强大的Pascal GPU。他接着建议,可能有可能为单核Raspberry Pi Zero电路板开发一个特殊的GPU相关端口,但目前Pi的四个CPU内核上有足够的电量。谈到GPU的潜在钩子,他写道:“在最新的Pi上使用四核CPU和Neon,虽然在Pi Zeroes上仍然很有趣,但没有那么大的优势。”
另一种解释是谷歌正在跳过 GPU,因为它希望 Raspberry Pi 用户和其他嵌入式开发商能够利用其最近宣布的,适用于 TensorFlow 的 Linux 友好型 Edge TPU ML 加速器芯片。今年秋季将推出 Edge TPU以及基于恩智浦 i.MX8M 的 Linux 开发套件和 Edge TPU加速器USB加密狗,它可以适用于包括Pi在内的任何Linux计算机。
Edge TPU是其企业级云量程处理单元(Cloud TPU)AI协处理器的轻量级嵌入式版本。与新的Cloud IoT Edge堆栈相结合,该芯片设计用于在基于ARM Linux或Android Things的物联网网关上运行TensorFlow Lite ML模型,这些网关连接到Google Cloud服务。