为什么 IoT 市场特别关注边缘 AI 计算？

AI的应用范围正在不断扩大，例如，在生产现场检测不良产品，输入单词和文章生成自然文章和图像的服务等。AI的核心是AI运算。实际上，现在AI系统中的大部分运算，一般都是经由互联网在云端执行计算的云AI。但是在云端进行AI运算时，存在因将数据传输到云端而导致机密泄露等安全隐患，同时也存在因网络通信量增加而导致成本增加，进而导致响应时间延迟等隐患。因此，在IoT等方面，“边缘AI”不会将终端（边缘设备）获取的数据传输到云端，而是用预先嵌入终端的AI模型执行运算，该技术正备受瞩目。

本文为您介绍边缘AI的特征、优缺点、边缘AI的应用例等基础知识，同时解说村田对边缘AI的概念以及为实现该概念所做的努力。

AI（Artificial Intelligence，人工智能）有各式各样的定义，本文以使用深度学习（深层学习：自行提取并推测数据特征）方法的系统为前提来说明AI。深度学习是机器学习的一种，与以往的机器学习方法——事先被教授数据特征并推测——的显著区别在于，深度学习会自行从数据中提取特征。

一般来说，AI使用通过经验性地学习已知数据而制作的AI模型进行运算，并输出“推理”的结果。例如，在工厂的生产线上，想通过产品的外观图像让AI判断“产品有损伤”时，会根据该生产线上设置的图像传感器的数据，由判断有无损伤的AI模型进行推理，并输出其结果。

AI计算有时仅指数据处理（运算处理或计算处理），但在此认为是数据处理及一系列过程（如数据收集、传输和分析）以及与这些过程相关的服务组（SaaS：Software as a Service等）。

AI模型通常在哪里进行运算并输出推理结果呢？

AI在云端进行数据处理的情况称为云AI；同样地，将AI在边缘设备（网络末端）中进行数据处理的情况称为边缘AI。运算位置在云端和在边缘彼此的特征有很大不同（下图）。

首先，上图右为云端运行AI的示例。云AI是在云端的大型服务器上执行运算的机制，虽然可以处理大量的数据并进行复杂的运算，但也存在以下担忧：

• 因为总是使用云端资源，所以可能会导致成本增加。

• 需要将在工序生产线上流动产品的视频数据持续发送到云端，因其数据量大而对网络造成负担。

• 在机密性高的生产线上应用时，由于其视频数据总是被发送到云端，因此存在泄露机密的风险。

如存在这样的担忧，可以通过在生成视频数据的终端（边缘设备）即图像传感器中搭载AI的边缘AI（上图左）来解决：

• 因为不使用云资源，所以可以控制成本

• 网络负荷减轻，没有云端处理的负荷，可以相应地构建效率较高的系统

• 生产线上流动产品的视频原始数据不会被传输到云端，而只留在该设备内，所以即使是机密性高的生产线也可以放心使用

在边缘AI中，针对每个边缘设备预先嵌入轻量的AI模型，执行AI运算并得到推理结果。例如，对于有瑕疵的产品，边缘设备只会发送“产品有瑕疵”的推理结果，而不是发送瑕疵图像的数据。

上节以事例为基础，涉及了边缘AI的优点——运用成本的控制、因通信量小而降低网络负荷、来自边缘设备的数据（原始数据）的机密性。最近，其低功耗的优点也备受瞩目。

这里进一步深入总结这些优点以外的优缺点：

AI运算结果的响应性：

AI运算的处理能力：

数据通信量：

数据的保密性：

脱机连接：

成本：

功耗：

预计在2030年，包括智能手机和平板电脑在内，全世界连接了互联网的摄像头以及工厂等的机器人设备/FA设备上搭载的传感器等边缘设备的数量将达到290亿台。因此，全球边缘AI市场预计将从2022年的156亿美元增长到超过1074亿美元。另外，边缘AI的处理器市场预计到2032年也将达到约110亿美元（2022年达到约27.5亿美元），在这10年间以15.56%的年均增长率增长。

在上述这些边缘AI市场预期扩大的背景下，我们认为：

• 可利用云AI所没有的边缘AI的规格优势——运算结果的实时响应、数据隐秘性高、数据通信量低、可脱机连接——的领域，特别是在IoT中的普及。

• 随着数字社会和DX化的推进，移动端和互联网数据流量的增加（下图）有望遏制功耗。

04

边缘AI摄像头，是基于边缘AI的图像识别设备。搭载了AI运算功能的摄像头能够对图像数据进行AI推理的边缘设备。

在我们身边，正在研究将其应用于通过脸部认证解锁房门的智能锁。另外，除了脸部认证以外，还可以通过手势识别进行人物检测和人流检测，因此可以用作监视用途。此外，在基础设施领域，可以检测落在铁路线路或道路上的物体或入侵者；

在FA领域，可以进行异物混入检查或形状检查，以及作业人员对重型机械和机器人的接近检测等，因此可以说它是对智能工厂化有很大贡献的设备。

 解决交通堵塞、预防事故（基础设施）、优质品判定、故障检测（智能工厂）

边缘AI还支持语音识别。例如，可以通过语音对机器人进行动作指示、控制照明的点亮和熄灭、亮度调节等设定指示。即使在工厂双手不得空闲或手脏而无法操作平板电脑设备等情况下，也可以通过语音指示操作平板电脑设备。

此外，还可操作可穿戴终端和IoT设备等小型设备。为了在提高用户体验的同时提供安全性方面的优点，很多企业都在关注这项技术。

通过语音对内置边缘AI的机器人进行操作

05

村田面向智能手机等小型、薄型的高性能模块进行了开发并商品化，同时积累和运用了在此过程中开发的许多技术诀窍。而且，迄今为止，村田一直努力满足以通信IC为首的多种小型封装技术相关的顾客要求。能否将边缘AI芯片也模块化？来自主要IC供应商的这一请求是村田开发边缘AI模块的契机。

在本模块的开发中，首要关注的是为避免发热而导致的运行障碍的散热措施。模块的部件集成度高，一般来说模块的散热对策很困难，我们通过下述措施来实现了散热效率高的边缘AI模块：

边缘AI也搭载在最近几年更加普及的单板计算机/单板微机（以下简称SC/OM）上。现对SC/OM和村田边缘AI模块进行比较。

SC/OM的特点是可以与多种外部模块协作，扩展性很高。利用该特长，例如通过利用摄像头模块和图像识别用的库，可以构建边缘AI摄像头的系统。另一方面，由于使用了通用的AI芯片，所以AI推理的速度较低，在AI运算部中需要使用冷却风扇的散热措施，另外，有时还面临着需要AI芯片和周边IC用电源的设置空间问题。

另一方面，在村田的边缘AI模块的AI运算部，芯片采用了Google公司制造的AI运算功能专用的“Coral”，以2W以下的低功耗实现了比一般的SC/OM更高速的4TOPS的运算能力（TOPS是Tera operations per second的缩写，表示每秒可以进行1兆次运算的单位）。

此外，如前所述，由于采用了本公司专有的不使用冷却风扇的散热措施，因此可以在不降低运算速度的情况下工作。

凭借这一性能，不仅应用于摄像头，还可以应用于智能手机和行车记录仪等多种边缘设备。另外，还可以在嵌入式AI芯片等零部件上外置，系统设计灵活度高。

近几年，边缘AI的遏制功耗这一优点也越来越受到期待。如本文所述，现在的社会基础设施的网络形态一般是云端计算，但由于云端服务器的一直运行和数据的远距离传输带来的热损失等导致的功耗很大，因此被指出功耗的效率差。这个情况对云AI来说也是一样。

因此，近年来，社会各界纷纷开始推进通过分布式处理来提高功耗效率的边缘计算和边缘AI，而不是集中处理数据的云端计算。边缘AI不依赖云端服务器即可在边缘设备内完成数据的AI运算，数据传输带来的热损失也很小，因此可以为数字社会的基础设施中的大幅节省能源做出贡献。

毫无疑问，随着边缘设备的普及，其使用数量的增加，需要可以应对多种用途的边缘AI。为了适应这一趋势，不仅需要做到体积更小、运行速度更快、功耗更低，而且还需要运行稳定性和可靠性更高的边缘AI模块。

村田今后将通过形成AI推理功能专门化的模块，提供小型、高速且低功耗运行的芯片，即边缘AI模块，为实现众多边缘设备所需的AI推理功能的应用不断做出贡献。