为MCU优化人工智能

正文

请到「今天看啥」查看全文

TensorFlow Lite(现为LiteRT)是一个跨平台、完全开源的深度学习框架，能够将预训练的TensorFlow模型转换为适合速度和内存优化的格式。该模型可以部署在基于不同操作系统(如Android、iOS、Linux或Raspberry Pi)的嵌入式设备以及MCU上，以执行本地推理。在MCU上运行TensorFlow模型的典型工作流程包括使用特殊库在目标设备上训练模型和运行推理。

Edge Impulse和适用于MCU的TensorFlow Lite平台为在嵌入式设备上实现AI模型铺平了道路。通过结合先进的模型压缩技术、特定于硬件的优化和直观易用的工具链，现在可以在资源非常有限的设备上运行神经网络。硬件的不断小型化和高效算法的开发减少了对计算能力和内存的需求，从而取得了进展。这些新技术的影响在智能家居等领域显而易见，其中带有嵌入式MCU的设备可以利用AI识别手势或语音命令，无需远程服务器即可分析视频流，或者使用通过光传感器获取摄像头数据的系统来检测人员。这些应用确实多种多样。即使在汽车行业，支持AI的MCU也可用于实时分析来自车辆传感器的数据，从而提高驾驶安全性并优化自动驾驶系统的性能。

Edge Impulse助力MCU普及AI

Edge Impulse是一个致力于普及AI的创新平台，专注于边缘计算设备(尤其是MCU)上的数据收集、模型创建、训练和部署。该公司成立于2019年，凭借其全面的工具套件，迅速成为MCU机器学习领域的领导者，这些工具套件有助于设计、训练和部署针对低功耗硬件优化的AI模型。Edge Impulse的显著特点之一是其“端到端”方法，允许开发人员直接构建从数据收集到最终部署的ML管道。得益于直观的Web界面，该流程得到了简化，该界面从连接到MCU的传感器获取数据，对其进行处理，训练AI模型并将模型部署到真实设备上，所有这一切都不需要高级编程或嵌入式软件开发知识。Edge Impulse可帮助完成边缘AI生命周期的每个阶段，从数据收集、特征提取、ML模型设计、模型训练和测试到将这些模型部署到终端设备(图1)。

图1：采用Edge Impulse的边缘AI生命周期。(来源：Edge Impulse公司)

由于边缘设备的处理能力、操作系统和支持的语言各不相同，实施可能是一个复杂的过程。因此，Edge Impulse提供了多种部署选项，用户可以在这些选项上构建应用程序。通常，这些部署是开源库，可以方便地与模型进行交互。Edge Impulse能够轻松连接到其他ML框架，允许根据需要扩展和自定义模型。例如，在实际应用中，Edge Impulse可用于为电池供电的可穿戴设备开发语音识别模型，该模型可以在本地识别语音命令，而无需将数据发送到远程服务器。通过针对硬件优化模型，功耗可保持在极低水平，从而延长了设备的电池寿命。

另一个值得注意的应用案例是使用Edge Impulse在工业工厂中进行预测诊断，其中集成了MCU的低成本传感器被编程为使用优化的模型，在低计算资源上运行，以监控机器的行为并实时检测异常。这使得公司能够减少停机时间并改善预防性维护。此外，该平台还支持从最简单的Arm Cortex-M器件到最先进的解决方案等各种MCU，并兼容现有的AI模型库。它的灵活性使开发人员能够在各种硬件上集成AI，从而使物联网智能解决方案的创建变得更加容易。

Edge Impulse Studio是一款基于Web的工具，具有图形界面，支持收集数据并将模型部署到终端设备(图2)。该采集工具可以对数据进行存储、排序和标记。

图2：数据采集。(来源：Edge Impulse公司)

Edge Impulse支持使用和修改标准特征提取方法以适应特定项目，并允许通过自定义处理块创建新方法。然后，可以使用学习块训练ML模型。该平台提供了预定义的学习块，也支持创建自定义学习块或使用专家模式修改ML代码。训练完成后，模型可通过保留集或连接设备进行实时数据测试(图3)。

请到「今天看啥」查看全文