microTVM：裸机上的 TVM

microTVM 在裸机（即物联网）设备上运行 TVM 模型。microTVM 只依赖于 C 标准库，不需要操作系统来执行。 microTVM 目前正在全力开发中。

microTVM 是：

• TVM 编译器的扩展，允许 TVM 以微控制器为目标
• 一种在设备上运行 TVM RPC 服务器的方法，允许自动调优
• 最小 C runtime，支持裸机设备上的独立模型推理。

支持的硬件

microTVM 目前测试支持 Zephyr RTOS 的 Cortex-M 微控制器；不过，它灵活，且可移植到 RISC-V 等其他处理器，也无需 Zephyr。当前的 demo 针对 QEMU 和以下硬件运行：

• STM Nucleo-F746ZG
• STM STM32F746 Discovery
• nRF 5340 开发套件

microTVM 入门

在使用 microTVM 之前，推荐使用支持的开发板。然后，按照这些教程开始使用 microTVM：

1. 启动 microTVM 虚拟机参考手册。microTVM 教程依赖于 Zephyr 和硬件的编译器工具链。通过虚拟机参考手册，可快速安装这些依赖。
2. 尝试使用 TFLite 教程的 microTVM。
3. 尝试运行更复杂的 CIFAR10-CNN 模型。

microTVM 的工作原理

可以在 microTVM 设计文档 中阅读有关这些部件设计的更多信息。

帮助及讨论

推荐访问 TVM 论坛，查看历史帖子并探讨 microTVM 的相关问题。