![[Translate to Chinese:] [Translate to Chinese:]](/fileadmin/_processed_/a/e/csm_2020_header-deep-learning_d6e26e13a2.jpg)
AI 加速器接口 (AI²)
借助 AI 加速器接口,MVTec 提供了一个通用接口,允许客户快速方便地将支持的 AI 加速器硬件用于其深度学习应用程序的推理部分。
这类 AI 加速器硬件应用广泛,尤其是在嵌入式环境中的应用,但也越来越多地存在于 PC 环境中。 AI 加速器接口也将是未来的趋势导向。 它不仅从特定硬件中抽象出深度学习模型,还允许用户对其进行优化以在其硬件上使用。
除了 MVTec 提供的插件外,还可以集成客户特定的 AI 加速器硬件。 此外,可以通过 AI² 加速的不仅仅是典型的深度学习应用程序。 所有具有集成深度学习功能的“经典”机器视觉方法,例如 HALCON 的 Deep OCR,也都从中受益。
可用插件
AI² 插件 | 支持的架构 | 支持的产品 | 可通过以下工具来实现 |
---|---|---|---|
NVIDIA® TensorRT™ SDK |
|
| MVTec Software Manager |
Intel® Distribution of OpenVINO™ toolkit |
|
| MVTec Software Manager |
HAILO |
|
| HAILO developer zone |
1 自 DLT 23.04 版本起
2 仅限推理
3 自 DLT 24.05 版本起
有关更多技术信息,请参阅 HALCON 参考手册的“AI 加速接口 (AI²)”部分,或 MERLIC 工具参考的“深度学习工具的 AI² 接口”部分。