ONNX Runtime
工具简介
ONNX Runtime是微软开源的跨平台推理引擎,支持ONNX格式模型在各种硬件上高效运行。提供CPU、GPU、NPU等多种后端,支持模型量化和优化,是模型跨平台部署的最佳选择。
1
浏览量
0
收藏
4.6
评分