📡

MLServer

Seldon 模型推理与服务 免费开源 ⭐ 4.3

工具简介

MLServer是Seldon开源的机器学习模型服务框架,提供高性能的模型推理API。支持多框架模型、自适应批处理、模型版本管理和监控,适合在Kubernetes上大规模部署AI模型。

1 浏览量
0 收藏
4.3 评分