Xinference
工具简介
Xorbits Inference（Xinference）是一个开源的分布式AI模型推理平台，支持大语言模型、嵌入模型、语音识别、图像生成等多种模型类型。提供统一的REST API和WebUI，支持集群部署和自动扩缩容。
2
浏览量
0
收藏
4.5
评分