OpenLLM
工具简介
OpenLLM是BentoML团队推出的开源LLM部署平台，专注于大语言模型的微服务化部署。支持多种模型和运行时，提供统一的API接口和监控面板。
1
浏览量
0
收藏
4.4
评分