🤖 AI工具大全

精选可私有化部署的开源AI工具，搭建你自己的AI平台所需的一切工具尽在于此

🔍
✕ 清除筛选
全部 大语言模型 10 图像与视频生成 10 RAG与知识库 10 AI应用开发框架 9 模型推理与服务 9 运维与部署工具 9
🦙
大语言模型 免费开源

Ollama

最流行的本地大模型运行工具，一键部署Llama/Qwen等开源模型

Ollama ⭐ 4.9
🌐
大语言模型 免费开源

Open WebUI

Ollama的现代化Web界面，媲美ChatGPT的本地AI聊天体验

Open WebUI ⭐ 4.8
💻
大语言模型 免费开源

LM Studio

图形化本地大模型管理器，无需命令行即可运行LLM

LM Studio ⭐ 4.7
🏠
大语言模型 免费开源

LocalAI

OpenAI API的本地替代品，兼容生态即插即用

LocalAI ⭐ 4.6
📥
大语言模型 免费开源

GPT4All

消费级CPU即可运行的开源大模型套件

Nomic AI ⭐ 4.5
⚡
大语言模型 免费开源

llama.cpp

高性能C++实现的LLM推理引擎，支持CPU和GPU混合推理

ggerganov ⭐ 4.8
🖥️
大语言模型 免费开源

Text Generation WebUI

功能最全的LLM Web界面，支持训练/推理/微调

oobabooga ⭐ 4.6
🔮
大语言模型 免费开源

Xinference

分布式AI模型推理平台，支持LLM/嵌入/语音/图像

Xorbits ⭐ 4.5
🐉
大语言模型 免费开源

Qwen (千问)

阿里通义千问开源版，中文能力最强的开源大模型

阿里巴巴 ⭐ 4.7
💬
大语言模型 免费开源

ChatGLM

智谱AI开源大模型，中文对话效果优异

智谱AI ⭐ 4.6