LocalAI
开源的本地 LLM 推理 API 服务，兼容 OpenAI API 格式。
特点
- OpenAI API 兼容
- 本地运行，无需网络
- 支持多种模型
- 自托管部署
与 Ollama 对比
| 工具 | 特点 |
|---|---|
| LocalAI | API 兼容，自托管 |
| Ollama | 简单易用 |
相关
- llm-inference — 推理技术
- ollama — 类似工具
llminferencelocalapiopen-source
开源的本地 LLM 推理 API 服务，兼容 OpenAI API 格式。
| 工具 | 特点 |
|---|---|
| LocalAI | API 兼容，自托管 |
| Ollama | 简单易用 |