极简的本地大模型运行工具,支持一键部署Llama、Gemma等开源模型。
图形化本地模型管理与推理工具,非常适合硬件性能测试。
强大的开源AI终端助手,支持多模型切换与本地化高效部署。
使用Docker一键部署Ollama和WebUI,快速搭建本地AI服务。
兼容OpenAI API的本地推理服务,无缝替换云端API调用。
开源的文本生成Web界面,支持多种模型格式和LoRA微调。
网站描述...