Ollama

Ollama 让你可以在 macOS、Windows 或 Linux 上（也可以通过官方 Docker 镜像）下载并本地运行开放的大语言模型，并提供一个 REST API，用于以编程方式与这些模型对话或对其进行管理——这对于构建像调用托管 LLM API 一样调用本地模型的应用非常有用。

除了直接运行模型之外，Ollama 还可以启动并连接外部的编程智能体和助手，包括 Claude Code、Codex、Copilot CLI 和 OpenCode；并且通过其 OpenClaw 集成，还能作为个人 AI 助手，通过 WhatsApp、Telegram、Slack、Discord 等聊天应用访问。

官方客户端库支持 Python 和 JavaScript。Ollama 适合那些出于隐私、成本或离线等原因希望在自有硬件上运行模型的开发者，也适合那些希望拥有一个既能独立运行、又能接入现有编程智能体和聊天式 AI 工作流的本地运行环境的开发者。