详细介绍
Osaurus 是为 macOS 设计的本地 LLM 服务与开发工具，旨在让开发者与创作者在本地或云端以 OpenAI / Anthropic 兼容的 API 运行模型。它同时提供 MCP（模型上下文协议）服务器，支持与 Cursor、Claude Desktop 等客户端集成，并包含菜单栏聊天、插件与调试工具，方便将模型能力以受控、安全的方式嵌入桌面生态。
主要特性
- OpenAI 与 Anthropic 兼容 API 层，便于现有工具和客户端接入。
- MCP 服务支持与桌面客户端（例如 Cursor、Claude Desktop）联动，实现上下文共享与插件扩展。
- 原生 Apple Silicon 支持与本地模型运行，降低延迟并提升隐私保护。
- 菜单栏聊天、插件系统与开发者工具，方便调试与扩展。
使用场景
- 在本地 macOS 环境运行小型或本地化模型以进行隐私优先的推理与测试。
- 为桌面端应用提供兼容的模型后端与 MCP 接口，支持插件化扩展。
- 在开发与 CI 环境中作为可替代的 OpenAI/Anthropic 接口进行联调与离线测试。
技术特点
Osaurus 使用 Swift 与原生 macOS 技术栈开发，定位为开发者友好的推理与集成平台。仓库主题包括 mcp、llm 与 apple-neural-engine，授权为 MIT，适合需要本地模型部署、低延迟推理与桌面集成的场景。