一个把大语言模型（LLM, Large Language Model）能力工程化为可复用 SDK 的抽象层，便于构建多智能体（智能体）应用。
详细介绍
Kosong 是由 MoonshotAI 开发的开源 LLM 抽象层，旨在为现代智能体应用提供统一的接入接口与运行时约定。它把模型后端、工具（tooling）、检索组件与策略引擎抽象为模块化接口，开发者可以通过一致的 SDK 与适配器，把不同提供商的模型、向量检索和外部工具快速组合成可工程化的智能体工作流。Kosong 强调可扩展性、可观测性与工程化集成，适合在多模型、多工具协作的场景中使用。
主要特性
- 统一的 LLM 抽象接口，屏蔽底层提供商差异。
- 插件化适配器：轻松接入 OpenAI、Hugging Face、VLLM 等后端与检索服务。
- 面向智能体的工作流与策略支持，便于实现任务分工与工具调用。
- 提供 SDK、示例与文档，便于在工程环境中集成和 CI/CD 部署。
使用场景
- 多智能体系统：将多个智能体与工具组合成协作流水线，实现复杂任务拆解与并行处理。
- RAG 与知识检索：把向量数据库与检索层与模型无缝结合，提升上下文质量与准确性。
- 工程化落地：为产品化过程中不同模型切换、灰度发布与监控提供统一方案。
技术特点
- 模块化设计：模型、检索、工具與策略解耦，便于替换与扩展。
- 适配层与 SDK：支持多语言适配与部署选项，便于在不同技术栈中使用。
- 可观测性与日志：注入调用统计与事件日志，支持成本与性能分析。