📚 构建长期复利型知识基础设施的指南,详见 RAG 实战手册

JARVIS

一个将大模型与社区模型连接以自动化复杂 AI 任务的协作系统与工具集。

简介

JARVIS(HuggingGPT 系列)将大型语言模型作为控制器,协同 Hugging Face 等社区模型完成任务规划、模型选择、任务执行与响应生成,提供从终端、Web 到 Docker 的多种运行模式,适用于复杂 AI 任务的自动化和研究验证。

主要特性

  • LLM 控制的模型编排:将用户请求拆解为子任务并选择适合的专家模型执行。
  • 支持本地推理、Hugging Face 端点与混合(hybrid)模式,覆盖轻量到完整部署场景。
  • 附带 TaskBench、EasyTool 等评测与工具子模块,便于能力评估与工具指令改进研究。
  • 丰富的演示(Gradio、HF Space)与配置模板,包含 Jetson 嵌入式部署示例。

使用场景

  • 图像处理、文本理解、视频生成等需要组合多个专门模型的复杂任务自动化。
  • 研究与基准测试:使用 TaskBench 对 LLM 的任务自动化能力进行评估。
  • 边缘或嵌入式部署场景(例如 NVIDIA Jetson)进行模型服务化与加速部署。

技术特点

  • 主要以 Python 实现,集成多种社区模型与推理后端(Hugging Face、本地模型服务)。
  • 配置驱动,支持 local / huggingface / hybrid 推理模式与不同规模的本地部署配置。
  • 开源许可(MIT),提供丰富的示例、论文引用与社区资源,便于复现研究成果。

评论区

JARVIS
资源信息
作者 Microsoft
添加时间 2025-10-02
开源时间 2023-03-30
标签
开源 框架