AI 资源归档

Fosowl/agenticSeek 是一个开源的 Agentic 搜索工具，支持多种 AI Agent 场景。

一套结构化的工作流与提示模板，帮助开发者与 AI 协同从需求到代码逐步实现。

面向智能体的开源操作系统，提供运行时、工具链和生态集成。

一个在 Android 上运行的开源手机 AI 操作员，能理解自然语言并代替用户操作应用界面。

面向软件工程的智能体助手，能理解高层指令、分解任务并辅助生成和修复代码。

面向智能体的通用记忆框架，结合在线深度研究与离线长期存储以构建适配性记忆。

一个以智能体（agentic）为核心的开源机器学习工程师，用于自动化模型实验、训练与部署流程。

一款基于大语言模型的多功能自动小说生成工具，支持多章节生成与剧情一致性维护。

Archon 是面向 AI 编程助手的知识与任务管理中枢，支持智能检索、任务协作与上下文管理，助力提升 AI 编程效率。

一个以数据库为中心的静态分析与代码情报平台，提供准确的数据流追踪与架构感知分析。

一个以自动化文档为目标的开源项目，旨在将内容与模型能力结合，自动生成高质量文档。

基于 Electron 的实时桌面 GUI，用于 DeepSeek-OCR 的本地化快速识别与批处理。

基于异构锚点提示的文档图像解析模型，提供高效的页面级与元素级解析能力。

Gitingest 将任意 Git 仓库转为适合 LLM 提示的文本摘要，便于对代码库进行高效摄取与分析。

一个在终端优雅渲染与浏览 Markdown 的命令行工具。

面向开发者的开源 AI 开发伴侣，能生成、调试并逐步构建可运行应用的自动化工具。

具有主动性的集成开发环境，通过规范驱动开发、代理钩子和自然语言编码辅助，实现从原型到产品的快速转化。

用于评估智能体在机器学习工程任务上表现的基准套件和工具集。

一个面向日常文档处理的轻量级开源命令行工具，支持合并、拆分、压缩与提取等功能。

一个面向可验证隐私推理的开源框架，旨在在保护数据隐私的同时提供可审计的模型推理。

完整保留排版与公式的科研论文 PDF 翻译工具，支持多语言与多种后端翻译服务。

一个允许多模态模型以人类输入/输出模拟形式操作电脑的框架，支持语音、OCR 与多模型集成。

Smart Excalidraw 是一款基于大语言模型的图表生成工具，支持 Excalidraw 格式的交互式编辑与多种图表类型。

用于在真实终端环境中评估和基准测试 AI 智能体的工具与任务集合。

基于大语言模型的通用智能体，旨在自动化软件工程任务并提升开发效率。

一个专注于处理文件和代码的 AI 工具，能够理解整个项目结构并执行各种复杂的代码操作。

实现自反（self-reflective）分层智能体的开源实现，用于大规模 API 调用与评测。

一个在浏览器中本地运行的单文件工具，用于将本地或仓库文件组合为 LLM 可用的提示文本。

一个基于 Neo4j 的 MCP 服务器，为大语言模型智能体提供项目、任务与知识管理。

一个通过群体智能与智能体自动化实现市场分析、风险管理与交易执行的开源框架。

Model Context Protocol 服务端实现，为 AI 助手提供浏览器自动化功能，使其能够执行网络研究、数据提取和自动化测试。

开源的端到端视觉语言（VLM）GUI 智能体，支持中英双语与屏幕感知输入。

LaVague 是一个开源的 Web Agent 框架，提供多驱动支持与可定制的生成与执行管道。

一个用于构建多智能体工作流、无代码集成和面向数据的 LLM 应用框架。

ColiVara 是一个基于视觉嵌入的文档存储、检索与检索增强（RAG）平台，支持图像与文本的统一检索能力。

EasyVoice 是一款开源的文本转语音工具，支持超长文本、流式播放与多角色配音。

开源音频基础模型，支持理解、生成与对话的多模态音频能力。

高质量、多语种的开源文本转语音库，支持中文、英文、日语、韩语、西班牙语和法语等多种语言。

在本地和分布式网络上运行大语言模型，支持协作推理与微调。

开源 AI 人像修复工具，基于 GFPGAN 模型，支持在线修复老旧和模糊人脸照片，操作简单，效果显著。

一个高性能的 LoRA 微调模型推理服务，支持按需加载数千个微调适配器并在生产环境中高效运行。

RouteLLM 是一个用于服务与评估 LLM 路由器的开源框架，旨在通过路由策略在保证质量的同时显著降低调用成本。

一个开源的文档解析工具链，可将 PDF、图像与 Office 文档转换为结构化 JSON/Markdown/CSV。

RedPajama 数据集是用于训练大规模语言模型的开源语料准备工具与数据集合。

一种双向流水线并行算法，旨在通过计算与通信的重叠提高训练效率，适用于 DeepSeek V3/R1 等大规模训练场景。

专家并行负载均衡器（Expert Parallelism Load Balancer），用于在专家并行训练中动态分配负载以提升集群利用率与性能。

Pipet 是一个面向开发者的命令行网页抓取与数据提取工具，支持 HTML、JSON 与 Playwright 三种查询模式。

在本地运行的 Tele-Prompter，结合语音输入与语义检索，辅助用户即兴表达与演讲练习。

LongBench 是一个面向长上下文理解与推理的双语多任务基准，覆盖长文档、多文档与代码仓库理解等场景，用于评估 LLM 在长上下文下的能力。

Hugging Face 提供的免费扩散模型课程，包含理论与实操笔记本，覆盖训练、微调与条件生成等内容。

gpt-engineer 是一个开源的代码生成与实验平台，提供可本地运行的 CLI 和工具链，用自然语言生成与改进代码项目。

基于 Gradio 的开源 Stable Diffusion Web 界面，提供丰富的生成、编辑与扩展功能，便于本地或服务器部署。

《AI Engineering》是 Chip Huyen 撰写的系统性 AI 工程书籍，聚焦基础模型在实际场景中的落地与工程化方法。

开源的文本到图像生成模型，能够根据文本描述生成高质量图像。

一款面向 macOS 的本地 Stable Diffusion GUI 应用，提供一键安装与离线运行能力。

精选的 AI 智能体资源集合，包含框架、工具、教程和最佳实践。

EleutherAI 的 GPT-NeoX，是用于训练大规模开源语言模型的框架与工具集。

学习如何设计、开发、部署和迭代生产级机器学习应用的完整指南，涵盖从实验到生产的全栈 ML 开发流程。

FastChat 是一个用于训练、部署与评估大规模对话模型的开源平台，提供分布式服务、Web GUI 与 OpenAI 兼容 API。

Ludwig 是一个低代码的声明式深度学习框架，支持多模态与分布式训练，便于在本地或集群上快速搭建、训练与部署模型。

Chatbot UI：一个开源的聊天界面与托管示例，支持多种后端与第三方模型接入，便于快速搭建可定制的会话应用。

BitNet（bitnet.cpp）是微软开源的高效 1-bit LLM 推理框架，针对 CPU/GPU 做了优化以支持低比特 LLM 的快速推理。

全面的大语言模型课程，涵盖 LLM 基础、科学家和工程师三个部分，提供完整的学习路径。

Zero to Mastery Learn PyTorch for Deep Learning 课程，网络上学习 PyTorch 的第二好地方。提供在线书籍和 YouTube 视频等丰富的学习资源。

一个以高音质多声线为目标的开源文本到语音（TTS）系统，支持多种推理模式和模型优化策略。

一个用于在本地设备上运行大语言模型的开源项目，提供桌面客户端、Python SDK 与多种推理后端支持。

Swarm：OpenAI 提供的实验性多智能体编排与执行库，适合学习与原型开发。

在浏览器中配置和部署自治 AI 智能体，支持快速上手的 CLI 自动化部署与完整前后端栈。

Bolt.new 是一个在浏览器中运行的 AI 驱动全栈开发环境，允许通过自然语言提示直接创建、运行、编辑并部署 web 应用。

Suno 开源的生成式文本到音频模型，擅长生成高保真语音、背景音与简单音乐。

NebulaGraph 是一款开源分布式图数据库，提供高可扩展性、低延迟图查询和图分析能力，同时支持面向 AI 的向量检索场景。

一个面向研究与实验的自构建自主代理框架，提供函数管理与仪表盘，适合研究与原型开发。

面向隐私的生产就绪项目，提供离线/私有化的文档检索与 RAG API，支持多种本地与云端模型。

One API 是一个开源的 LLM API 管理与转发系统，旨在统一多家模型提供商并提供分发、配额与接入管理功能。

一个高可扩展、低延迟的文本与图像嵌入与检索服务，适合神经搜索与多模态应用。

Jina Serve 是一个云原生的 AI 服务框架，支持 gRPC/HTTP/WebSocket、动态批次与弹性扩缩。

Lowcode Engine 是阿里巴巴发布的面向扩展设计的企业级低代码技术体系。

MLOps Basics 是一个实践导向的开源教程仓库，按周覆盖模型训练、监控、配置、打包与部署等 MLOps 核心环节。

一个将多源内容聚合为单一 LLM 友好输入的命令行工具。

一个收集了 300+ 真实案例的机器学习系统设计汇总库，覆盖多行业的生产级 ML 实践与架构要点。

为使用 Anthropic Claude Code 的开发者整理的实用速查手册，覆盖从基本命令到高级工作流的典型用法。

精选的人工智能学习书籍和资源合集，涵盖机器学习、深度学习、NLP 等领域。

一个基于 Azure Functions 的示例应用，演示如何用 MCP 工具与 Durable Agents 编排多智能体工作流。

面向图结构数据的检索增强生成工作流，用于在图谱上执行深度检索与生成。

一个自适应的多智能体框架，用于规划、执行与验证复杂的数据科学任务。

一套针对使用 Claude Code / Codex 等工具的实践指南与流程，旨在将 AI 融入日常开发以提升产出质量。

cmux 是一个开源的 Claude Code 管理器，可并行运行多种代码智能体 CLI 并提供隔离的开发工作区。

一个用于生成、发布与加载 CellARC（基于元胞自动机任务）的开源数据集与工具链，支持 Hugging Face 快速下载与仿真可视化。

一个结合计算机视觉与运动意象 EEG 分类的开源无人机控制框架，支持手势、头部动作与想象运动控制仿真无人机。

基于嵌入相似度的超高速语义过滤器，用于在 MCP 服务器中从数千工具中筛选最相关的子集。

一个自包含的、以隐私为中心的 RAG（检索增强生成）系统，所有数据保留在本地。

开源运维与资源管理套件，帮助在 Kubernetes 上快速构建可休眠的智能体沙箱并降低 GPU 成本。

LangCrew 是一个基于 LangGraph 的高阶多智能体开发框架，提供企业级特性与全栈 UI。

一个用于 GPU 虚拟化与池化的开源解决方案，旨在提升集群利用率并优化推理工作负载。

Jta 是一款面向 i18n JSON 文件的 AI 驱动翻译工具，具备自检与增量翻译能力。

一个面向强化学习训练 - 推理的高性能权重同步框架，支持在推理侧实现秒级参数更新。

基于 RAGFlow 的开源平台，扩展了文档处理、混合检索与评估反馈能力。

RapidFire AI 是一个面向快速实验和微调的大语言模型工具链，支持模型定制、实验记录与可重复部署。

一个面向视频编辑自动化的开源工具链，结合 Claude Code、WhisperX 与 Ruby 库，生成可导入的 FCPXML/xmeml 初剪结果。

一个将数值风格代码映射为一致且可复现图像风格的开源图像生成项目。

基于 LangChain 与 LangGraph 的交互式命令行代理（REPL），用于快速构建和运行多工具、多模型的智能体交互环境。

为工程团队捕获、同步并注入会话推理，使智能体在新会话中立即获得团队知识。

使用 Markdown 编写并运行智能体的开源工具，适合自动化、CI/CD 和定时任务。

面向代码智能体的轻量级上下文管理工具，将上下文作为代码以便在本地与流水线中复用与调试。

将工程规范（playbook）中心化并转换为可供智能体使用的上下文、守护与治理。

一个面向企业的开源 AI 中间件，用于构建生产就绪的智能体、工作流与检索增强应用。

Sora MCP 是用于接入 Sora 视频生成 API 的 MCP 服务器，简化视频生成服务在多环境中的部署与调用。

命令行下的多智能体与上下文工程工具包，支持本地与云端模型。

Kthena 是一个 Kubernetes 原生的 LLM 推理平台，用于在生产环境中部署与管理大模型。

Kubernetes 原生的 scale-to-zero 解决方案，支持零流量丢失、无需修改代码，并与 Kubernetes 资源直接集成。

用于评估 agentic 大语言模型与视觉语言模型在游戏任务上推理与决策能力的基准套件。

一个为智能体式（Agentic）AI 开发提供标准化环境基础设施的开源项目。

一种面向成本优化的模型级联框架，用于在多模型间智能路由请求以平衡成本与质量。

一个可插拔的记忆层，为大语言模型提供持久、智能的记忆与检索能力。

一个面向 LLM 与智能体应用的开源测试平台与 SDK，用于自动生成测试场景并评估模型输出。

mini-kode 是一款面向学习与教学的 AI 编码智能体命令行工具，帮助通过自然语言与提示练习编程任务。

llmaz 是 InftyAI 提供的面向 Kubernetes 的先进 LLM 推理平台，旨在简化模型部署与分发，支持多后端、异构集群与弹性伸缩。

LLaMA Box 是一个基于 llama.cpp 的推理服务，提供 OpenAI 兼容的 API，支持多模型、多设备与图像生成能力。

一个面向企业级部署的开放规范与实践集合，编码了大规模智能体应用的工程与运营模式。

一款本地优先的终端操作器，通过受控审批与审计让 AI 在终端安全执行任务。

基于 Rust 的终端语义编码智能体，集成多提供商大语言模型与语义代码工具。

一个为 vLLM 服务提供可视化管理、容器编排与性能测评的 Web UI 与运维工具链。

一个开源运行时，帮助团队在自有基础设施上部署智能体并保留完全控制权。

一个面向智能体的云端运行时，提供毫秒级启动、基于 Firecracker 的隔离微虚拟机和多语言 SDK。

一个开源且免费的 ChatGPT Atlas 替代方案，提供浏览器内的可视化自动化与工具路由能力。

Volcano SDK 是一套 TypeScript 优先的多提供商 AI Agent SDK，支持链式工作流、MCP 工具集成与可观测性。

FleetCode 是一款轻量级桌面终端应用，用于在隔离的 git worktree 中并行运行多个 CLI 编码智能体。

VisioFirm 是一个研究导向的跨模态项目，侧重视觉理解与大模型在视觉任务中的应用。

dInfer 是一个面向扩散语言模型（dLLM）的高效推理框架，聚焦解码算法与 KV-cache 管理以提升推理吞吐与质量。

面向 AI 应用的智能记忆系统，结合向量、全文与图检索并支持多智能体场景。

一个以统一连续语音分词器为核心、同时支持语音理解、生成与自由形式编辑的语音大模型框架。

一个透明、极简且易于改造的智能体框架，核心实现约 300 行代码，适合学习、定制与快速原型迭代。

AngelSlim 是腾讯推出的模型压缩工具箱，致力于提供易用且全面的模型压缩方案。

面向快速加载和热插拔的大模型加载与推理引擎，显著缩短模型冷启动时间，适用于边缘与本地部署。

VibeVoiceFusion 是基于 VibeVoice 的全栈多说话人语音合成 Web 应用，具备克隆语音与 VRAM 优化能力。

Director 提供基于 MCP 的 Playbook 管理与运行能力，使智能体在本地或容器中可被声明式配置与复现。

由蚂蚁集团发布的轻量级富文本与 Markdown 混合编辑框架，便于在 Web 场景中实现流式文档编辑和渲染。

Easy-Graph 提供便捷的图数据结构与分析工具，适用于图学习与知识图谱构建。

MCP Gateway 是微软开源的 MCP 服务器反向代理与管理层，支持在 Kubernetes 环境下实现可扩展、会话感知的路由与生命周期管理。

Quivr：一个面向构建 RAG/知识库的开源工具，帮助开发者将文档与向量检索整合为交互式助手。

一个将大模型与社区模型连接以自动化复杂 AI 任务的协作系统与工具集。

一个可直接落地的「AI 子代理体系模版库」，按职能部门组织，覆盖设计、工程、产品、市场、运营、测试、项目管理等完整软件工作流。

快速且表达力强的 Python 模板引擎，适合生成 HTML 与任意文本。

一个面向实时应用的低延迟语音转写 Python 库，具备语音活动检测、唤醒词触发和即时转录能力。

一个用于管理和运行开源 GPT 风格对话模型的生态项目，提供部署与样例工具。

自组织文件管理器，基于 Llama3 模型进行文件内容摘要与自动重命名，支持批处理与守护进程模式。

Meta Lingua：一个轻量且面向研究的 LLM 训练与推理库，便于快速试验新结构与度量。

Pezzo 是一个开源的云原生 LLMOps 平台，用于提示管理、可观察性、缓存与协作交付，以降低成本和延迟。

由微软开发的低延迟高吞吐量推理框架，适用于大规模模型推理场景。

一个开源的 NotebookLM 替代方案，结合 LlamaCloud 提供文档理解与交互功能。

一套面向头脑风暴场景的开源智能体集合，提供多种视角与策略来生成创意解决方案。

一个用于发布、发现与部署 MCP 服务器、智能体与技能的集中式注册与治理平台。

一个在本地快速构建、选择并导出项目代码上下文，以便粘贴到聊天模型或智能体对话中的桌面应用。

一个通过生成、测试并对候选提示进行排序来自动化提示工程实验的工具。

一个面向大型项目的终端式 AI 开发代理，支持大上下文、自动化执行与分步审查，便于在真实工程中完成复杂任务。

一个面向研究人员的端到端自主研究工作流框架，帮助组织实验、自动化研究步骤并复现研究结果。

AI-Researcher 是一个用于自动化科学研究与论文生成的端到端系统，提供从文献综述到论文撰写的全流程自动化支持。

AIDE ML 是一款面向机器学习工程的代理工具，基于 agentic tree search 自动生成、评估和改进机器学习代码。

Ailice 是一个基于 IACT 架构的通用自主智能体框架，支持多模型、多模态与可扩展模块化运行。

零代码构建 LLM 智能体的全自动化框架，通过自然语言提示转化为可部署智能体，具有自管理向量数据库和动态运行时记忆。

AWS 的多智能体编排框架，对开发者友好且可扩展，支持智能体路由、意图分类和上下文保存，适用于企业级生产环境。

开源且可自托管的智能体浏览器自动化库。

自托管 AI 桌面代理，通过自然语言自动化电脑任务，支持多模型与完整桌面控制。

一个将 Claude Agent SDK 封装为 WebSocket 服务的开源项目，便于在沙箱或本地环境中以实时方式与 Claude 交互。

一套面向生产环境的 Claude Code 基础设施示例，包含技能自动激活、模块化技能、Hook 与示例代理模式。

用于语义代码搜索的 MCP 插件，可与 Claude Code、Gemini CLI、Cursor 或任何 AI 编程助手集成。

一个基于浏览器自动化的示例智能体，演示如何使用 Gemini Developer API 或 Vertex AI 在真实浏览器中执行多步骤任务，用于研究和原型验证。

分层多智能体框架，面向深度研究与通用任务求解，支持浏览器自动化、MCP 工具集成与多模型推理。

基于 Git 的差分记忆后端，用于为智能体提供可追溯、可重构且轻量的长期记忆。

GitMCP 是一个免费、开源的远程 MCP 服务器，可将任何 GitHub 项目转换为文档中心，终结代码幻觉问题。

Glass 是一款开源数字心智扩展工具，轻量快速，实时感知桌面环境，自动结构化知识，专注隐私与本地化。

一种半结构化的智能体框架，允许智能体发现需要完成的工作并动态构建工作流。

Jaaz 是全球首个开源多模态创意助手，支持本地部署，注重隐私，集成图像与视频生成、无限画布、智能 AI Agent、魔法画布等功能，适合视觉创作与协作。

Llumnix 是一个用于 LLM 推理的跨实例调度层，可降低延迟并提升多实例部署的吞吐量。

容器化的数百个 MCP（Model Context Protocol）服务器，简化 MCP 服务器的部署与使用。

一个整合多模态模型与专业影像工具的胸部 X 光医学推理智能体。

OmniParser 是微软开源的纯视觉 GUI Agent 屏幕解析工具，可将界面截图解析为结构化元素，助力大模型和智能体实现精准操作。

为 Claude Code 提供 GUI 管理与代理工具的开源桌面应用。

开源可视化 AI 智能体工作流搭建平台，支持拖拽式流程设计、实时执行与多工具集成，适合自动化数据采集与多步智能体编排。

一款为 MCP 开发与调试设计的开源工具集，集成 VS Code 插件、调试面板与 SDK，简化项目从调试到部署的流程。

Plexe 是一个通过自然语言描述构建并部署机器学习模型的开源平台。

SuperDesign 是首个开源 IDE 设计智能体，支持通过自然语言生成 UI 模型、组件和线框图，助力高效设计开发。

一个用于投资研究的开源智能体模板，集成了 Financial Datasets 实时与历史市场数据。

AISheets 是 Hugging Face 推出的开源无代码 AI 数据集处理工具，支持数据构建、丰富与转换，集成多种模型。

AutoRAG 提供自动化的 RAG 管道构建工具，简化文档检索与检索增强生成（RAG）集成流程。

一个开源的统一多模态基础模型与工具箱，兼顾理解与生成任务。

基于 LangChain 的 RAG 实践仓库，提供从数据加载、嵌入生成到检索增强生成（RAG）完整示例与可复现笔记本。

微软的开源 Call Center AI，示例化把 Azure 通信、Cognitive Services 与 OpenAI 集成到电话客服场景中。

完全在你机器上运行的 AI 编程助手，提供代码补全、重构建议和调试帮助，而无需将你的代码发送到外部服务器。

面向生产环境的开源 RAG 框架，用于构建模块化、可扩展的检索增强生成应用。

将 GitHub Copilot 转换为 OpenAI/Anthropic API 兼容服务器的反向工程代理，可与 Claude Code 集成。

基于上下文光学压缩的开源 OCR 模型与工具集，面向大模型优先的多模态推理场景。

基于单一视觉语言模型的多语种文档布局解析器，集成布局检测、OCR 与阅读顺序恢复，适用于表格与公式等复杂文档要素解析。

一个面向 LLM 应用的 TypeScript-first 评估框架，用于为模型行为与应用质量建立可重复的测试与基准。

Hugging Face 发布的实用评估指南，汇总了大语言模型（LLM）评估的实践经验与理论方法。

用于长对话、多说话人生成的流式 TTS 系统，支持多语种、零样本声线克隆与低延迟输出，适用于播客与对话场景。

基于 AI 的视频字幕编辑工具，集成高精度语音识别与可视化字幕剪辑功能。

Fogsight 是一个由大模型驱动的动画引擎与交互式创作平台，能把文本或概念生成高质量动画画面。

基于 Python FastAPI 构建的 Google Gemini API 代理与负载均衡服务，支持多密钥轮询和双协议兼容。

Google AI Mode Scraper 是 Oxylabs 提供的工具，用于稳定抓取并结构化 Google AI Mode 的响应。

命令行 AI 工具，为开发者提供终端中的智能助手和自动化功能。

基于扩散生成的得分先验，用于图像修复与超分辨率的研究实现与演示。

iFlow CLI 是一个在终端中运行的智能体式命令行工具，能分析仓库并自动完成从代码生成到工作流自动化的任务。

一个支持 7000 多种语言的可控且快速的文本到语音（TTS）工具包。

一种面向稀帧视频配音的无限长度音视频生成框架，支持音频驱动的视频/图像到视频生成与高精度唇动同步。

一个开源的多模态视觉 - 语言基线与工具箱，面向图像/视频理解与生成任务。

可内网私有化部署的语音转写与协作平台，支持实时转写、说话人分离、批处理转写与 AI 总结。

基于大语言模型与 TTS 的视频翻译与配音工具，支持 100 种语言并提供一键部署能力以适配多平台视频输出。

一个开源的大规模多模态模型与工具集，支持图像、多图、视频与 3D 任务的统一训练与推理。

Maestro 是 Roboflow 提供的多模态模型微调与训练工具套件，封装了训练配置、数据加载与可复现性的最佳实践。

一个高性能、可扩展的 Python Markdown 解析器，兼容 CommonMark 并支持插件扩展。

MiMo-Audio：面向音频的大规模音频语言模型，展示出少样本学习与多样化音频理解/生成能力，包含基线模型、技术报告与在线演示。

面向长上下文与稀疏计算优化的推理项目，旨在降低长上下文场景的延迟。

一个从零实现的轻量级 vLLM 推理库，提供接近 vLLM 的高性能离线推理能力。

面向预训练的轻量化 Transformer 训练库，提供可扩展的高效训练流水线与示例配置。

DeepResearch 是一套基于检索与推理的深度研究引擎，适用于交互式检索 + 推理场景，并提供托管与自托管部署选项。

轻量级的离线大上下文 LLM 推理库，旨在使用最少显存支持超长上下文推理并兼容多种大模型。

一个针对扩散式大语言模型（Open-dLLM）的完整开源实现，覆盖从预训练到评估与推理的全流程。

OpenLLM 是由 BentoML 社区维护的开源工具集，简化了自托管 LLM 的部署与运行，并提供兼容 OpenAI API 的服务器与管理工具。

通过分块动态内存管理和异构卸载，实现大规模预训练模型并行训练的高效框架。

一个面向命令行的开源、无状态大语言模型工具，提供快速问答与单步智能体功能。

一个轻量的自托管 EPUB 阅读器，便于与大语言模型逐章联合阅读。

RustGPT 是一个用 Rust 从零实现的轻量级 LLM 教学项目，展示了 Transformer 架构与训练流程。

面向 Neovim 的 AI 助手插件，集成 Copilot LSP 的 Next Edit Suggestions 与多种 AI CLI，提升编辑器内的代码审查与交互效率。

一个通过多阶段蒸馏与优化方法提升小模型推理能力的开源大模型项目。

一套优化的视觉 - 语言模型家族，兼顾高效性与准确性，面向图像、多图与视频理解任务。

高性能推理栈，支持在多种硬件与平台上运行和编译模型，面向生产级部署与研究。