第十届中国开源年会,12月6-7日,北京, 查看详情

TinyAI

TinyAI 是一个基于 Java 的轻量级全栈 AI 框架,覆盖从多维数组计算到大语言模型与智能体系统的模块化实现。

TinyAI 为 Java 开发者提供一套可理解、可扩展的 AI 框架。

详细介绍

TinyAI 是一个完全基于 Java 的全栈式轻量级 AI 框架,涵盖从多维数组计算到自动微分、神经网络、强化学习与大语言模型(LLM, Large Language Model)的模块化实现。项目以教育友好与生产就绪为设计目标,提供详尽中文注释、丰富示例与演示程序,便于在 Java 生态中进行模型训练、微调与部署。

主要特性

  • 模块化架构:可独立组合的智能体、模型与训练模块,便于按需裁剪与扩展。
  • 智能体系统:内置记忆管理、检索增强生成(RAG, Retrieval-Augmented Generation)、多智能体协作与自进化能力。
  • 大语言模型:实现 GPT 系列、DeepSeek 与 Qwen3 等模型,并支持 LoRA 微调与参数高效训练。
  • 教学与生产:详尽中文注释、演示程序与测试覆盖,兼顾学习曲线与工程化落地。

使用场景

  • 企业级服务:基于 RAG 的知识库问答、智能客服与文档智能处理系统。
  • 开发者工具:AI 编程助手、代码分析与自动化重构支持。
  • 研究与教学:模型原型验证、Transformer 与强化学习算法教学平台。
  • 具身智能:自动驾驶与机器人控制的模拟与控制实验平台。

技术特点

  • 纯 Java 实现:核心计算引擎零第三方依赖,便于在传统 Java 平台上部署与集成。
  • 并行与多设备:支持并行训练与多设备计算,适配企业级训练场景。
  • 可组合模块:从多维数组库到模型层、智能体层均可独立使用或组合,支持微服务化部署。
  • 丰富的示例与测试:大量演示程序与单元测试,便于快速上手与持续集成。
TinyAI
资源信息
🌱 开源 🏗️ 框架 🦾 智能体 🧬 大语言模型