RustGPT 是一个以教学为目的的 Rust 语言实现的 Transformer 模型示例工程，适合想从零实现并理解 LLM 内部机制的开发者与研究者。项目包含模型前向/反向传播实现、训练管线、测试用例与交互式模式，强调可读性与模块化。
主要特性
- 纯 Rust 实现，不依赖大型 ML 框架，仅使用 ndarray 等基础库。
- 包含训练与交互式测试模式，支持快速实验与调试。
- 模块化代码结构，便于理解 Transformer 组件（注意力、前馈、嵌入等）。
使用场景
- 学习与教学：理解 LLM 的实现原理与训练流程。
- 原型验证：验证自定义模型组件和训练策略。
- 工程实验：探索 Rust 在模型实现与性能优化上的可行性。
技术特点
- 使用 ndarray 实现矩阵运算，保持实现轻量且透明。
- 提供丰富的测试覆盖，便于回归与验证。
- 设计考虑可扩展性，便于引入更多优化（SIMD、并行等）。