gpustack 是一个面向 GPU 集群管理与作业编排的开源项目,旨在简化深度学习任务的部署与资源管理。
gpustack 提供 GPU 集群资源管理与任务调度工具,帮助团队更高效地利用 GPU 资源进行训练与推理工作负载管理。
评论区
LLaMA Box 是一个基于 llama.cpp 的推理服务,提供 OpenAI 兼容的 API,支持多模型、多设备与图像生成能力。
Google Research 汇集了 Google 的开源研究代码与数据集,涵盖机器学习、计算机视觉、语言模型等多个研究方向。
Tunix 是一个基于 JAX 的 LLM 后训练库,提供高效的微调、强化学习训练与知识蒸馏工具。