第十届中国开源年会,12月6-7日,北京, 查看详情

NeuralFlight

一个结合计算机视觉与运动意象 EEG 分类的开源无人机控制框架,支持手势、头部动作与想象运动控制仿真无人机。

详细介绍

NeuralFlight 是一个面向研究与教学的开源无人机控制框架,通过计算机视觉(基于 Mediapipe)与运动意象(motor imagery)脑电(EEG)分类相结合,实现无需昂贵硬件即可体验的无人机控制方案。项目使用 PyTorch 进行模型训练,提供仿真器、可运行的 demo 与示例笔记本,方便研究者快速复现与扩展算法。

主要特性

  • 多模态控制模式:支持拳头手势跟随、头部姿态控制与基于 EEG 的运动意象控制。
  • 现代 ML 栈:基于 PyTorch、EEGNet(带残差连接)实现实时推理,并提供预训练模型与训练脚本。
  • 仿真与无硬件 demo:内置物理仿真与可视化界面,用户可在无真实无人机的情况下进行开发与测试。

使用场景

  • BCI(脑机接口)研究与原型验证。
  • 可访问性方案,为行动障碍用户提供替代的无人机/设备控制方式。
  • 教学与课程实例,用于传授信号处理、深度学习与机器人控制。

技术特点

  • EEG 预处理与数据集集成(使用 PhysioNet Motor Movement/Imagery 数据集)。
  • 轻量级神经网络(约 10K 参数)与残差结构,训练与推理效率较高。
  • 使用 Mediapipe 进行实时手/脸关键点检测,结合时间平滑与阈值策略提高稳定性。
NeuralFlight
资源信息
🌱 开源 🕹️ 模拟器 🏋️ 模型训练 📱 应用