LeRobot documentation
第三方相机和传感器
快速入门
教程
用于机器人的模仿学习LeLab - Lerobot GUI添加策略自带硬件使用 RL 训练机器人在模拟环境中训练 RL多 GPU 训练人工参与的数据收集使用 PEFT(例如 LoRA)进行训练使用重命名映射和空相机
计算与硬件
数据集
策略
ACTSmolVLAπ₀ (Pi0)π₀-FAST (Pi0Fast)π₀.₅ (Pi05)FineART-VLAMolmoAct2VLA-JEPALaWAMEO-1LingBot-VALingBot-VLA 2.0OpenGalaxea G0.5FastWAMLong-WAMFLUX 3 Action (flux3)EVO1NVIDIA GR00TX-VLA多任务 DiT 策略WALL-OSSWall-OSS-0.5DM05Cosmos3
奖励模型
推理
模拟
基准测试
添加基准测试LIBEROLIBERO-plusMeta-WorldRoboTwin 2.0RoboCasa365RoboCerebraNVIDIA RoboLabRoboMMENVIDIA IsaacLab Arena 环境VLABench
机器人处理器
机器人
SO-101SO-100Koch v1.1LeKiwiHope JrReachy 2Unitree G1Earth Rover MiniOMXOpenArmreBot B601YAM第三方机器人 & 遥操作器
远程操作员
传感器
资源
关于
API 参考
第三方相机和传感器
LeRobot 生态系统远远超出了其原生支持的相机范围(OpenCV、Intel RealSense、ZMQ、Reachy 2)。得益于 LeRobot 的插件架构,社区构建了即插即用的相机和传感器集成方案——从深度相机到基于视觉的触觉传感器。本页展示了由社区维护的相机和传感器集成方案,可用于远程操作、数据收集和策略部署。
这些项目由第三方开发和维护。有关安装说明、硬件要求和支持信息,请参阅各自的代码仓库。
即插即用插件会根据包名自动发现:LeRobot 会导入任何以 lerobot_camera_ 为前缀的已安装包。安装完成后,在任何 LeRobot 命令中直接引用该插件注册的摄像头 type(请参阅其 README——它可能与包名不同):
pip install lerobot_camera_<name>
lerobot-record \
--robot.type=so101_follower \
--robot.port=/dev/ttyACM0 \
--robot.id=my_follower_arm \
--robot.cameras="{ front: {type: <name>, width: 640, height: 480, fps: 30} }" \
--teleop.type=so101_leader \
--teleop.port=/dev/ttyACM1 \
--teleop.id=my_leader_arm \
--dataset.repo_id=${HF_USER}/my-dataset \
--dataset.single_task="Describe your task here" \
--dataset.num_episodes=5触觉传感器
| 项目 | 描述 |
|---|---|
| lerobot-camera-xense | 用于 Xense 视觉触觉传感器的插件,可输出校正/差分图像、深度以及 2D 标记。 |
| lerobot_camera_paxini | 用于 Paxini PX-6AX GEN3 多维触觉传感器(每个 taxel 提供 3 轴力,共 9-239 个 taxel)的插件,可将 taxel 阵列渲染为力矢量图或热力图。 |
深度相机
| 项目 | 描述 |
|---|---|
| lerobot_camera_berxel | Berxel 深度摄像头的插件,属于更广泛的 HEXFELLOW 驱动程序套件的一部分。 |
| lerobot_camera_zed | Stereolabs ZED 相机(ZED 2/2i/Mini、ZED X 系列以及 ZED X One)的官方插件,支持度量深度、硬件时间戳和 SVO 录制。 |
| lerobot_camera_oak | 适用于通过 USB 或 PoE 连接的 Luxonis OAK 和 OAK4 相机(DepthAI v3)的插件,支持可选的深度图和点云。 |
网络摄像头
| 项目 | 描述 |
|---|---|
| lerobot_camera_zmq | 通过插件流式传输来自 Stereolabs ZED 和树莓派上 USB 摄像头的帧,并通过网络进行传输。 |
虚拟相机
| 项目 | 描述 |
|---|---|
| lerobot_camera_dummy | 用于在没有硬件的情况下模拟摄像头进行录制的插件。对调试非常有用! |
贡献
自己搭建了 LeRobot 相机或传感器集成?将其打包为可安装的 lerobot_camera_<name> 插件,LeRobot CLI 会自动发现它——请参阅 Bring Your Own Hardware 指南和 Cameras 参考文档开始操作,然后与社区分享你的项目!