LeRobot documentation

第三方相机和传感器

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

第三方相机和传感器

LeRobot 生态系统远远超出了其原生支持的相机范围(OpenCV、Intel RealSense、ZMQ、Reachy 2)。得益于 LeRobot 的插件架构,社区构建了即插即用的相机和传感器集成方案——从深度相机到基于视觉的触觉传感器。本页展示了由社区维护的相机和传感器集成方案,可用于远程操作、数据收集和策略部署。

这些项目由第三方开发和维护。有关安装说明、硬件要求和支持信息,请参阅各自的代码仓库。

即插即用插件会根据包名自动发现:LeRobot 会导入任何以 lerobot_camera_ 为前缀的已安装包。安装完成后,在任何 LeRobot 命令中直接引用该插件注册的摄像头 type(请参阅其 README——它可能与包名不同):

pip install lerobot_camera_<name>

lerobot-record \
    --robot.type=so101_follower \
    --robot.port=/dev/ttyACM0 \
    --robot.id=my_follower_arm \
    --robot.cameras="{ front: {type: <name>, width: 640, height: 480, fps: 30} }" \
    --teleop.type=so101_leader \
    --teleop.port=/dev/ttyACM1 \
    --teleop.id=my_leader_arm \
    --dataset.repo_id=${HF_USER}/my-dataset \
    --dataset.single_task="Describe your task here" \
    --dataset.num_episodes=5

触觉传感器

项目描述
lerobot-camera-xense用于 Xense 视觉触觉传感器的插件,可输出校正/差分图像、深度以及 2D 标记。
lerobot_camera_paxini用于 Paxini PX-6AX GEN3 多维触觉传感器(每个 taxel 提供 3 轴力,共 9-239 个 taxel)的插件,可将 taxel 阵列渲染为力矢量图或热力图。

深度相机

项目描述
lerobot_camera_berxelBerxel 深度摄像头的插件,属于更广泛的 HEXFELLOW 驱动程序套件的一部分。
lerobot_camera_zedStereolabs ZED 相机(ZED 2/2i/Mini、ZED X 系列以及 ZED X One)的官方插件,支持度量深度、硬件时间戳和 SVO 录制。
lerobot_camera_oak适用于通过 USB 或 PoE 连接的 Luxonis OAK 和 OAK4 相机(DepthAI v3)的插件,支持可选的深度图和点云。

网络摄像头

项目描述
lerobot_camera_zmq通过插件流式传输来自 Stereolabs ZED 和树莓派上 USB 摄像头的帧,并通过网络进行传输。

虚拟相机

项目描述
lerobot_camera_dummy用于在没有硬件的情况下模拟摄像头进行录制的插件。对调试非常有用!

贡献

自己搭建了 LeRobot 相机或传感器集成?将其打包为可安装的 lerobot_camera_<name> 插件,LeRobot CLI 会自动发现它——请参阅 Bring Your Own Hardware 指南和 Cameras 参考文档开始操作,然后与社区分享你的项目!

Update on GitHub