VLN Robot Project Page

RabbitRobot: 面向 VLN 的 真实机器人项目

A humanities-informed Vision-Language Navigation project suite for real AMR platforms, LiDAR mapping, ROS2 navigation, and embodied instruction following.

算个文科生吧 RabbitRobotHub
Independent Robotics Lab Notebook VLN · ROS2 · SLAM · Nav2 · Embodied AI 2025-2026
RabbitRobot 移动机器人与机械臂原型
RabbitRobot AMR prototype with embodied manipulation module.

TL;DR

  • 2025 阶段先做 AMR 工程底座:把底盘、传感器、SLAM、Nav2、Web 控制台和实验记录整理成可复盘的图文档案。
  • AMR2 是 VLN 的真车执行底座:轮毂伺服差速底盘接入 MID360、Fast-LIO、ICP、Nav2 MPPI、速度平滑和 collision monitor。
  • CoveragePath 是清扫算法能力:在真实 PCD 2D 地图里框选区域,按 footprint、安全边距、占据栅格和连通分块生成 map-aware 覆盖路径。
  • 每个设备都带着实物迭代痕迹:从轮系、支架、线束、传感器安装位到测试场调参,逐步沉淀成可复现的底盘、地图、导航界面和真实 rosbag 数据。
  • 当前正在推进的 VLN / VLR:把语言指令 grounding、waypoint 规划、Nav2 执行层和真实场景评估放进同一个实验闭环。

Hardware Prototypes

实物原型:AMR2、扫地机 V1.0、手持雷达与全向轮小车

这些平台更像是在桌面、地面和测试场里一版版收拢出来的工程样本:轮子、型材、外壳、屏幕、线束和传感器安装位置,都留下了能继续复盘的实验痕迹。

AMR2Hub-Wheel ServoDiffDriveVLN Execution

AMR2 轮毂伺服差速 AMR

· 当前真车执行平台

新做的 AMR2 小车是 RabbitRobot 更重要的真车执行平台:从轮毂伺服、铝型材框架、MID360 安装位到 CAN 线束和导航脚本逐步收拢,再接入 Fast-LIO、ICP、Nav2 MPPI、速度平滑和近距离避障保护,为 VLN waypoint 执行、rosbag 回放和失败案例采集提供底座。

RabbitRobot 扫地机 V1.0 实物原型
Sweeper V1.0Cleaning AMRCoverage PathROS2-ready

Sweeper V1.0

· 清扫原型归档

清扫底盘的第一版实物:在铝型材底盘上集成清扫机构、车轮驱动、电源、主控和本地屏幕,先把真实地面上的运动、供电、布线、重心和清扫机构布局跑通。

RabbitRobot 手持雷达建图工具实物
HandLiDARMapping ToolData Capture

HandLiDAR 建图仪

· 手持建图工具

手持雷达建图工具:把传感器、手柄、固定件和走线做成可移动采集形态,用来快速采集室内、走廊和机器人测试场的环境数据,为 AMR 导航先准备地图和传感器样本。

Omni WheelMecanumAMR PlatformNav2

Omni AMR 全向轮小车

· 全向底盘验证

全向轮小车系列:从小尺寸验证车到铝型材 AMR 底盘,一边调整轮系、安装高度、电源布线和传感器位置,一边验证底盘控制、远程控制和后续 ROS2/Nav2 导航实验。

Latest Real Robot · AMR2

AMR2:把 VLN waypoint 落到真车执行的轮毂伺服平台

AMR2 在实验室地面围绕纸箱障碍进行真车测试
AMR2 field-test frame from the July 2026 lab video: compact hub-wheel AMR running in a real cluttered indoor space.
ROS2 HumbleLivox MID360Fast-LIONav2 MPPIDS20270C CAN

VLN 的真实执行层

AMR2 不是仿真 demo,而是 ljh_amr2_hubwheel_drive 真车工作空间:从底盘、线束、传感器安装到 launch 链路都服务于同一个闭环。VLN/VLM 负责理解语言任务并生成 waypoint,AMR2 负责把 waypoint 转成地图定位、局部路径、速度指令、安全过滤和可回放数据。

MID360 Fast-LIO ICP map -> odom Nav2 MPPI velocity_smoother collision_monitor DS20270C CAN
0.486 m × 0.450 m实测矩形 footprint
/cmd_vel_smooth导航模式底盘入口
0.20 m/sMPPI 保守线速度上限
rosbag loop轨迹、状态与失败样例回收
RViz 中点击或拖拽得到覆盖区域轮廓 覆盖区域按 PCD 2D 地图 known-free 空间裁剪 PCD 地图上矩形清扫区域生成 map-aware 覆盖路径,显示 12 个 waypoints 和 0.38 m clearance
区域输入、地图裁剪、路径生成三步放在同一侧,避免重复堆文字。

Coverage Planner · 2026.02

鼠标画区域,自动生成可通行覆盖路径

这套扫地机覆盖算法不是简单画一组蛇形线:它会把 RViz 里拖出来的矩形或多边形区域,和真实 PCD 转出的 2D 地图、AMR2 的 0.486 m × 0.450 m footprint、障碍膨胀、安全内收和连通分块放在一起计算,最后输出 RViz/Nav2 可复用的 /coverage_path。

1. 区域输入 在 RViz 里用 Coverage Rect 拖矩形,或用 Coverage Poly 点多边形;第一圈是清扫外轮廓,后续圈可以作为障碍孔洞。
2. 地图裁剪 节点订阅 /map,只保留 known-free cells,unknown、off-map 和 occupied 区域都会先从覆盖区域里扣掉。
3. 安全规划 按车体 footprint 与 safety margin 膨胀障碍,扫描线间距由 sweep width 控制;凹区域或大障碍会触发连通分块。
4. 路径发布 相邻覆盖线连接前会做越界校验,必要时用直连或 A* 过渡,最后发布 /coverage_path 和带 yaw 的覆盖路径消息。
0.38 mmap-aware clearance
12 / 38 / 39矩形 / known-free / 手动验证 waypoints
36.38 m²示例已知可通行覆盖区域

算法本身只负责区域理解、覆盖路径生成和 RViz/消息发布;真车执行仍然要进入 Nav2、速度平滑、collision monitor 与 DS20270C CAN 底盘链路,避免绕过安全保护。

Project Abstract

从一个能跑的机器人,推进到一个能听懂任务的机器人系统

RabbitRobot 不是单个演示项目,而是一组围绕真实移动机器人逐步生长的工程和研究资产。它保留了从零件级搭建、结构打样、现场测试到软件链路整理的连续痕迹。2025 阶段已经把 AMR 底盘、SLAM / Nav2、Web 控制台、覆盖路径和多传感器建图资料整理扎实;现在正在把 Vision-Language Navigation 接入真实机器人,让“去门口看一下”“绕开杂物到桌边”这类语言任务落到地图、视觉观测、局部目标和 AMR2 真车动作上。

这个主页采用学术项目页的表达方式:先给出真实硬件、系统资源与图示,再展开项目矩阵、工程闭环、当前 VLN 接入和迭代路线。它更像一篇持续更新的 project page,而不是只展示视觉气氛的作品集。

Approach

RabbitRobot Project Architecture

RabbitRobot 项目全景架构图
RabbitRobot project map: platform, mapping, scenario, arm, service concept, and public archive.
System Platform

以 AMR 底盘为核心,把主控、激光雷达、深度相机、驱动、电源、支架、线束和 ROS2 软件链路变成可持续迭代的平台。

VLN Grounding

把自然语言指令、相机/雷达观测、语义目标、地图区域和导航 waypoint 对齐,让“文字任务”落到真实机器人状态空间。

Research Loop

先跑稳 Nav2 baseline,再采集可复现指令与轨迹数据,最后比较 VLN 策略在成功率、路径效率和安全性上的变化。

Project Suite

RabbitRobot 全系列项目矩阵

Project Time Role Focus / Next Value Stack / Keywords
RabbitRobot_AMR移动底盘与核心项目 底盘平台 核心实验平台 底盘控制、建图、导航、局部规划和真实数据采集。 ROS2Nav2FAST-LIO2Point-LIO2
RabbitRobot_AMR2轮毂伺服真车平台 当前真车 VLN 真车执行底座 用 DS20270C CAN 轮毂伺服差速底盘、MID360、Fast-LIO、ICP、Nav2 MPPI、速度平滑和避障保护,先跑稳 AMR 执行层,再承接 VLN waypoint 的真实执行与 rosbag 数据回收。 Hub-Wheel AMRDS20270CMID360Nav2 MPPICollision Monitor
RabbitRobot_CoveragePath扫地机覆盖路径算法 覆盖规划 清扫/覆盖算法能力 在真实 PCD 2D 地图上,根据 RViz 框选区域、polygon holes、占据栅格、AMR2 footprint 和安全边距生成 map-aware 覆盖路径,并输出可接入后续 Nav2 执行器的路径。 Coverage PathOccupancyGridFootprint InflationA*RViz Tool
RabbitRobot_2025AMR 图文项目档案 项目档案 AMR 基础沉淀 / VLN 正在推进的研究线 用图文整理 2025 阶段 RabbitRobot 的底盘、建图、导航、Web 控制台和覆盖路径基础;VLN / VLR 是正在接入真实 AMR 的研究线。 AMRSLAMNav2Web ConsoleVLN Active
Robot Dog VLN Testbed四足机器狗导航验证平台 四足平台 VLN 四足验证载体 把自然语言目标、视觉观察、空间定位和真实机器狗运动连接起来,为跨场景转向、接近和失败恢复验证准备平台。 Robot DogLegged RobotVLNReal Motion
EDULITE A3 LeRobot VLA Testbed自制 3D 打印机械臂 具身操作 VLA 机械臂验证载体 自己 3D 打印和装配灵足 A3 机械臂,打通 CAN、Python SDK、ROS2/MoveIt2 与 LeRobot pi0.5,把真实硬件操作接到 VLA 调试链路里。 3D Printed ArmPython SDKROS2 ControlLeRobot pi0.5
RabbitRobot_Sweeper V1.0扫地机第一代原型 原型归档 清扫场景原型 用实物底盘验证清扫机构、供电、驱动、布线和 ROS2 接入前的硬件布局。 Cleaning AMRSweeperField Test
RabbitRobot_HandLiDAR手持雷达建图仪 建图工具 地图生产工具 为 AMR 和场景实验提供更高质量地图与传感器数据。 Unitree L1D435RTAB-MapSLAM
RabbitRobot_ROS2_WebAMR Web 控制台 控制台整合 机器人操作界面 把 ROS/ROS2 地图、图层、导航、任务和状态监控搬到浏览器里。 ReactTypeScriptThree.jsroslib
RabbitRobot_D435_L1_RTABMap多传感器建图导航 建图链路 三维建图与定位 融合 Unitree L1、Intel RealSense D435 和 MPU6050,验证 RTAB-Map 与 FAST-LIO2 链路。 RTAB-MapD435Unitree L1MPU6050
RabbitRobot_SCFH智慧鸡场净环机器人 场景验证 真实压力场景 围绕狭长通道、低附着地面和服务机器人落地做需求验证。 Narrow CorridorField TestAMR
RabbitRobot_Arm具身智能机械臂 操作方向 操作能力扩展 为移动操作机器人储备 LeRobot、ACT、MoveIt2 等能力。 LeRobotACTMoveIt2Gemini2
RabbitRobot_ElderBuddy老人陪伴机器人 服务概念 服务概念验证 把导航、交互、提醒和陪伴需求放进室内服务机器人设想。 Indoor ServiceHRICompanion Robot
RabbitRobot_Web公开网站 公开主页 公开归档入口 展示项目材料、技术笔记、图像资料和论文/报告入口。 GitHub PagesDocsPortfolio

Repository Snapshots

从 README 截图沉淀出来的实装模块

AMR2 轮毂伺服小车真实运动测试画面 AMR2 RViz 点云、TF 和机器人模型调试画面
ROS2 HumbleFast-LIOICPMPPICAN

ljh_amr2_hubwheel_drive

这是 AMR2 轮毂伺服差速小车的真车导航工作空间,把 MID360 建图定位、Nav2 MPPI 执行、速度平滑、近距离避障和 DS20270C CAN 底盘驱动串成一条可复现实车链路。

  • 感知链路:MID360 激光/IMU 输入,Fast-LIO 输出里程计与点云,再转成 /scan 给定位和局部导航使用。
  • 执行链路:/cmd_vel_nav 经 velocity_smoother 与 collision_monitor 后进入 /cmd_vel_smooth,避免绕过平滑和安全保护。
  • 面向 VLN:把语言策略生成的 waypoint 交给真车执行,并回收轨迹、状态和失败样例。
Project Details
AMR Web 控制台主界面截图 AMR Web 控制台单点导航截图
React 19TypeScriptThree.jsroslib

ljh_robot_ros2_web

这是 RabbitRobot 的浏览器端操作台:通过 rosbridge WebSocket 接入 ROS/ROS2,将地图可视化、图层配置、导航控制、重定位、手动控制、设备状态和系统日志集中在一个 Web UI 中。

  • 面向 AMR 的 2D/3D 地图视图,支持栅格地图、激光扫描、点云、路径和机器人模型等图层。
  • 支持单点/多点导航、目标点设置、路径规划对比,以及与 RViz 结果互相校验。
  • 用浏览器作为轻量控制入口,让机器人调试、演示和远程操作更容易复用。
Project Details
RTAB-Map 多传感器建图导航截图 D435 点云 RViz2 可视化截图
RTAB-MapFAST-LIO2D435Unitree L1

RabbitRobot-D435-L1lidar-RTABMap-ROS2

这是 RabbitRobot 的多传感器建图导航链路:用 Unitree L1 提供几何结构,Intel RealSense D435 提供彩色与深度数据,MPU6050 提供姿态补偿,再通过 FAST-LIO2 与 RTAB-Map 组织成可运行的 SLAM 实验。

  • 整理 D435 + RTAB-Map 的 ROS2 工作空间、launch 文件、话题映射和 RViz2/rtabmap_viz 可视化流程。
  • 支持彩色点云、深度对齐、IMU Madgwick 滤波和静态 TF 配置,为 AMR 建图提供可复现入口。
  • 作为 HandLiDAR 与 AMR 导航之间的桥,补齐地图生产、定位验证和自主导航实验。
Project Details

Active Work · VLN

Vision-Language Navigation on Real AMR Robots

VLN / VLR 在 RabbitRobot 里是正在推进中的研究线:AMR2、手持雷达地图、Web 控制台和真实室内场景正在形成一个小而可靠的实验底座。在机器人稳定接收坐标点、跑通地图与 Nav2 的基础上,语言任务会进一步落到目标识别、约束理解和 waypoint 执行上,并把语言中的目标、约束和路线偏好 grounding 到视觉/地图观测上。

短期路线是继续用 AMR2 的 Nav2 MPPI、速度平滑、collision monitor 和 DS20270C CAN 底盘跑稳执行层,再收集语言指令、地图区域、视觉帧、waypoint、rosbag 轨迹和失败案例,逐步训练或评估能够提出中间目标并解释导航选择的 VLN/VLM 策略。

Language Task

把“去门口”“绕过杂物到桌边”等自然语言任务整理成可复现实验指令。

Scene Grounding

将视觉、雷达地图、语义区域和机器人当前位置对齐到同一个场景表示。

Waypoint Policy

由 VLN/VLM 策略提出中间目标、路线偏好和失败恢复候选动作。

ROS2 Execution

由 AMR2 的 Nav2 MPPI、速度平滑、collision monitor 和 CAN 底盘完成真实执行,并回收 rosbag 轨迹。

SR成功率
SPL路径效率
NE终点误差
nDTW轨迹相似度
RT实时性
Safe安全约束
RabbitRobot Web 控制台中的导航目标与路径调试
Web/ROS2 navigation console for inspecting goals, paths, and real-robot VLN rollouts.

Roadmap

AMR 迭代路线与 VLN 进行中

四驱原型车

树莓派 5、思岚 A1、宇树 L1、DABAI DCW2、Cartographer、Nav2 和视觉感知实验。

四驱升级车

Jetson Orin Nano Super、C50C、MID360、VLP-16、FAST-LIO2、Point-LIO2 和 Autoware 探索。

平衡车方向

Hoverboard FOC、STM32、ST-Link、IMU 接入、cmd_vel/odom 话题和底盘控制验证。

AMR2 / VLN 数据闭环

以 AMR2 轮毂伺服真车为主平台,组织语言指令、地图区域、Web 控制台标注、Nav2 MPPI 执行和 rosbag 回放评估。

Contact / Follow

找到我:小红书、B站、微信

欢迎通过下面的二维码关注 RabbitRobot 项目更新、B 站视频和日常工程记录;点击图片可以打开高清大图,手机扫码更方便。

RabbitRobot 小红书、B站、微信联系方式二维码拼接图
小红书 小红书号:RabbitRobot2025
Bilibili UID:1339027047
微信 扫码添加 · 江苏 苏州

Citation

BibTeX

@misc{lijinghai2026rabbitrobot,
  title        = {RabbitRobot: A Humanities-Informed Robotics Project Suite},
  author       = {算个文科生吧},
  year         = {2026},
  url          = {https://lijinghai.github.io/},
  note         = {Vision-Language Navigation, AMR, SLAM, Nav2, and embodied AI}
}