VLN Robot Project Page

RabbitRobot: 面向 VLN 的 真实机器人项目

A humanities-informed Vision-Language Navigation project suite for real AMR platforms, LiDAR mapping, ROS2 navigation, and embodied instruction following.

算个文科生吧 RabbitRobotHub
Independent Robotics Lab Notebook VLN · ROS2 · SLAM · Nav2 · Embodied AI 2025-2026
RabbitRobot 移动机器人与机械臂原型
RabbitRobot AMR prototype with embodied manipulation module.

TL;DR

  • 当前主线是 VLN:让真实 AMR 从自然语言任务、视觉/地图观测和历史轨迹中理解“要去哪、怎么走、为什么这样走”。
  • AMR2 是 VLN 真车底座:轮毂伺服差速底盘接入 MID360、Fast-LIO、ICP、Nav2 MPPI、速度平滑和 collision monitor。
  • CoveragePath 是清扫算法能力:在真实 PCD 2D 地图里框选区域,按 footprint、安全边距、占据栅格和连通分块生成 map-aware 覆盖路径。
  • 每个设备都带着实物迭代痕迹:从轮系、支架、线束、传感器安装位到测试场调参,逐步沉淀成可复现的底盘、地图、导航界面和真实 rosbag 数据。
  • 研究目标 是把语言指令 grounding、waypoint 规划、Nav2 执行层和真实场景评估放进同一个实验闭环。

Hardware Prototypes

实物原型:AMR2、扫地机 V1.0、手持雷达与全向轮小车

这些平台更像是在桌面、地面和测试场里一版版收拢出来的工程样本:轮子、型材、外壳、屏幕、线束和传感器安装位置,都留下了能继续复盘的实验痕迹。

AMR2Hub-Wheel ServoDiffDriveVLN Execution

AMR2 轮毂伺服差速 AMR

· 当前真车执行平台

新做的 AMR2 小车是 RabbitRobot 当前更重要的真车执行平台:从轮毂伺服、铝型材框架、MID360 安装位到 CAN 线束和导航脚本逐步收拢,再接入 Fast-LIO、ICP、Nav2 MPPI、速度平滑和近距离避障保护,为后续 VLN waypoint 执行、rosbag 回放和失败案例采集提供底座。

RabbitRobot 扫地机 V1.0 实物原型
Sweeper V1.0Cleaning AMRCoverage PathROS2-ready

Sweeper V1.0

· 清扫原型归档

清扫底盘的第一版实物:在铝型材底盘上集成清扫机构、车轮驱动、电源、主控和本地屏幕,先把真实地面上的运动、供电、布线、重心和清扫机构布局跑通。

RabbitRobot 手持雷达建图工具实物
HandLiDARMapping ToolData Capture

HandLiDAR 建图仪

· 手持建图工具

手持雷达建图工具:把传感器、手柄、固定件和走线做成可移动采集形态,用来快速采集室内、走廊和机器人测试场的环境数据,为 AMR 导航先准备地图和传感器样本。

Omni WheelMecanumAMR PlatformNav2

Omni AMR 全向轮小车

· 全向底盘验证

全向轮小车系列:从小尺寸验证车到铝型材 AMR 底盘,一边调整轮系、安装高度、电源布线和传感器位置,一边验证底盘控制、远程控制和后续 ROS2/Nav2 导航实验。

Latest Real Robot · AMR2

AMR2:把 VLN waypoint 落到真车执行的轮毂伺服平台

AMR2 在实验室地面围绕纸箱障碍进行真车测试
AMR2 field-test frame from the July 2026 lab video: compact hub-wheel AMR running in a real cluttered indoor space.
ROS2 HumbleLivox MID360Fast-LIONav2 MPPIDS20270C CAN

VLN 的真实执行层

AMR2 不是仿真 demo,而是 ljh_amr2_hubwheel_drive 真车工作空间:从底盘、线束、传感器安装到 launch 链路都服务于同一个闭环。VLN/VLM 负责理解语言任务并生成 waypoint,AMR2 负责把 waypoint 转成地图定位、局部路径、速度指令、安全过滤和可回放数据。

MID360 Fast-LIO ICP map -> odom Nav2 MPPI velocity_smoother collision_monitor DS20270C CAN
0.486 m × 0.450 m实测矩形 footprint
/cmd_vel_smooth导航模式底盘入口
0.20 m/sMPPI 保守线速度上限
rosbag loop轨迹、状态与失败样例回收
PCD 地图上矩形清扫区域生成 map-aware 覆盖路径,显示 12 个 waypoints 和 0.38 m clearance

Coverage Planner · 2026.07.26

鼠标画区域,自动生成可通行覆盖路径

这套扫地机覆盖算法不是简单画一组蛇形线:它会把 RViz 里拖出来的矩形或多边形区域,和真实 PCD 转出的 2D 地图、AMR2 的 0.486 m × 0.450 m footprint、障碍膨胀、安全内收和连通分块放在一起计算,最后输出 RViz/Nav2 可复用的 /coverage_path

0.38 mmap-aware clearance
12 / 38 / 39矩形 / known-free / 手动验证 waypoints
36.38 m²示例已知可通行覆盖区域

Project Abstract

从一个能跑的机器人,推进到一个能听懂任务的机器人系统

RabbitRobot 不是单个演示项目,而是一组围绕真实移动机器人逐步生长的工程和研究资产。它保留了从零件级搭建、结构打样、现场测试到软件链路整理的连续痕迹。现在它的主线正在转向 Vision-Language Navigation:让机器人把“去门口看一下”“绕开杂物到桌边”这类语言任务,落到地图、视觉观测、局部目标和 AMR2 真车动作上。

这个主页采用学术项目页的表达方式:先给出真实硬件、系统资源与图示,再展开 VLN 方法、项目矩阵、研究指标和迭代路线。它更像一篇持续更新的 project page,而不是只展示视觉气氛的作品集。

Approach

RabbitRobot Project Architecture

RabbitRobot 项目全景架构图
RabbitRobot project map: platform, mapping, scenario, arm, service concept, and public archive.
System Platform

以 AMR 底盘为核心,把主控、激光雷达、深度相机、驱动、电源、支架、线束和 ROS2 软件链路变成可持续迭代的平台。

VLN Grounding

把自然语言指令、相机/雷达观测、语义目标、地图区域和导航 waypoint 对齐,让“文字任务”落到真实机器人状态空间。

Research Loop

先跑稳 Nav2 baseline,再采集可复现指令与轨迹数据,最后比较 VLN 策略在成功率、路径效率和安全性上的变化。

Project Suite

RabbitRobot 全系列项目矩阵

Project Time Role Current Focus Stack / Keywords
RabbitRobot_AMR移动底盘与核心项目 底盘主线 核心实验平台 底盘控制、建图、导航、局部规划和真实数据采集。 ROS2Nav2FAST-LIO2Point-LIO2
RabbitRobot_AMR2轮毂伺服真车平台 当前真车 VLN 真车执行底座 用 DS20270C CAN 轮毂伺服差速底盘、MID360、Fast-LIO、ICP、Nav2 MPPI、速度平滑和避障保护,承接 VLN waypoint 的真实执行与 rosbag 数据回收。 Hub-Wheel AMRDS20270CMID360Nav2 MPPICollision Monitor
RabbitRobot_CoveragePath扫地机覆盖路径算法 覆盖规划 清扫/覆盖算法能力 在真实 PCD 2D 地图上,根据 RViz 框选区域、polygon holes、占据栅格、AMR2 footprint 和安全边距生成 map-aware 覆盖路径,并输出可接入后续 Nav2 执行器的路径。 Coverage PathOccupancyGridFootprint InflationA*RViz Tool
RabbitRobot_VLN视觉语言导航主线 当前研究 当前研究主线 把自然语言指令、视觉/地图 grounding、waypoint 规划和真实 AMR 执行评估串成闭环。 VLNVLMEmbodied NavigationROS2
RabbitRobot_Sweeper V1.0扫地机第一代原型 原型归档 清扫场景原型 用实物底盘验证清扫机构、供电、驱动、布线和 ROS2 接入前的硬件布局。 Cleaning AMRSweeperField Test
RabbitRobot_HandLiDAR手持雷达建图仪 建图工具 地图生产工具 为 AMR 和场景实验提供更高质量地图与传感器数据。 Unitree L1D435RTAB-MapSLAM
RabbitRobot_ROS2_WebAMR Web 控制台 控制台整合 机器人操作界面 把 ROS/ROS2 地图、图层、导航、任务和状态监控搬到浏览器里。 ReactTypeScriptThree.jsroslib
RabbitRobot_D435_L1_RTABMap多传感器建图导航 建图链路 三维建图与定位 融合 Unitree L1、Intel RealSense D435 和 MPU6050,验证 RTAB-Map 与 FAST-LIO2 链路。 RTAB-MapD435Unitree L1MPU6050
RabbitRobot_SCFH智慧鸡场净环机器人 场景验证 真实压力场景 围绕狭长通道、低附着地面和服务机器人落地做需求验证。 Narrow CorridorField TestAMR
RabbitRobot_Arm具身智能机械臂 操作方向 操作能力扩展 为移动操作机器人储备 LeRobot、ACT、MoveIt2 等能力。 LeRobotACTMoveIt2Gemini2
RabbitRobot_ElderBuddy老人陪伴机器人 服务概念 服务概念验证 把导航、交互、提醒和陪伴需求放进室内服务机器人设想。 Indoor ServiceHRICompanion Robot
RabbitRobot_Web公开网站 公开主页 公开归档入口 展示项目材料、技术笔记、图像资料和后续论文/报告入口。 GitHub PagesDocsPortfolio

Repository Snapshots

从 README 截图沉淀出来的实装模块

AMR2 轮毂伺服小车真实运动测试画面 AMR2 RViz 点云、TF 和机器人模型调试画面
ROS2 HumbleFast-LIOICPMPPICAN

ljh_amr2_hubwheel_drive

这是 AMR2 轮毂伺服差速小车的真车导航工作空间,把 MID360 建图定位、Nav2 MPPI 执行、速度平滑、近距离避障和 DS20270C CAN 底盘驱动串成一条可复现实车链路。

  • 感知链路:MID360 激光/IMU 输入,Fast-LIO 输出里程计与点云,再转成 /scan 给定位和局部导航使用。
  • 执行链路:/cmd_vel_nav 经 velocity_smoother 与 collision_monitor 后进入 /cmd_vel_smooth,避免绕过平滑和安全保护。
  • 面向 VLN:把语言策略生成的 waypoint 交给真车执行,并回收轨迹、状态和失败样例。
Project Details
PCD 地图矩形区域生成覆盖路径截图 Coverage Poly 五边形区域生成覆盖路径截图
ROS2 HumbleCoverage RectCoverage PolyA*Map-aware

ljh_robot_coverage

这是 AMR2 工作空间里新整理出的扫地机覆盖路径算法:从 RViz 鼠标框选区域出发,结合真实 PCD 转出的 OccupancyGrid、车体 footprint、安全边距和障碍孔洞,生成能在 RViz 中验证、后续可接 Nav2 执行器的覆盖路径。

  • 交互入口:Coverage Rect 拖矩形、Coverage Poly 点多边形,也支持直接调用 /coverage/compute_path
  • 地图约束:unknown/off-map 区域不参与规划,占据格按车体尺寸膨胀后从覆盖区域中扣除。
  • 安全边界:当前覆盖路径生成与 RViz-only 跟随已验证,真车自动执行后续仍要走 Nav2、速度平滑和 collision monitor。
Project Details
AMR Web 控制台主界面截图 AMR Web 控制台单点导航截图
React 19TypeScriptThree.jsroslib

ljh_robot_ros2_web

这是 RabbitRobot 的浏览器端操作台:通过 rosbridge WebSocket 接入 ROS/ROS2,将地图可视化、图层配置、导航控制、重定位、手动控制、设备状态和系统日志集中在一个 Web UI 中。

  • 面向 AMR 的 2D/3D 地图视图,支持栅格地图、激光扫描、点云、路径和机器人模型等图层。
  • 支持单点/多点导航、目标点设置、路径规划对比,以及与 RViz 结果互相校验。
  • 用浏览器作为轻量控制入口,让机器人调试、演示和远程操作更容易复用。
Project Details
RTAB-Map 多传感器建图导航截图 D435 点云 RViz2 可视化截图
RTAB-MapFAST-LIO2D435Unitree L1

RabbitRobot-D435-L1lidar-RTABMap-ROS2

这是 RabbitRobot 的多传感器建图导航链路:用 Unitree L1 提供几何结构,Intel RealSense D435 提供彩色与深度数据,MPU6050 提供姿态补偿,再通过 FAST-LIO2 与 RTAB-Map 组织成可运行的 SLAM 实验。

  • 整理 D435 + RTAB-Map 的 ROS2 工作空间、launch 文件、话题映射和 RViz2/rtabmap_viz 可视化流程。
  • 支持彩色点云、深度对齐、IMU Madgwick 滤波和静态 TF 配置,为 AMR 建图提供可复现入口。
  • 作为 HandLiDAR 与 AMR 导航之间的桥,补齐地图生产、定位验证和后续自主导航实验。
Project Details

Current Focus · VLN

Vision-Language Navigation for Real AMR Robots

当前最适合作为论文型主线推进的问题,是把 RabbitRobot AMR2、手持雷达地图、Web 控制台和真实室内场景整理成一个小而真实的 VLN 实验平台。机器人不只接收坐标点,而是接收自然语言任务,再把语言中的目标、约束和路线偏好 grounding 到视觉/地图观测上。

短期路线是先用 AMR2 的 Nav2 MPPI、速度平滑、collision monitor 和 DS20270C CAN 底盘跑稳执行层,再收集语言指令、地图区域、视觉帧、waypoint、rosbag 轨迹和失败案例,逐步训练或评估能够提出中间目标并解释导航选择的 VLN/VLM 策略。

Language Task

把“去门口”“绕过杂物到桌边”等自然语言任务整理成可复现实验指令。

Scene Grounding

将视觉、雷达地图、语义区域和机器人当前位置对齐到同一个场景表示。

Waypoint Policy

由 VLN/VLM 策略提出中间目标、路线偏好和失败恢复候选动作。

ROS2 Execution

由 AMR2 的 Nav2 MPPI、速度平滑、collision monitor 和 CAN 底盘完成真实执行,并回收 rosbag 轨迹。

SR成功率
SPL路径效率
NE终点误差
nDTW轨迹相似度
RT实时性
Safe安全约束
RabbitRobot Web 控制台中的导航目标与路径调试
Web/ROS2 navigation console for inspecting goals, paths, and real-robot VLN rollouts.

Roadmap

AMR / VLN 迭代路线

四驱原型车

树莓派 5、思岚 A1、宇树 L1、DABAI DCW2、Cartographer、Nav2 和视觉感知实验。

四驱升级车

Jetson Orin Nano Super、C50C、MID360、VLP-16、FAST-LIO2、Point-LIO2 和 Autoware 探索。

平衡车方向

Hoverboard FOC、STM32、ST-Link、IMU 接入、cmd_vel/odom 话题和底盘控制验证。

AMR2 / VLN 数据闭环

以 AMR2 轮毂伺服真车为主平台,组织语言指令、地图区域、Web 控制台标注、Nav2 MPPI 执行和 rosbag 回放评估。

Contact / Follow

找到我:小红书、B站、微信

欢迎通过下面的二维码关注 RabbitRobot 项目更新、B 站视频和日常工程记录;点击图片可以打开高清大图,手机扫码更方便。

RabbitRobot 小红书、B站、微信联系方式二维码拼接图
小红书 小红书号:RabbitRobot2025
Bilibili UID:1339027047
微信 扫码添加 · 江苏 苏州

Citation

BibTeX

@misc{lijinghai2026rabbitrobot,
  title        = {RabbitRobot: A Humanities-Informed Robotics Project Suite},
  author       = {算个文科生吧},
  year         = {2026},
  url          = {https://lijinghai.github.io/},
  note         = {Vision-Language Navigation, AMR, SLAM, Nav2, and embodied AI}
}