✅作者简介:热爱科研的Matlab仿真开发者,擅长毕业设计辅导、数学建模、数据处理、建模仿真、程序设计、完整代码获取、论文复现及科研仿真。

🍎 往期回顾关注个人主页:Matlab科研工作室

 👇 关注我领取海量matlab电子书和数学建模资料 

🍊个人信条:格物致知,完整Matlab代码获取及仿真咨询内容私信。

🔥 内容介绍 

一、研究背景与现有算法缺陷

1. 应用场景

适用于移动机器人、低空无人机、机械臂高维连续空间路径规划,要求算法兼具全局完备搜索、快速收敛、路径近最优、轨迹平滑、可动态迭代优化五大特性。

2. 三类基础算法单独使用的固有短板

(1)标准 RRT/RRT*
  • 优势:概率完备,高维空间快速扩展,无需显式环境建模;

  • 缺陷:全域均匀随机采样,大量无效采样浪费算力;收敛至最优路径速度慢;无历史经验记忆,每次规划从零搜索;复杂狭窄通道易产生冗余节点、路径震荡。

(2)Informed RRT*(椭圆启发采样)

核心机制:找到首条可行路径后,仅在起点 - 终点为双焦点、当前最优路径长度为长轴的椭圆超曲面内采样,剔除不可能优化路径的区域,大幅压缩搜索空间。

  • 优势:收敛速度远快于原生 RRT*,渐进最优;

  • 缺陷:① 首条可行路径生成前仍全域随机采样,狭窄障碍环境起步慢;② 椭圆采样仅依赖几何启发,无环境经验学习,多次重复规划无法复用历史最优路径信息;③ 树扩展依旧随机,容易向障碍物、高代价区域无效延伸。

(3)原生 Q-Learning 强化学习路径规划
  • 优势:可存储环境经验,持续迭代优化决策,擅长局部路径微调;

  • 缺陷:连续空间离散化后状态爆炸,训练样本需求量极大;无全局可行骨架引导,复杂障碍环境极易陷入局部极小,无法保证找到可行路径。

3. 传统融合方案不足

现有 RRT+Q-Learning 仅用 Q 值简单引导随机采样,未引入 Informed 椭圆聚焦采样;且仅在树扩展阶段单次学习,缺少全局粗规划 + 强化学习二次精细优化分层架构,路径冗余、平滑度、重复规划效率仍存在明显短板。

4. 本文混合算法创新思路

构建三层协同架构

  1. Q-RRT 基础层

    :Q-Learning 实时引导随机树扩展,替代盲目均匀采样,加速生成第一条可行路径;

  2. Informed 椭圆聚焦采样层

    :得到初始路径后,切换椭圆约束采样,快速收敛至近最优全局骨架;

  3. Q-Learning 路径二次精细优化层

    :对 Informed 输出的粗最优路径分段离散建模,以最小长度、安全裕度、平滑度为奖励迭代优化,剔除冗余拐点、平滑轨迹。三层相互耦合:强化学习同时作用于采样引导路径后优化,Informed 采样压缩搜索范围,兼顾完备性、规划速度、路径质量、重复任务复用性。

⛳️ 运行结果

📣 部分代码

rewire_radius = 5;

beacon_prob = 0.3;   

Q_radius    = 0.1;

best_path   = [];

goal_nodes = [];

start = [0.5,0.5];

goal = [20,20];

center = (goal - start)/2;

theta = atan2((goal(2) - start(2)), (goal(1) - start(1)));

c_best = inf;

c_new = inf;

c_min = norm(goal - start);

epsilon = 1.0;

min_epsilon = 0.9;

decay_rate = 0.995;

obstacle = {

    [1, 1; 3, 1; 3, 3; 1, 3];

[5, 2; 7, 2; 7, 4; 5, 4];

[9, 1; 11, 1; 11, 3; 9, 3];

[14, 2; 16, 2; 16, 4; 14, 4];

[18, 1; 20, 01; 20, 3; 18, 3];

[2, 6; 4, 6; 4, 8; 2, 8];

[7, 5; 9, 5; 9, 7; 7, 7];

[11, 6; 13, 6; 13, 8; 11, 8];

[16, 6; 18, 6; 18, 8; 16, 8];

[21, 5; 23, 5; 23, 7; 21, 7];

[4, 10; 6, 10; 6, 12; 4, 12];

[0, 12; 2, 12; 2, 14; 0, 14];

[9, 10; 11, 10; 11, 12; 9, 12];

[13, 11; 15, 11; 15, 13; 13, 13];

[18, 10; 20, 10; 20, 12; 18, 12];

[22, 11; 24, 11; 24, 13; 22, 13];

[6, 15; 8, 15; 8, 17; 6, 17];

[11, 15; 13, 15; 13, 17; 11, 17];

[2, 19; 4, 19; 4, 21; 2, 21];

[15, 18; 17, 18; 17, 20; 15, 20];

🔗 参考文献

🍅往期回顾扫扫下方二维码

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐