概述

本系列为我在vla上的第二个实践:基于piper机械臂完成数据采集--格式转换--pi05微调 --评估--panda支线对比。在之前的文章中,我在自己的数据集上进行了多轮微调及评估,最终对比piper和panda两臂的结果,发现panda不管在同分布样本还是OOD样本上都有不错的表现,piper在同分布上的表现尚可(42/50),但OOD样本上表现出明显的泛化能力不足(14/50),本篇文章将尝试做一些训练阶段的消融实验,对比两臂在改变某些训练参数设定后表现如何。


1. 三组重训

我分别进行了三次重训,每次改变参数如下:

1. 改变VLM lora的秩r,由16变为32

2. 改变batchsize,由4变为16

3. 定向补采30条数据集,让模型在90条数据上重训


2. 训练结果


3. 评估结果

这组实验表明增大r和batchsize对OOD改善有轻微的正向作用

这组实验表明对某区域进行少量定向补采能极大改善模型在该区域的能力

这组实验表明补采并未影响同分布精度

这部实验表明补采是改善OOD收益最大的调整


4. 总结

本文在上一篇的推理侧探究之后,在训练侧进行了三组重训,并设计了四组对照实验,最后得出结论:定向补采能有最为显著的OOD改善效果。

仅做学习分享,如有谬误,欢迎指正。

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐