wen2.5-VL模型是一个视觉语言多模态大模型。 项目官方地址: https://github.com/QwenLM/Qwen2.5-VL

因为模型和权重是开源的, 可以本地部署, 也可以直接使用api调用更为方便。
截止到目前, 总共提供了10款VL模型。
在这里插入图片描述

api 文档: https://bailian.console.aliyun.com/?tab=doc#/api/?type=model&url=https%3A%2F%2Fhelp.aliyun.com%2Fdocument_detail%2F2845871.html

具体实现代码可以参考:https://github.com/leo038/spatial-perception/blob/main/qwen_vl_api.py

小tips: 由于大模型输出的信息层级非常多, 给解码带来很多不便。 可以使用https://www.json.cn/ 这个在线json格式化工具查看数据, 数据层级一目了然。

使用下来的感受:

  • Qwen2.5-VL 32B和72B版本整体检测效果还不错;
  • Qwen2.5-VL 3B和7B版本效果较差, 7B能检测一些简单场景, 复杂场景召回很低;3B版本在我的测试中一直无法输出有效的内容。
  • 72B版本的指令遵循能力最好, 输出基本都是按照指定格式, 32B和7B 指令遵循略差, 经常输出一些无效内容, 如```json 代码段, 字段输出有时候不准确, 另外括号也可能不匹配。
  • 使用大模型做检测, 更多的工作是在prompt工程和后处理, 包括对输出信息的解析、 可视化, 以及异常处理等等。

一些检测实例:
Qwen2.5 VL 72B
在这里插入图片描述

Qwen2.5 VL 32B
在这里插入图片描述

Qwen2.5 VL 7B

在这里插入图片描述

Qwen2.5 VL 3B
在这里插入图片描述

72B和32B效果较好, 7B和3B效果很差, 基本不可用。

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐