引言

上周去上海逛了2026世界人工智能大会,说实在的,每年WAIC我都会去转一圈,看多了各种大模型、智能体、机器人,说实话多少有点审美疲劳——毕竟大多数展台讲来讲去都是生成能力,你家模型能写文案,我家模型能画图,他家能做视频,本质上都是在比谁生成得更像真的。

但今年合合信息的展台给我留下了特别深的印象,因为别人都在秀AI能造出什么,他们家反其道而行之,秀的是AI能识破什么。现场搞了个叫“AI较真大赛”的互动,摆了一堆支付截图、人像照片、新闻短视频,让观众找哪个是真哪个是假。我自认为平时接触AI不少,自认眼力还可以,结果连着三关全猜错了。

在这里插入图片描述

就是那次体验让我对这套叫“AI跨模态鉴伪技术”的东西产生了强烈的好奇心。回来之后我花了点时间,找了几十组不同类型的样本,从AI生成图、PS篡改凭证,到换脸视频、大模型写的文章,全都丢进去测了一遍,还翻了不少行业资料和技术文档,想搞清楚几个核心问题:

  • 这套技术到底是怎么识破AI造假的?

  • 面对压缩、转码、二次编辑过的内容,它还能准吗?

  • 除了展台演示,它在真实业务里到底有没有用?

  • 普通人能不能用得上?

今天这篇文章就跟大家好好聊聊,不吹不黑,全是我自己实测和调研的真实感受。

一、现在AI造假,门槛已经低到离谱了

在说鉴伪技术之前,我觉得有必要先跟大家掰扯清楚一个现状:我们现在面对的,早已不是当年那种需要专业PS高手才能做出来的低级伪造了。

1.1 普通人5分钟就能做出能骗过人眼的假内容

就在上个月,我身边一个做电商的朋友跟我吐槽,说他们店遇到了职业打假的,对方发过来一张榴莲发霉的照片,申请仅退款。客服盯着照片看了半天,觉得光影、纹理都很自然,不像是P的,就给退了。结果后来才发现,那张图根本就是用AI生成的——对方只花了两分钟,输入一句“放在快递纸箱里的发霉榴莲,自然光拍摄,手机实拍质感”,就生成了一张足以骗过人工审核的假图。

在这里插入图片描述

这不是个例。我自己也试过,用现在主流的生图工具,生成一张转账截图、一张身份证照片、一张商品破损图,真的就是分分钟的事。更可怕的是,你甚至不需要会写提示词,网上现成的模板一抓一大把,改几个数字就能用。

在这里插入图片描述

视频也是一样。以前换脸视频还得懂点技术,现在手机上随便下个APP,上传一张照片就能生成对口型的视频,表情、口型都自然得很。文本就更不用说了,大模型写出来的文章,很多时候比真人写得还通顺。

1.2 造假内容经过传播,痕迹几乎被抹干净了

很多人可能会说,AI生成的东西不是有伪影吗?不是有手部畸形、光影不对这些破绽吗?

这话放在两年前可能还成立,但现在真的不好说了。而且更关键的是,现实中我们接触到的造假内容,根本就不是原始生成文件。一张AI生成的截图,会经过微信转发、截图、裁剪、压缩,再经过平台的二次转码,等传到审核人员手里的时候,原本就很微弱的生成痕迹,早就被稀释得差不多了。

我做过一个实验:把一张AI生成的图片,连续三次通过微信发送、保存,再用普通看图软件压缩一下画质,然后拿去给几个做设计的朋友看,所有人都没看出来是AI生成的。

这就是现在鉴伪面临的最大现实:我们要检测的,从来不是实验室里干净的原始样本,而是经过了真实传播链路层层“污染”的退化内容。实验室里准确率99%的模型,放到真实场景里可能连60分都达不到。

1.3 造假已经不只是娱乐,而是真金白银的损失

可能有人觉得,不就是几张假图假视频吗,有什么大不了的?

那我给大家看几组数据。根据Surfshark公布的数据,2025年上半年,深度伪造相关的金融欺诈造成全球损失近9亿美元;而到了2026年第一季度,全球深度伪造欺诈案件已经超过420万起,同比增长了217%,金融机构的损失估计达到118亿美元。

国内的情况也不乐观。就说电商售后欺诈,湖南衡山有个人用AI修图工具批量伪造水果腐烂照片,3个月骗了60个榴莲、5箱车厘子,涉案金额一万六;安徽淮北也有人用雷同的手法,几十家店反复申请仅退款,单店损失最高超过五千块。这还只是被抓到的,没被抓到的不知道有多少。

金融领域就更吓人了。冒充领导语音克隆诈骗、AI换脸远程开户、伪造银行流水和征信报告……这些都不是新闻了,而是每天都在发生的真实案件。

还有学术领域、内容平台、社交平台……AI造假正在渗透到每一个有图片、有视频、有文字的地方。而我们绝大多数人,包括很多专业的审核人员,其实根本没有能力分辨真假。

人眼看不出,人工审核跟不上,传统的检测工具又容易被绕过——这就是我们当下面对的真实困境。

二、合合信息的跨模态鉴伪,到底是个什么技术?

正是在这样的背景下,合合信息在今年WAIC上推出的这套AI跨模态鉴伪技术,才显得格外有意义。别人都在做“矛”,他们在做“盾”。

在这里插入图片描述

2.1 先搞懂:什么是“跨模态鉴伪”?

很多人可能第一次听到这个词,我给大家解释一下。“模态”可以简单理解为信息的载体形式——图片是一种模态,视频是一种模态,文本又是另一种模态。以前的鉴伪工具,大多只能单独检测图片,或者单独检测文本,各干各的,互不打通。

而“跨模态鉴伪”,就是能同时处理图片、视频、文本这三种最常见的信息形态,用一套统一的技术体系来做真假鉴别。而且它不只是分别检测,还能做跨模态的一致性校验——比如一段视频里,人物口型和声音对不对得上;一张带文字的截图里,文字排版和图像逻辑有没有矛盾。

听起来好像不难,但实际上做起来非常难。因为不同模态的数据结构完全不一样,图像是像素矩阵,视频是连续帧序列,文本是字符序列,处理方法天差地别。要把它们整合到一个框架里,还要保证准确率和速度,技术门槛非常高。

2.2 合合信息的多模态文本智能积累

很多人知道合合信息,可能是因为扫描全能王这个App。但很多人不知道的是,他们家在文本智能领域已经深耕十几年了,从最早的OCR文字识别,到后来的文档解析、版面理解,再到现在的多模态大模型,技术积累其实非常深厚。

我查了一下他们的技术体系,合合信息有三大技术平台,其中“天璇文本智能技术平台”是核心,专门做文档结构理解、智能纠错、关键信息提取这些事。简单说就是,AI不只是能“看见”文字,还能理解版面结构、语义逻辑,甚至能判断文档合不合规。

而这次的跨模态鉴伪技术,其实就是在他们多年文本智能和多模态技术积累上长出来的能力。合合信息从文本理解出发,再延伸到图像和视频,天然就对“带文字的内容”特别敏感,而现实中绝大多数造假凭证,恰恰都是带文字的,比如转账截图、票据、证件、合同等等。

2.3 核心架构:三大模块+双链路检测

具体到技术架构上,这套系统主要分成三大模块:图像鉴伪、视频鉴伪、文本鉴伪。

但最核心的创新,其实是它的检测逻辑。传统的鉴伪方案大多只抓单一特征,比如图像就看噪声分布,文本就看词频和句长,很容易被针对性绕过。而合合信息用的是「底层特征捕捉+高层语义校验」的双链路架构,从两个完全不同的维度交叉验证。

什么意思呢?我给大家拆开讲。

底层特征捕捉:抓机器留下的“数字指纹”

不管AI生成技术怎么进化,只要是算法生成的内容,就一定会在数字底层留下痕迹,这是由生成模型的原理决定的,就像人的指纹一样,无法完全消除。

底层链路就是去抓这些痕迹。比如图像方面,它会从三个层面入手:

  • 频域分析:把图像从空间域转换到频率域,AI生成的图像在频域上会有特有的伪影和周期性规律,人眼看不见,但算法一抓一个准

  • 噪声分布建模:真实相机拍出来的照片,噪声是有特定分布规律的;而AI生成的图像,噪声模式完全不一样,不同的生成模型还有各自的特点

  • 成像物理规律校验:比如透视关系对不对、光影方向是不是一致、边缘过渡符不符合光学规律

这三层是从物理和算法底层去判断,相当于从根上查,造假者很难完全抹除这些痕迹。

高层语义校验:从逻辑层面找矛盾

光有底层特征还不够,因为内容经过多次压缩转码后,底层痕迹会变弱。这时候高层语义校验就派上用场了。

简单说就是,让AI像人一样去“看”内容合不合理。比如一张转账截图,金额数字的字体、排版、对齐方式是不是符合真实APP的规范;一张证件照,五官比例、头肩比、背景是不是符合真实证件的要求;一段视频,人物动作连不连贯,帧与帧之间有没有跳跃。

文本方面也是一样,不只是看词频,还会分析行文逻辑、论证结构、观点深度,甚至是写作习惯。很多大模型写的文章,表面看通顺无比,但仔细读就会发现,它总是在说正确的废话,没有真正的个人观点和独特表达,逻辑上也容易出现跳跃和重复。高层语义校验就是抓这些规律。

两条链路一结合,就形成了双重保险。底层痕迹被抹掉了,还有逻辑层面的矛盾;造假者在逻辑上伪装得再好,底层数字指纹也藏不住。这也是为什么这套系统在真实场景下准确率能超过98%的原因。

三、我实测了几组样本,结果比我预想的要准

光说技术太抽象,接下来给大家上点硬货——我自己的实测结果。

为了测这套系统,我专门准备了日常生活场景中最常见的造假类型。测试工具就是合合信息对外放出的“扫描全能王** AI **鉴伪”微信小程序,大家也可以自己去搜了试试。

图片是造假最多发的场景,为此,博主测试了一些案例

测试1:AI生成的证件照

这张是我用大模型生成的标准白底证件照,五官、皮肤纹理、头发边缘都处理得非常干净,我拿给身边好几个人看,都以为是真人拍的。

在这里插入图片描述

上传到小程序之后,1.46秒就出结果了——AI可能性100%,直接判定为AI生成。报告里还给出了检测依据:图像频谱存在AI生成特征、成像噪声不符合真实相机规律、面部细节存在算法生成痕迹。

说实话这个结果我是有点惊讶的,因为这张图从视觉上看真的毫无破绽,连我这种经常接触AI内容的人都没看出来。

测试2:AI篡改的转账截图

这张是我拿真实的微信转账截图,用AI把金额从0.99元改成了9.99元,改的时候特意对齐了字体、颜色和光影,尽量做得逼真。

在这里插入图片描述

检测结果:AI生成概率100%

测试3:真实的手机实拍照片

我还特意测了误判率。拿了一张我自己用手机拍的生活照,光线不太好,还有点模糊,结果判定为真实图像,AI可能性0%。

在这里插入图片描述

又测了几张网上下载的实拍图、老照片、截图再截图的图片,绝大多数都判定正确,只有一张经过重度压缩的老照片被误判为“低风险可疑”,置信度26%,系统也只是提示存疑,没有直接判定为假。

测试4:AI生成的视频检测

AI 生成视频可伪造人物言行、虚构事件,易引发不实传播与内容欺诈。扫描全能王视频鉴伪精准识别生成痕迹,守护信息安全

在这里插入图片描述

测试5:文本检测

AI 生成文本易批量炮制虚假资讯、伪造文书、剽窃原创,扰乱信息真实性

在这里插入图片描述

扫描全能王AI鉴伪这个vx程序,这个表现说实话,比我预期的要好很多。

四、这项技术的真正价值,从来都不是给普通人玩的

聊完技术和实测,再说说更实在的:这项技术到底有什么用?谁会用它?

在我看来,AI鉴伪从来都不是一个面向普通消费者的娱乐工具,它真正的战场,是在B端业务场景里,是在那些真假判断直接关系到钱、关系到合规、关系到风险的地方。

4.1 身份核验的最后一道防线

金融是AI造假的重灾区,也是鉴伪技术最刚需的场景。

以前银行做远程开户、信贷审批,主要靠人脸识别+人工审核材料。但现在AI换脸、伪造证件、篡改银行流水都太容易了,传统的核验方式漏洞越来越大。

合合信息的鉴伪技术在金融场景主要用在几个地方:

  • 远程身份核验:检测人脸是不是活的、有没有被换脸、证件照片是不是伪造的

  • 资质材料审核:识别身份证、银行卡、征信报告、银行流水有没有被篡改

  • 反欺诈检测:对转账凭证、聊天记录截图等欺诈证据进行鉴伪

我看到一个数据,合合信息的人脸深度伪造检测技术已经应用到某头部国有银行了,系统上线之后,人脸伪造拦截率比原来的系统提升了8倍。8倍是什么概念?相当于原来能拦住1个,现在能拦住8个,这个提升幅度是非常惊人的。

4.2 专治AI造假“薅羊毛”

电商场景是最近两年造假爆发最快的领域。特别是“仅退款”规则出来之后,用AI生成商品瑕疵图来骗退款的人越来越多,商家苦不堪言。

传统的售后审核,基本就是客服肉眼看图片,遇到做得逼真的AI图,根本分辨不出来。总不能为了几十块钱的东西,还专门找个技术团队做鉴定吧?

而AI鉴伪技术就可以嵌到售后审核流程里,买家上传凭证之后,系统自动先过一遍,检测是不是AI生成的、有没有被P过。高风险的直接打回,要求重新上传或者转人工审核,低风险的正常走流程。

这样一来,既能拦住大部分虚假售后,又不会影响正常消费者的体验。据我了解,现在已经有不少电商平台和大商家在对接这类能力了。

4.3 保险理赔:从人工审核到智能核验

保险理赔也是造假的重灾区。伪造事故现场照片、涂改医疗票据、用旧事故冒充新事故……这些都是骗保的常规操作。

以前保险公司审核理赔材料,主要靠人工看,效率低不说,还容易看走眼。尤其是现在大家都用手机拍照上传,图片质量参差不齐,真假更难辨。

有了跨模态鉴伪技术之后,可以对事故照片、医疗票据、视频资料进行批量检测,先筛掉一眼假的,再把存疑的交给人工,审核效率能提升好几倍,还能降低骗保成功率。

4.4 内容平台与学术场景:治理AI内容泛滥

还有两个场景需求也在快速增长:一个是内容平台,一个是学术教育。

现在各大内容平台都头疼AI生成内容泛滥的问题,不是说AI内容不好,而是很多人用AI批量生成低质内容、洗稿、造谣,严重影响平台生态。有了鉴伪能力,平台就能对AI内容进行标注和分级管理。

学术场景就更不用说了,论文查重之后,AI检测已经成了标配。而且不只是查正文,现在连图表、数据配图都有可能是AI生成的,跨模态鉴伪就能派上用场。

五、结语

聊到这里,其实我挺有感慨的。就在几年前,我们还常说“眼见为实”,照片、视频都是证据一样的存在。但才短短几年时间,AI生成技术就发展到了这个地步,我们亲眼看到的、亲耳听到的,都有可能是假的。这是技术进步带来的必然结果。生成式AI降低了内容创作的门槛,同时也降低了造假的门槛。有矛就一定会有盾,鉴伪技术就是伴随着生成技术一起成长起来的盾。

入口:vx搜 扫描全能王 AI 鉴伪

在这里插入图片描述

合合信息这次推出的AI跨模态鉴伪技术,在我看来最大的意义,不是技术本身有多酷炫,而是它把一项原本只有专业机构才能用的能力,做得足够轻、足够易用,甚至普通用户通过小程序就能体验。这对于提升整个社会的AI安全意识,是很有帮助的。当然,技术只是一方面。真正要应对AI造假问题,光靠鉴伪技术是不够的,还需要法律的完善、平台的治理、公众意识的提升,多方合力才行。目前该技术已实现金融、保险、电商等多场景应用,仅图文鉴伪技术即可实现日均数十万条内容全量核验,逐步接管传统人工抽样审核模式,降低漏判误判风险。

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐