​

工业相机使用YoloV8模型实现PCB的缺陷检测

本项目集成了 YOLOv8 缺陷检测模型 与 C#图形界面工具，实现了包括图片、文件夹、视频与摄像头等多种输入方式的缺陷检测功能。

Baumer工业相机堡盟相机是一种高性能、高质量的工业相机，可用于各种应用场景，如物体检测、计数和识别、运动分析和图像处理。

Baumer的万兆网相机拥有出色的图像处理性能，可以实时传输高分辨率图像。此外，该相机还具有快速数据传输、低功耗、易于集成以及高度可扩展性等特点。
​
Baumer工业相机由于其性能和质量的优越和稳定，常用于高速同步采集领域，通常使用各种图像算法来提高其捕获的图像的质量。

本文以Baumer工业相机作为案例进行演示，实现将工业相机的图像或者本地图像导入Yolo模型从而实现PCB缺陷检测等功能。

工业相机实现YoloV8模型实现PCB的缺陷检测的技术背景

本文通过C#中实现一个简单的UI界面，用于将YoloV8模型实现PCB的缺陷检测

用户可以通过该界面执行以下操作：

1. 转换相机图像为Mat图像：通过YoloV8模型实现PCB的缺陷检测

2. 转换本地图像为mat图像：通过YoloV8模型实现PCB的缺陷检测

通过这个UI界面，用户能够在实时应用机器视觉数据处理时快速有效地进行操作，无需深入了解图像数据的底层处理过程。这个简单的介绍旨在为开发人员提供一个明确的方向，以便开始构建此类应用程序，并且该程序主要用于演示目的。

在相机SDK中获取图像转换图像的代码分析

本文介绍使用Baumer工业相机，实现将图像转换为Bitmap图像，再转换Mat图像，导入到Yolo模型进行推理，输出PCB的缺陷检测的结果。

工业相机图像转换Bitmap图像格式和Mat图像重要核心代码

//将相机内部图像内存数据转为bitmap数据
System.Drawing.Bitmap bitmap  = new System.Drawing.Bitmap((int)mBufferFilled.Width, (int)mBufferFilled.Height，(int)mBufferFilled.Width,System.Drawing.Imaging.PixelFormat.Format8bppIndexed, (IntPtr)((ulong)mBufferFilled.MemPtr + mBufferFilled.ImageOffset));
                                      
#region//Mono图像数据转换。彩色图像数据转换于此不同
System.Drawing.Imaging.ColorPalette palette = bitmap.Palette;
int nColors = 256;
for (int ix = 0; ix < nColors; ix++)
{
     uint Alpha = 0xFF;
     uint Intensity = (uint)(ix * 0xFF / (nColors - 1));
     palette.Entries[ix] = System.Drawing.Color.FromArgb((int)Alpha, (int)Intensity，(int)Intensity, (int)Intensity);
}
bitmap.Palette = palette;
#endregion

string strtime = DateTime.Now.ToString("yyyyMMddhhmmssfff");
string saveimagepath = pImgFileDir + "\\" + strtime + ".brw";
      
//使用Bitmap格式保存         
bitmap.Save(saveimagepath, System.Drawing.Imaging.ImageFormat.Bmp);  


//用bitmap转换为mat
OpenCvSharp.Mat Matgray1 = OpenCvSharp.Extensions.BitmapConverter.ToMat(bitmap);

本地文件图像转换Bitmap图像格式和Mat图像重要核心代码

C#环境下代码如下所示：

if (imagePaths.Count() == 0)
{
    LoadImagePaths("test_img");
}

string currentImagePath = imagePaths[currentImageIndex];

    // 显示到pictureBoxA
pictureBoxA.Image.Dispose(); // 释放上一张图片资源，避免内存泄漏
pictureBoxA.Image = new Bitmap(currentImagePath);
image_path = currentImagePath;

currentImageIndex = (currentImageIndex + 1) % imagePaths.Count;

OnNotifyShowRecieveMsg("检测中，请稍等……");
//textBox1.Text = "检测中，请稍等……";
//pictureBox2.Image = null;
Application.DoEvents();

image = new Mat(image_path);

float ratio = Math.Min(1.0f * inpHeight / image.Rows, 1.0f * inpWidth / image.Cols);
int neww = (int)(image.Cols * ratio);
int newh = (int)(image.Rows * ratio);

Mat dstimg = new Mat();
Cv2.Resize(image, dstimg, new OpenCvSharp.Size(neww, newh));

Cv2.CopyMakeBorder(dstimg, dstimg, 0, inpHeight - newh, 0, inpWidth - neww, BorderTypes.Constant);

Mat图像导入YoloV8模型重要核心代码

C#环境下代码如下所示：

         // 定义 ONNX 模型的路径
string onnxModelPath = "model/best.onnx";
// 定义输入图像的形状
OpenCvSharp.Size inputShape = new OpenCvSharp.Size(640, 640);
// 从 ONNX 模型文件加载网络
if(net==null)
    net = CvDnn.ReadNetFromOnnx(onnxModelPath);

            
string[] modelClassify = { "missing_hole" };

if (imagePaths.Count() == 0)
{
    LoadImagePaths("test_img");
}

string currentImagePath = imagePaths[currentImageIndex];

    // 显示到pictureBoxA
pictureBoxA.Image.Dispose(); // 释放上一张图片资源，避免内存泄漏
pictureBoxA.Image = new Bitmap(currentImagePath);
image_path = currentImagePath;

if (pictureBoxA.Image == null)
{
    return;
}
currentImageIndex = (currentImageIndex + 1) % imagePaths.Count;

OnNotifyShowRecieveMsg("检测中，请稍等……");
            
Application.DoEvents();

image = new Mat(image_path);

dt1 = DateTime.Now;
// 调用识别图像的函数，并传入图像路径、阈值、网络、输入形状和分类类别列表
result_image = Recognize(image, 0.35, net, inputShape, modelClassify);
// 获取计算结束时间
dt2 = DateTime.Now;
// 显示输出的图像
pictureBoxA.Image = new Bitmap(result_image.ToMemoryStream());
         
// 显示推理耗时时间
OnNotifyShowRecieveMsg("推理耗时:" + (dt2 - dt1).TotalMilliseconds + "ms");

static Mat Recognize(Mat imgPath, double threshold, Net net, OpenCvSharp.Size inputShape, string[] modelClassify)
{
    using (Mat img = imgPath)
    {

        int inpHeight = 640; // 输入图像的高度
        int inpWidth = 640; // 输入图像的宽度

        // 对图像进行预处理，调整尺寸
        Mat image = img;
        float ratio = Math.Min(1.0f * inpHeight / image.Rows, 1.0f * inpWidth / image.Cols);
        int neww = (int)(image.Cols * ratio);
        int newh = (int)(image.Rows * ratio);

        //// 将图像调整为模型需要的大小
        //Mat dstimg = new Mat();
        //Cv2.Resize(image, dstimg, new OpenCvSharp.Size(neww, newh));
        //Cv2.CopyMakeBorder(dstimg, dstimg, 0, inpHeight - newh, 0, inpWidth - neww, BorderTypes.Constant);
        //Mat BN_image = CvDnn.BlobFromImage(dstimg); // 将调整后的图像转换为Blob格式

        //// 配置图片输入数据 // 将 blob 设置为网络的输入
        //net.SetInput(BN_image);

        //// 从图像生成用于网络输入的 blob
        //Mat blob = CvDnn.BlobFromImage(img, 1 / 255.0, inputShape, new Scalar(0, 0, 0), false);
        ////Mat blob = CvDnn.BlobFromImage(img, 1.0 / 255.0, inputShape, new Scalar(0, 0, 0), true, false);
        // 将 blob 设置为网络的输入
        //net.SetInput(blob);

        //// 从图像生成用于网络输入的 blob
        Mat img0 = imgPath;
        Mat blob0 = CvDnn.BlobFromImage(img0, 1 / 255.0, new OpenCvSharp.Size(inputShape.Width, inputShape.Height), swapRB: true, crop: false);
        net.SetInput(blob0);


        // 执行前向传播获取输出
        Mat output = net.Forward();
        // 此处可能需要根据 C# 中 OpenCV 的特性来处理转置操作
        output = ReshapeAndTranspose(output);


        // 获取图像的行数（高度）
        int height = img.Height;
        // 获取图像的列数（宽度）
        int width = img.Width;
        // 计算宽度的缩放因子
        double xFactor = (double)width / inputShape.Width;
        // 计算高度的缩放因子
        double yFactor = (double)height / inputShape.Height;

        // 初始化分类类别、得分和检测框的列表
        List<string> classifys = new List<string>();
        List<float> scores = new List<float>();
        List<Rect> boxes = new List<Rect>();

        List<Double> maxVales = new List<Double>();
        List<OpenCvSharp.Point> maxloces = new List<OpenCvSharp.Point>();

        // 遍历输出的行
        for (int i = 0; i < output.Rows; i++)
        {
            // 获取当前行的检测框数据
            using (Mat box = output.Row(i))
            {

                // 在框数据的特定范围中找到最小值、最大值及其位置
                OpenCvSharp.Point minloc, maxloc;
                double minVal, maxVal;
                // Mat classes_scores = box.ColRange(4, 5);//GetArray(i, 5, classes_scores);

                // double curmates0 = box.At<float>(0);
                double curmates1 = box.At<float>(4);
                int collength = box.Cols;
                int rowlength = box.Rows;


                Mat curmates = box.ColRange(4, box.Cols);
                //Cv2.MinMaxLoc(box.ColRange(4, box.Cols), out minVal, out maxVal, out minloc, out maxloc);
                Cv2.MinMaxLoc(box.ColRange(4, box.Cols), out minVal, out maxVal, out minloc, out maxloc);
                int classId = maxloc.Y;

                if (classId == 0)
                {
                    // 获取对应类别的得分                         
                    float score = (float)maxVal;

                    // 如果得分大于阈值
                    if (score > threshold)
                    {
                        // 将得分添加到得分列表
                        scores.Add(score);
                        // 将类别添加到类别列表
                        classifys.Add(modelClassify[classId]);

                        // 获取框的原始坐标
                        float x = box.At<float>(0, 0);
                        float y = box.At<float>(0, 1);
                        float w = box.At<float>(0, 2);
                        float h = box.At<float>(0, 3);


                        // 计算调整后的坐标
                        int xInt = (int)((x - 0.5 * w) * xFactor);
                        int yInt = (int)((y - 0.5 * h) * yFactor);
                        int wInt = (int)(w * xFactor);
                        int hInt = (int)(h * yFactor);
                        // 将调整后的框坐标添加到框列表
                        boxes.Add(new Rect(xInt, yInt, wInt, hInt));
                    }
                }

            }
        }






        // 执行非极大值抑制操作
        int[] indices;
        CvDnn.NMSBoxes(boxes, scores, 0.25f, 0.45f, out indices);
        // 遍历非极大值抑制操作后的索引
        foreach (int i in indices)
        {
            // 获取对应的类别、得分和框
            string classify = classifys[i];
            float score = scores[i];
            Rect box = boxes[i];

            // 获取框的坐标和尺寸
            // 在图像上绘制矩形框
            Cv2.Rectangle(img, box, new Scalar(0, 255, 0), 3);
            // 生成类别和得分的标签文本
            string label = $"{classify}: {score:F2}";
            // 在图像上添加标签文本
            Cv2.PutText(img, label, new OpenCvSharp.Point(box.X, box.Y - 10), HersheyFonts.HersheySimplex, 0.5, new Scalar(0, 255, 0), 2);
        }
        // 将图像复制输出返回
        Mat result_image0 = img.Clone();
        return result_image0;
        // 将处理后的图像保存为文件
        // Cv2.ImWrite("result.jpg", img);
    }
}

代码实现演示（PCB的缺陷检测）

源码下载链接

C# WinForms工业相机+本地图像 通过YoloV8模型实现PCB的缺陷检测

工业相机通过YoloV8模型实现PCB的缺陷检测的行业应用

#	细分行业 / 场景	主要缺陷类型	典型部署形态 & 价值
1	SMT 贴片产线后道 AOI	焊桥、少锡、偏移、立碑	高速彩色工业相机（25 kHz）+ 双侧条形光源；YOLOv8-s 剪枝后跑在 NVIDIA Jetson Xavier，节拍 120 ms/板，直通率提升 30 %
2	HDI 钻孔后 AOI	缺失孔、孔偏、多孔	12 μm 线阵相机 + 远心镜头；YOLOv8n 专训“缺失孔”类，漏检率 < 0.1 %，替代 2 台人工显微镜
3	FPC 软板终检	鼠咬、开路、短路、铜渣	可弯曲背光 + 4K 面阵相机；模型同时跑缺陷检测与分类，缺陷坐标直接输出给激光修板机，减少 40 % 报废
4	汽车板（厚铜）	铜厚不均、伪铜、毛刺	高动态范围 HDR 工业相机 + 偏振片；YOLOv8 多尺度特征融合抑制反光，解决传统阈值法 15 % 误判问题
5	IC 载板（BGA）	微短路、焊盘凹陷	8K 彩色 TDI 线扫相机；TensorRT-YOLOv8-FP16 推理 50 ms/Frame，对接 MES 实时锁批
6	军工高可靠板	裂纹、划伤、异物	真空吸附平台 + 多角度环形光；检测数据留存 10 年，满足 GJB 要求
7	LED 铝基板	白油残缺、线路缺口	白光 + UV 双通道相机；YOLOv8 多任务头同时检测缺陷与字符，实现一机两用
8	维修返修站	返修板二次缺陷确认	手持式 2000 万像素工业相机 + 笔记本；离线模型权重仅 6 MB，现场一键升级

技术实现要点

图像采集：主流 2 k-8 k 分辨率、全局快门；针对反光场景加偏振/穹顶光源。
模型优化：
• 采用 YOLOv8n/s 为基线，针对“小目标 + 高分辨率”做切片推理（SAHI）或 FPN+PAN 结构微调；
• 自蒸馏 + Reparam 结构，剪枝后模型 < 3 MB，边缘 GPU 可跑 200 FPS。
部署形态：
• 产线级：工业相机 → 采集卡 → x86 IPC + RTX/ Tesla T4；
• 设备级：彩色面阵相机 → Jetson Orin Nano（30 W）→ PLC 剔除；
• 离线返修：USB3.0 相机 → Windows 笔记本，一键 EXE 运行。
结果输出：除实时画面框选外，自动生成 CSV / MES 报文；缺陷图按“板号 + 坐标”命名，便于追溯。
开源资源（可直接商用二次开发）
• Gitee 完整工程：含 6 类 PCB 缺陷数据集、YOLOv8 训练脚本、PyQt5/PySide6 检测界面及 ONNX/TensorRT 部署示例 。
• 预训练权重：yolov8n-pcb.pt（已针对缺失孔、开路、短路、鼠咬、杂铜、毛刺 6 类微调），mAP@0.5 可达 0.97。
合规提示：在线检测场景如保存缺陷图，需遵循《数据安全法》对“工业数据”加密存储及脱敏要求。