工业视觉合成数据的价值,取决于它能否补上真实工况中影响判断的信息。对制造企业而言,下一阶段的竞争力不只是生成速度,而是把工艺知识、成像条件和独立验证连接起来:清楚知道模拟了什么、遗漏了什么,以及哪些改善确实转移到了真实工件。
从交付图片,转向交付可验证的工况覆盖
数字孪生把工件、夹具、光源和相机组织成可重复运行的场景,合成引擎再输出图像与标签。这有助于扩展难采集的组合,但“场景能渲染”与“足以训练目标检测任务”之间仍有距离。少装螺钉、错装零件和微小划伤,对仿真精度的要求并不相同。
域随机化研究提供了一个重要起点:Tobin 等通过变化纹理、光照、视角等因素,研究仅使用模拟图像训练的物体定位及抓取应用。[1] 它说明部分任务不必依赖照片级逼真;研究中的任务与对象却不能直接证明金属表面微缺陷也已被解决。
因此,采购指标应从“多少万张图片、多少种材质”转向“哪些工况中的哪类错误得到改善”。关于合成训练数据的投入判断,已有文章讨论真实信息和成本边界。这里进一步聚焦工业成像:如果真实缺陷的光学表现没有进入仿真,增加背景和纹理变化也可能只是扩大错误分布。
先分清可扰动因素,与决定标签的物理因素
建议先写一份任务说明:检测对象是什么,哪些差异允许存在,缺陷如何确认,相机实际能观察到什么。对于“螺钉是否缺失”,背景颜色可能是干扰因素;对于“涂层颜色是否异常”,颜色本身就是判定依据。前者可以较自由地变化,后者若随意变色却保留原标签,就会破坏学习目标。位置、尺寸或缺陷状态也可以随机化,但必须按变化后的场景重新计算相应标签。
同样,划伤不能只画成任意深色线。表面形貌、粗糙度、照明角度与偏振条件共同决定可见信号;有些真实划伤在特定角度呈亮线,另一些被高光淹没。尚未测清这些关系时,应先用留样和受控拍摄识别机制,不能把渲染器知道“那里有缺陷”当作相机看得见的证明。
还要把实体状态、画面可见区域和任务标签分开。模拟器可以依据场景中赋予的语义输出分割等标注,[3] 但这不保证外观增强后缺陷仍可见。完全被夹具遮挡的缺陷,不能无条件纳入“本视角应检出”的考核。应记录遮挡、截断、可见面积与标签依据,再决定重拍、多视角补充或交由其他检测方式处理。
构造算例:数据问题可能起源于曝光时间
以下是用于说明方法的构造场景,未运行模型,也不是壹典客户案例。假设固定相机正对平面工件,校正后的横向视野为 200 毫米,输出宽度为 2,048 像素,工件在该平面内以 600 毫米/秒匀速横向运动,使用全局快门。忽略畸变和透视变化时,每像素约覆盖 0.0977 毫米。
一条宽 0.3 毫米、宽度方向与运动方向一致的细痕,静态投影约占 3.07 像素。曝光 0.5 毫秒时,运动距离也是 0.3 毫米,对应约 3.07 像素的模糊跨度。若训练数据始终使用锐利静帧,模型在合成集识别细痕,并不说明它能处理现场被模糊削弱的信号。
若该示例把运动模糊预算定为不超过 1 像素,则曝光时间应满足 t ≤ 0.0977/600 秒,即约 0.163 毫秒。这只是几何约束,不是通用曝光建议,更不能保证检出:缩短曝光还会影响光子数量与信噪比,需要同步检查照明、增益、镜头和目标对比度。
Carlson 等的研究在城市驾驶目标检测上展示了模拟模糊、曝光、噪声等相机效应的价值。[2] 工业项目可借鉴成像链路需要建模的思路,具体参数仍须现场测量。当前 Isaac Sim 相机文档提供内外参、镜头畸变和成像处理相关能力;采用时还需锁定实际软件版本、单位与坐标约定。[3]
随机化要覆盖工况关系,而非独立摇动所有参数
Replicator 文档支持对物体姿态、光照、背景和纹理等进行随机化。[4] 工程上可以把变化拆成三层:生产允许的常规变化、可能出现的边界变化、用于定位薄弱点的压力变化。三层分别登记用途,不把压力样本的比例当成生产发生率,也不把所有非真实变化一概判为无效。
继续上述构造场景,可先组织 2 种表面处理、3 档允许线速、2 种照明状态和 2 个细痕宽度区间,共 24 个基础组合,再按细痕朝向分层。宽度、速度、曝光与模糊必须联动;改变速度却仍输出完全静止的边缘,会让组合名称覆盖了工况,实际图像却没有覆盖其后果。
随机化还应避免标签捷径。如果所有缺陷件都来自一个 CAD 文件、正常件来自另一个,模型可能记住网格接缝;如果缺陷只在某种背景出现,模型可能把背景当答案。可对同一基础场景生成有缺陷与无缺陷的配对样本,检查材质、背景和导出流程是否额外泄露标签;配对两侧及其衍生图须归入同一数据分区。
这些组合不需要立即全部高精度渲染。先用小规模试验寻找敏感维度,把昂贵的材质测量或路径追踪资源投向影响目标信号的因素。对物体存在性任务有帮助的夸张纹理,对依赖表面纹理的缺陷任务未必合适;有效随机化是任务相关的设计选择。
用受控对照,判断改善来自哪里
建议在开发阶段比较三条路线:现有真实数据基线;加入经过校准的合成数据;在合成规模相同的条件下,增加某一个成像或工况因素。三者尽量保持模型、输入分辨率、预处理、训练预算与选阈值规则一致。若资源无法对齐,必须说明比较的是整套方案,而非某个因素的独立贡献。
例如,第三组只新增与线速联动的曝光模糊。观察增益是否集中在真实高速工况,并检查低速工况是否退化;再用多个训练随机种子估计结果波动。如果只有模拟测试分数增加,应优先检查模拟与真实图像的差异,而不是立即扩大生成量。NVIDIA 的视觉检测实践也使用真实视频定位失败,再补充相应合成数据。[5]
真实验收材料应在调场景、挑参数和训练前划出,按工件、批次或采集事件隔离。同一真实图片若用来校准仿真,就不能再充当完全独立的最终证据。最终测试既要有正常生产流量,也要有预先声明的关键工况;富集缺陷和压力工况的结果分别报告,避免总体平均掩盖某个必要工况失效。
为仿真资产建立适用范围与更新责任
一套能复用的交付物,应包括 CAD 与材质来源、真实标定样本的用途、相机参数、照明配置、缺陷构造规则、随机化分布、标签定义及数据生成版本。记录随机种子之外,还要记录渲染器和预处理版本;同一场景在不同去噪、缩放或色调映射下,微弱信号可能发生变化。
还应明确哪些现象未建模,例如特定油膜、材料批次变化、振动或污染。没有覆盖的工况应列为待验证或不适用,而不是藏在“其他情况”里。更换镜头、线速、照明或表面工艺后,由指定负责人判断哪些仿真与真实回归材料需要更新,防止旧数据资产被长期当作有效凭证。
最终上线仍需把模型结果转成工件处置。关于工业视觉异常检测的验收方法,已有文章展开了固定阈值、漏检、复检负担与影子运行。仿真数据供应方应能把生成版本追溯到这些真实验收结果;仅交付一份图片目录和漂亮演示,无法支持长期维护。
三种决策:扩量、补实测,或先改成像
可以扩量的条件是:目标信号在现场可见,缺陷与干扰因素的关系已有依据,关键真实工况在独立试验中获得稳定改善,且新增数据的全流程成本可接受。扩量应优先填补已识别的覆盖空白,而不是重复生成最容易成功的场景。
应补实测的情况是:缺陷机理、材质反射或实际工况范围仍不清楚。此时少量受控拍摄可能比大规模渲染更能减少不确定性。应先改成像的情况是:缺陷在所需节拍、分辨率和照明下无法稳定观测;继续增加训练样本不能保证恢复未被相机记录的信息。
制造企业衡量数字孪生数据能力,可以追问一条完整路径:现场失败如何进入仿真参数,生成内容如何保持标签含义,改善如何在独立真实材料上重现,以及变更后由谁重新确认。能回答这些问题,合成数据才从一次图片生产,变成可持续的工业视觉工程资产。
参考资料
- Tobin et al. — Domain Randomization for Transferring Deep Neural Networks from Simulation to the Real World (2017)
- Carlson et al. — Modeling Camera Effects to Improve Visual Learning from Synthetic Data (2018)
- NVIDIA Isaac Sim — Camera Sensors (documentation, accessed 22 October 2026)
- NVIDIA — Domain Randomization With Replicator
- NVIDIA Technical Blog — How to Train an Object Detection Model for Visual Inspection with Synthetic Data (2024)
