工业场景对AI的真实诉求
互联网那套AI打法搬到产线上，多半要翻车。推荐系统面对的是海量且相对规整的数据，误判几个用户无伤大雅；产线质检不一样，样本可能只有几百张，但每100件产品误判1件就是事故。
更麻烦的是领域知识。模型能看出图上有块异色区域，却不知道这属于”色差”还是”氧化”，更不知道公差范围内可以放行。这些判断依据散落在老师傅的经验、工艺文档和质检标准里，从来没被结构化过。
所以工业AI Agent要同时满足三件事：把行业知识变成模型能检索的燃料；能调用视觉、数据、报告等周边工具；所有数据和处理都留在内网。本地部署加知识库加Skills的组合，本质上就是冲着这三点去的。
本地部署解决的不只是安全问题
数据不出域是明面上的理由，真正让企业下决心的是可控性。云端API的版本节奏、计费规则、接口变更都不在自己手里，今天跑通的检测流程，明天模型一升级可能就得重新调参。产线上稳定性优先于先进性。
完全离线部署意味着响应没有网络往返、调用没有次数上限、版本可以固化、断网不影响生产。代价是前期投入一台带GPU的服务器，显存8G起步，模型、知识库、日志都要占空间，建议单独挂一块大盘，别让系统盘被模型文件撑爆。
部署环节有个高频坑：用Docker跑GPU容器时，光装好驱动不够，还得装NVIDIA Container Toolkit，启动容器时加 --gpus all，否则容器里 nvidia-smi 直接报找不到设备。部署完成后先跑一条校验命令确认容器内可见显存：
docker run --rm --gpus all nvidia/cuda:12.1.0-base-ubuntu22.04 nvidia-smi
输出里能看到GPU型号和显存占用，才算环境通了。另外普通用户权限在模型下载和文件写入阶段容易报错，要么用root，要么专门建一个有足够权限的账户，别在这上面耗时间。
知识库的价值取决于检索质量
所谓百万知识库，重点不在数量，而在于它提供了一套把企业文档灌进去、抽出来、再喂给模型的工具链。流程大致是上传PDF/Word/Excel自动抽取文本表格，做实体和关系结构化，Agent遇到问题时检索相关片段作为上下文。
缺陷检测场景里，可以把质检标准手册、缺陷图谱、工艺参数表都传进去。Agent看到疑似缺陷图，先去查这类零件的允许公差、这种纹理是否正常，再结合视觉结果下判断。
但知识库建完不等于能用。工程上必须验证检索质量，否则模型拿着不相关的片段当依据，比不查还糟。可行的做法是准备20到30条带标准答案的查询，比如”某型号零件划伤长度上限是多少”，逐条看检索返回的前几条片段是否命中正确文档段落。命中率低于八成，说明切分粒度或文档清洗有问题，回去调整再测。这个环节没有捷径，只能靠样本验证。
灌数据时别贪多。先清洗掉页眉页脚和无关内容，同类知识用统一结构表述，先传核心文档小样本测试，再逐步扩充。工艺标准会更新，知识库得定期维护，否则Agent会拿着过期标准做判断。
模型选型：合适优先于规模
工具支持Llama、ChatGLM、Qwen等开源模型。新手常犯的错是直接上参数量最大的，觉得效果一定好。实际要权衡三件事：硬件能不能扛、任务偏中文还是偏代码、响应速度是否满足产线节拍。
7B模型在8G显存上能流畅跑，70B得上多卡或量化。中文任务ChatGLM往往比Llama顺手，要生成代码则Qwen-Coder更合适。建议先用7B跑通全流程，再按效果决定是否升级。
这里有个容易被忽略的边界：7B级模型做缺陷分类，在样本充足、缺陷类型少且特征明显时够用；一旦缺陷类别超过十几种、类间差异细微，小模型的判别力会明显不足，此时继续调提示词和阈值是徒劳的，该换更大模型或引入专门的视觉检测模型。判断依据很简单，用已知结果的测试集跑一遍，如果混淆集中在相似类别之间且调参无改善，就该考虑升级。
搭建一个缺陷检测Agent
先划定能力边界：输入产品图片，输出合格与否、缺陷类型、置信度和检测报告。
知识库上传质检标准、缺陷分类示例、工艺参数表，检查抽取结果，必要时手动修正。Skills方面需要图像读取预处理、视觉缺陷检测、知识库查询、结果记录与报告生成几项，视觉检测可以配置信度阈值和检测区域。
Workflow决定执行顺序和分支。关键设计在于不是每张图都要查知识库，只有模型置信度偏低时才触发检索，用标准文档辅助判断。大致流程是上传图片、预处理、判断是否需要查库、检索或直接检测、缺陷分类、生成报告、记录结果。
测试阶段拿10到20张已知结果的图片跑，看三件事：准确率是否达标、检索是否命中正确标准、单张耗时是否可接受。根据结果回头调参数、补知识库、改流程。
工具替代不了工程师，但能改变分工
指望它完全顶替一名资深AI工程师不现实。复杂问题抽象、模型选型调优、系统架构、异常排查，这些仍然要人来做。它解决的是最后一公里：把AI能力封装成业务人员也能上手的工具。
但它确实把重复性的编码工作自动化了。工程师可以从写胶水代码里抽身，专注在实现路径规划、Workflow设计、知识库质量把控和边界情况处理上。中小企业因此能用更低成本启动项目，大企业的算法团队也能把精力放在更有价值的环节。
从小场景切入的实现建议
长期看，工业AI的终局不是一堆孤立Agent，而是共享知识库、可插拔Skills、灵活编排Workflow的统一中台。现在的工具已经具有雏形，Skills稳定性、检索精度、多Agent协同都还有优化空间，但方向没错。
想试的企业，选一个痛点明确、价值好衡量的场景先跑，别一上来铺大摊子。数据采集和标注流程在项目启动时就要规划好，AI效果的上限由数据质量决定。同时培养既懂业务又会用AI工具的复合角色，这类人会成为后续推广的关键节点。门槛在降，但降的是工具使用门槛，不是业务理解门槛。
ID:7769
