递交截止 2026-10-20 09:30 · 生成于 2026-10-16 15:43
预览稿,非最终投标文件;各节内容以各任务 MAIN.md 为准。
采购清单第 1 项「数据资源建设服务」包含两项内容:十七个外围应用系统的集成采集,离线非结构化数据的解析与录入(b0804r02)。
集成采集的工作面在源系统侧:每一个源系统用什么通道取数、取哪些数据、多久取一次、取不到或取错了怎么办、源系统需要配合什么。按业务域组织的采集任务编排——供需计划、产品工艺设计、制造过程、产品质量四个域各自汇集哪些域内数据、产出什么样的原始数据批次——由数据加工生产主线的采集环节承接(3.2.6.3.1、b1364)。两者是同一批数据的两种视角:按系统横切得到接入通道与采集记录,按业务域纵切得到原始数据批次;接入通道与采集记录定义一次,加工主线直接调用。
与之相邻的两类工作分属其他交付内容:通用服务器与接入连接器的安装适配、服务密码机的国密算法调试、硬件网络连接属系统集成服务(b0804r05、b1210);接入连接器的硬件配置与功能要求属硬件选型(b2150r03)。
源系统的接口协议、数据库连接信息、数据字典与低峰时段,按招标文件第 3.2.2 节各条的写法,是对源系统提出的要求,由招标方协调源系统侧提供(b0807)。十七套系统逐条列明需要对方提供什么、我方据此做什么、对方暂时提供不了时我方退到哪一步;这些事项同时是采集接入工作的前置条件,第 6 节单列风险与配合事项。
采集接入的设计落点是三件事:按已授权范围只读取数,在入口处就把来源、口径、许可与缺失登记清楚,并让取回的数据带着能与物理对象对上的标识。四项设计原则由此展开。
只读优先,不向源系统写入。 本项目对十七个源系统一律采用只读方式取数,不向源系统写入业务数据、不修改源系统表结构、不在源系统部署改造代码。这是责任边界,也是降低对方配合成本与风险的最直接办法——只读权限的开通审批远比读写权限容易通过。
低峰窗口取数,不扰动生产。 招标文件为十六个系统逐条写明「须提供业务低峰时段:例如 0 点至 5 点」(b0814、b0821、b0828、b0835、b0841、b0846、b0852、b0857、b0864、b0870、b0877、b0883、b0889、b0894、b0899、b0905)。我方按此口径编排批量作业:全量初始化与大批量历史回溯一律安排在约定低峰窗口内执行,窗口外只运行轻量增量与实时流。
增量优先,全量兜底。 每一个源系统都先确定一种可靠的增量识别手段,按增量取数;仅在首次初始化、口径变更、数据校验不一致或增量水位线失效时才回退到全量或分片重取。这样做的直接收益是对源系统的压力可控,次级收益是采集批次天然按时间切分,便于后续按「近三年时效性数据条数占比不低于 40%」的指标口径统计(b0670)。
入口即治理。 数据源登记、许可凭证核验、入口脱敏与格式合规校验在采集环节完成,而不是等数据落到加工区再补(b1396)。每一个采集批次都附一份采集记录,写明来源系统、取数时点、数据范围、行数或文件数、校验结论与门控状态;门控不通过的批次不进入下游环节。
总体技术路线一句话概括:五类采集通道取数,三层落区分层承接,一套登记台账贯穿全程。
五类采集通道。 十七个源系统的技术形态差别很大——有关系库、有接口、有文件服务器、有时序库、有组态系统。按技术形态而非业务归属划分通道,可以把十七套对接压缩为五种标准做法,每种做法一次设计、多处复用。五类通道分别是:数据库只读直连通道、应用接口通道、文件与附件通道、时序与设备通道、单向监管数据通道。各通道的适用范围、协议、增量机制与频次见表 1-1。
三层落区。 取回的数据在数据集加工生产平台(我方平台对外名称为奔牛数据智能平台,下同)内按加工成熟度分三层承接。贴源层按源系统原样留存,字段不改名、不转码、不清洗,只附加采集元数据(批次号、采集时点、源系统标识、行指纹),作用是保留可回溯的原始证据——数据集可信性维度要求非合成数据能追溯到采集源头并与源头保持一致,贴源层就是这一要求的落脚点(b1997)。标准化层做格式统一、编码对齐、时间基准归一与主键映射,产出按业务对象组织的规范化记录。加工区由数据加工生产主线接管。
一套登记台账。 数据源登记台账记录每一个源系统、每一张表或每一个接口的责任归属、授权范围、许可凭证、敏感等级、取数通道、增量键、频次与窗口、字典版本。台账是采集作业的配置来源,也是审计与验收的依据;采集作业不读台账以外的任何对象。
图 1-1 给出总体数据流与责任边界。
图 1-1 数据来源:招标文件第五章 3.2.2.1 各系统集成要求(b0807–b0908)、3.2.6.3.1 采集环节门控要求(b1396)、采购清单第 1 项(b0804r02)。
表 1-1 把十七个源系统按技术形态归入五类通道。归类依据是招标文件为每个系统写明的「须提供数据库连接信息、API 接口信息或 FTP 信息」一类条款——招标文件允许三种之一,说明具体形态以现场勘察为准,方案须对三种都给出做法(b0813、b0834、b0876)。
表 1-1 五类采集通道的适用范围、增量机制与频次口径
| 通道 | 适用源系统 | 取数协议与形态 | 增量机制 | 频次与窗口 | 对源系统的压力控制 |
|---|---|---|---|---|---|
| 库只读直连 | ERP、SCM、WMS、MES、LMS、EAM、主数据平台(库直连可用时) | 关系库只读账号或只读视图;加密传输 | 变更数据捕获优先;不可用时按更新时间戳+自增主键双键水位线 | 增量每日一次,置于约定低峰窗口;关键表可按小时轮询轻量增量 | 限定并发连接数与单次返回行数;只读副本优先;长事务拆分游标分页 |
| 应用接口 | CRM、QMS、SOS、PLM、久其、主数据平台(接口形态时) | 接口调用,优先 HTTPS 承载的表述性状态转移接口;按授权令牌鉴权 | 接口侧按更新时间区间与分页游标拉取;接口无增量参数时由我方维护本地水位线并按主键去重 | 增量每日一次;接口侧有速率限制时按令牌桶节流分片执行 | 单位时间调用次数与并发数按对方给定上限配置;失败按指数退避重试 |
| 文件与附件 | CRM、QMS、SOS、PLM、OA(非结构化附件)、离线资料 | 文件传输服务或对象存储只读目录;按清单比对下载 | 以文件清单的路径、大小、修改时间与摘要四项比对确定新增与变更 | 批量下载置于低峰窗口;新增附件可按小时扫描清单 | 并发下载数受限;大文件断点续传;单次扫描目录深度与数量设上限 |
| 时序与设备 | SCADA、热处理群控、EMS、SOS(健康状态时序) | 时序库只读查询、组态系统历史数据接口或消息订阅 | 按测点与时间窗分片取数,维护每测点的采集水位线;补采按缺口时间窗定向执行 | 常态按分钟级或小时级分片拉取;历史回溯按日分片置于低峰窗口 | 单次查询的测点数与时间跨度设上限;按测点分组错峰 |
| 单向监管数据 | 安全监管平台 | 由对方向我方单向推送,或我方只读拉取;网络层单向可达 | 按推送批次或时间窗水位线 | 按对方发布节奏接收;我方不发起反向请求 | 仅接收,不向对方发起写操作与查询之外的调用 |
表 1-1 数据来源:招标文件 3.2.2.1.1–3.2.2.1.17 各系统「须提供数据库连接信息、API 接口信息或 FTP 信息」条款(b0813、b0820、b0827、b0834、b0840、b0845、b0851、b0856、b0863、b0869、b0876、b0882、b0888、b0893、b0898、b0904)及 3.2.2.1.17 单向集成要求(b0907)。
采集接入是一项双边工作,一边开通、一边取数,任何一边缺位都无法推进。为避免实施期扯皮,表 1-2 把双方职责按工序列明。
表 1-2 采集接入的双方职责划分
| 工序 | 招标方及源系统侧 | 我方 | 交接物 |
|---|---|---|---|
| 源系统勘察 | 确认各系统的版本、部署位置、数据库类型与接口形态;指定各系统的技术联络窗口 | 编制勘察问卷与现场核对清单;完成逐系统勘察并出勘察结论 | 源系统勘察结论表(逐系统一页) |
| 授权开通 | 审批只读账号或只读视图;开通接口授权令牌与文件服务只读目录;配置网络策略与白名单 | 提交最小权限申请清单(按表、按接口、按目录逐项列明用途) | 授权开通记录与账号台账 |
| 字典交付 | 提供数据字典或数据库设计说明书;字典变更时同步通知 | 核验字典与实际库结构的一致性;登记字典版本号 | 字典核验报告与版本登记 |
| 窗口约定 | 确认各系统的业务低峰时段 | 按窗口编排作业日历;窗口冲突时提交错峰方案 | 采集作业日历 |
| 试采与验证 | 配合试采期间的监控与问题定位 | 执行试采、比对行数与关键字段、出具试采结论 | 试采比对报告 |
| 常态运行 | 源系统升级、停机维护前提前通知 | 按日报出采集作业执行情况;异常按分级响应 | 采集作业日报与异常处置单 |
表 1-2 数据来源:招标文件 3.2.2.1 总则「与以下各系统集成基于项目实际需求执行」(b0807)及各系统「须提供」条款的责任归属。
这里需要如实写明一项前提:招标文件对十七个源系统的连接信息、数据字典与低峰时段均写为「须提供」,提供方是源系统侧。源系统多为既有建成系统,其接口开放、字典交付与配合联调需要由招标方出面协调;部分系统若由原建设方承担接口开发或配合工作,相应配合范围与费用归属须在合同谈判阶段明确。
我方据此设计了分档接入策略:授权与字典齐备的系统走完整通道;授权已开通但字典缺失的系统,先按实际库结构反向推导并提交核对;授权暂未开通的系统,先按甲方提供的样例数据或导出文件完成解析与建模,待授权到位后切换为常态接入。三档的具体切换口径见第 6 节。
数据集所需原始数据来自企业各业务系统,与各系统的集成按项目实际需求执行。十七套源系统按原编号逐项落位,各系统共用的接入规范先行写定,逐系统只写本系统特有之处。
招标文件为每一个源系统重复写了三到四条同样的要求:须提供连接信息、须提供低峰时段、须提供数据字典。这三条在十七处重复出现(b0813–b0815、b0820–b0822、b0827–b0829、b0834–b0835、b0840–b0841、b0845–b0846、b0851–b0852、b0856–b0857、b0863–b0864、b0869–b0870、b0876–b0877、b0882–b0883、b0888–b0889、b0893–b0894、b0898–b0899、b0904–b0905)。与其在逐系统方案中抄十七遍,通用做法在本小节一次写定,第 2.3 节至第 2.19 节各系统只写自己特有的部分;逐系统各节未另行说明之处,一律按本小节执行。
每一个源系统接入前须齐备四项要素:连接方式、数据范围与授权、数据字典、低峰窗口。四要素以「接入要素表」的形式逐系统填写、双方签认,作为后续授权申请与作业配置的唯一依据。第 2.3 节至第 2.19 节为十七个系统各给出一张接入要素表,表中已填妥我方可自行确定的部分,留白处为须招标方确认或提供的部分。
连接方式。 库直连需要的信息包括数据库类型与版本、实例地址与端口、只读账号、可访问的库与模式、字符集、是否允许建只读副本。接口方式需要的信息包括接口清单与地址、鉴权方式与令牌申领流程、请求与响应结构、分页与时间区间参数、速率限制。文件方式需要的信息包括服务地址与协议、只读目录路径、目录组织规则、文件命名规则、保留期限。三种形态按招标文件允许的范围择一或并用(b0813)。
数据范围与授权。 我方按最小必要原则提交权限申请:按表、按接口、按目录逐项列明,每一项写明用途指向哪个数据集与哪个场景。权限申请不使用通配符,不申请数据定义语言权限,不申请写权限。授权范围变更走同一流程,留档可查。
数据字典。 字典或数据库设计说明书到手后,我方做三件事:一是与实际库结构逐表逐字段比对,列出字典中有而库中无、库中有而字典中无、类型或长度不一致三类差异;二是登记字典版本号与生效日期,采集作业绑定字典版本运行;三是对枚举字段抽取实际取值分布,与字典声明的码值集合比对,差异作为数据质量线索移交预处理环节。字典缺失时按 2.1.1 节末所述的分档策略处理。
低峰窗口。 按招标文件示例口径,低峰时段取 0 点至 5 点(b0814)。实际窗口逐系统确认,确认结果进入采集作业日历。十七个系统若窗口重叠,按表 2-1 的错峰原则排布。
表 2-1 采集作业时段编排原则
| 时段 | 允许运行的作业类型 | 排布原则 |
|---|---|---|
| 0:00–2:00 | 大表全量初始化、历史数据回溯分片 | 同一时段内对同一源系统只排一个重作业;按源系统轮转,相邻日不重复压同一系统 |
| 2:00–4:00 | 常规增量批、文件清单比对与批量下载 | 按业务域分组执行,同组内串行、跨组并行;并发总数不超过约定上限 |
| 4:00–5:00 | 校验比对、采集记录生成、门控判定、失败重试 | 预留重试余量;5 点前未完成的作业挂起至次日窗口,不占用业务时段 |
| 5:00–24:00 | 轻量增量轮询、时序分片拉取、监管数据接收 | 单次请求量小、间隔可控;按源系统给定速率上限节流 |
表 2-1 数据来源:招标文件各系统「须提供业务低峰时段:例如 0 点至 5 点」条款(b0814 等十六处)。
增量取数的可靠性取决于增量键选得对不对。我方按源系统实际条件分四档择用,优先级从高到低。
第一档,变更数据捕获。 源数据库开放日志读取时首选此法。它能捕获插入、更新与物理删除三类变更,不依赖业务字段的填写规范,对源系统的额外开销最小。本项目中优先在企业资源计划、制造执行、仓储管理三类事务量较大的系统上争取此条件。
第二档,更新时间戳与自增主键双键水位线。 多数业务表有创建时间与更新时间字段。单用更新时间会漏掉同一秒内的并发写入,单用自增主键会漏掉历史记录的更新,两者并用并保留一个可配置的回看窗口(默认回看一小时),可把漏采概率压到很低。每次作业结束后推进水位线,水位线与批次号一并落库。
第三档,接口侧时间区间加分页游标。 接口提供按更新时间区间查询时,按区间分片拉取,区间之间留重叠;接口只提供全量列表时,按主键与行指纹在我方侧做差异比对,取出新增与变更部分。
第四档,清单比对。 文件与附件类数据按路径、大小、修改时间与内容摘要四项比对。摘要用于识别「同名文件内容已变」这类改动,这在工艺图纸与管理制度文件上并不罕见。
四档之外保留一条兜底:按月对关键表执行一次全量行数与关键字段校验比对,发现与增量累计结果不一致时,对差异时间窗定向重取。这一机制使采集完整性可以被独立核验,而不是只靠作业成功标志。关于完整性,本方案的承诺口径是逐步接近源系统已授权范围内的全量,以月度校验比对的差异率作为度量:首月基线以试采结论为准,此后按季度收敛差异率,并在采集记录中如实披露每一批次的已知缺口(b1997)。
招标文件要求对涉及个人信息、敏感地理信息、重要行业数据、企业秘密数据进行去标识化或脱敏处理(b0804r06)。采集环节是执行这项要求成本最低的位置——数据一旦落到加工区再回头脱敏,散落的副本就难以收干净。
我方在采集通道的出口、落贴源层之前设一道入口治理闸,按字段级规则执行三类处置。第一类是直接标识符,如客户联系人姓名、手机号、身份证号、银行账号,一律在入口处替换为不可逆的稳定假名,同一真实值在全库映射为同一假名,以保留关联分析能力。第二类是准标识符,如精确地址、精确坐标、小范围时间戳,按泛化规则降精度。第三类是企业秘密字段,如未公开的报价明细、成本构成、供应商价格条款,按授权范围裁剪:训练用途不需要原值的,在入口处即裁掉。
格式合规校验在同一闸口完成,检查项包括字符编码可解析、必填字段非空、数值字段可解析、日期字段符合声明格式、枚举值落在字典码值内、主键非空且在批次内不重复、文件可打开且类型与扩展名一致。校验结论分三级:通过、带告警通过、不通过。带告警通过仅适用于加工区内部的受控流转——该批次可进入预处理与清洗环节,告警项随采集记录传递作为清洗与补全的输入,但不得直接进入数据集交付物,也不得作为场景验证的输入。安全与许可类检查项(敏感内容命中、许可凭证缺失或过期、授权范围外取数)与各表登记的强制检查项,不适用带告警通过:命中即判不通过,一律不放行。不通过的批次挂起并移入隔离区,生成异常处置单。凡带告警通过的批次,其告警项须在该批数据进入交付物之前逐条闭合;闭合记录随采集记录留存,未闭合的告警项在交付前复核时按未完成项处理。
招标文件未逐条规定异常处理,但「方案可实施性」要求方案说清做不到时退到什么。表 2-2 把采集接入可能遇到的异常按来源分类,给出判定条件、处置动作与升级口径。表中各项均已在作业调度配置中实现为可配置策略,不依赖人工临场判断。
表 2-2 采集接入异常分类与处置口径
| 异常类别 | 典型表现 | 判定条件 | 处置动作 | 升级口径 |
|---|---|---|---|---|
| 连接类 | 网络不可达、账号失效、令牌过期、证书过期 | 连续三次连接失败 | 按指数退避重试,最长等待三十分钟;仍失败则挂起本系统当日作业 | 挂起即生成异常处置单,一个工作日内向源系统联络窗口发起核查 |
| 性能类 | 查询超时、源系统负载告警、接口触发限流 | 单次查询超出约定时限或收到限流响应 | 自动降低并发与单批行数,按更小分片重试;移出当前窗口改排下一窗口 | 连续两日发生则调整该系统的频次与分片参数并书面通知 |
| 数据结构类 | 字段新增或删除、类型变更、码值集合变更、表改名 | 实际结构与登记字典版本不符 | 停止该表当日入库,保留已取回数据于隔离区;生成结构差异报告 | 结构变更须经双方确认后更新字典版本与作业配置,方可恢复 |
| 数据内容类 | 关键字段大面积为空、编码乱码、时间倒序、主键重复 | 校验项不通过比例超出该表的告警阈值 | 批次判为不通过并挂起;按差异时间窗重取一次;重取仍不通过则转人工核查 | 涉及质量口径的,移交数据治理环节作为质量问题线索登记 |
| 完整性类 | 增量累计与源系统行数不一致、文件清单缺失、时序测点缺口 | 月度校验比对差异率超阈值,或测点缺口时长超阈值 | 对差异时间窗或缺口时间窗定向重取;文件按清单差异补下载 | 重取后仍不一致的,在采集记录中如实披露缺口范围,不做静默补齐 |
| 窗口类 | 作业未在低峰窗口内完成 | 窗口结束时作业未结束 | 优雅中止并保留断点,次日窗口续跑;不延长占用业务时段 | 连续三日无法在窗口内完成的,拆分作业或申请扩展窗口 |
| 源系统变更类 | 源系统升级、迁移、停机维护 | 收到变更通知或探测到版本号变化 | 变更期间暂停该系统作业;变更后先试采比对再恢复常态 | 未提前通知的变更,按异常处置单流程回单并约定后续通知机制 |
表 2-2 数据来源:招标文件评分表「方案可实施性」要求(b0496)及 3.2.6.3.1 采集环节门控结论要求(b1534)。
图 2-1 以库直连通道为例,给出一次增量采集作业从触发到门控的完整时序,以及三处失败点各自的回退路径。另外四类通道的时序结构相同,差别只在取数动作与增量键。
图 2-1 数据来源:招标文件 3.2.2.1 各系统低峰时段要求(b0814 等)、3.2.6.3.1 采集环节门控与采集记录要求(b1396、b1397)。
采集记录是采集接入最重要的交付物之一。招标文件要求采集环节「按业务域产出原始数据批次及其采集记录,作为后续各加工环节的输入」(b1397),质量评测侧要求说明文档清晰说明原始数据的来源渠道、采集时间范围及地理区域等溯源信息(b1939),采集方法另有专门评估项(b1940)。这三处要求指向同一件事:数据从哪来、怎么来的,要写得下来、查得出来。
表 2-3 给出采集记录与登记台账的字段设计。两者是一对多关系:台账一条记录对应一个取数对象(一张表、一个接口、一个目录),采集记录一条对应该对象的一次作业批次。
表 2-3 数据源登记台账与采集记录的字段设计
| 分组 | 字段 | 取值来源 | 用途 |
|---|---|---|---|
| 登记台账·来源 | 源系统标识、系统中文名、业务归属部门、技术联络窗口 | 源系统勘察结论 | 溯源与问题归口 |
| 登记台账·对象 | 取数对象类型(表/接口/目录/测点组)、对象标识、对象中文名 | 权限申请清单 | 作业配置与审计 |
| 登记台账·授权 | 授权范围、许可凭证编号、许可有效期、敏感等级、脱敏规则集编号 | 授权开通记录 | 许可核验与脱敏执行 |
| 登记台账·技术 | 采集通道、增量键、字典版本号、频次、低峰窗口、速率上限、重试策略 | 接入要素表 | 作业调度 |
| 登记台账·归属 | 对应业务域、对应数据集用途子集、对应验证场景 | 数据集建设方案 | 需求追溯与裁剪依据 |
| 采集记录·批次 | 批次号、作业号、采集起止时点、覆盖的数据时间范围 | 作业运行时生成 | 时效性占比统计、按批次回溯 |
| 采集记录·计量 | 取回行数或文件数、字节数、分片数、源端计数、差异数 | 作业与校验结果 | 完整性核验 |
| 采集记录·质量 | 校验项结果清单、告警项、门控结论、已知缺口说明 | 入口治理闸 | 门控与质量线索移交 |
| 采集记录·处置 | 脱敏执行记录、裁剪字段清单、重试次数、异常处置单号 | 作业与异常流程 | 合规审计 |
| 采集记录·溯源 | 源系统标识、对象标识、地理区域、行指纹算法与样例 | 台账与作业 | 质量评测溯源信息应答 |
表 2-3 数据来源:招标文件 3.2.6.3.1(b1396、b1397)、质量评测规范溯源信息与采集方法评估项(b1939、b1940)。
跨系统主键贯通虽非招标文件 3.2.2 节的字面要求,却决定了按该节取回的数据能否被使用。
十七个系统各有自己的编码体系。同一套刮板输送机产品,在客户关系管理系统里是商机号与合同号,在产品全生命周期管理系统里是图号与物料清单号,在企业资源计划系统里是物料编码与销售订单号,在制造执行系统里是施工号与工单号,在仓储管理系统里是批次号与库位号,在质量管理系统里是检验单号,在热处理群控系统里是炉次号,在数据采集与监控系统里是设备编码与测点号。这些编码之间目前没有稳定的映射关系。
因此,采集环节在取业务数据的同时,另取一类数据:跨系统标识映射证据。做法是在每一个源系统的取数范围内,额外纳入那些能把本系统对象与其他系统对象对上的字段——制造执行系统工单上的施工号与图号、质量管理系统检验单上的工单号与零件号、热处理群控系统炉次工单上的工单号与零件批次、仓储管理系统出入库流水上的物料编码与批次号与项目号。这些字段单看无用,合起来就是主键映射的原始证据。
映射关系的构建与维护属于数据治理与预处理环节;采集环节的职责是把映射所需的字段一并采回来,并在登记台账中标注其映射用途。表 2-4 列出本项目重点贯通的七类业务对象及其在各系统中的标识字段,作为权限申请的范围依据。
表 2-4 重点贯通的业务对象及其在各源系统中的标识字段
| 业务对象 | 主标识 | 在各源系统中的对应标识字段 | 采集范围内须纳入的关联字段 |
|---|---|---|---|
| 项目/施工号 | 施工号 | CRM 合同号与订单号、ERP 销售订单号、MES 施工号、PLM 项目号、WMS 项目占用号 | 合同号、订单号、项目号在各系统中的对照字段 |
| 产品与部件 | 图号 | PLM 图号与物料清单编号、ERP 物料编码、MES 零件号、WMS 物料编码 | 物料清单层级关系、父子件对应、图号与物料编码对照 |
| 工艺与工序 | 工序编码 | PLM 工序数据、MES 工序流转记录、工时定额对象 | 工序编码、设备编码、工装与样板号 |
| 工单与炉次 | 工单号 | MES 工单号、热处理群控炉次工单号、QMS 检验单关联工单号 | 工单号、炉次号、零件批次号的互相关联字段 |
| 物料批次 | 批次号 | WMS 批次号与库存批次、ERP 采购入库批次、QMS 进厂检验批次 | 批次号、供应商编码、来料日期 |
| 设备与测点 | 设备编码 | EAM 设备台账编码、SCADA 设备编码与测点号、SOS 设备档案编码、EMS 计量点编码 | 设备编码、测点号、测点量纲与采样周期、安装位置 |
| 焊缝与焊道 | 焊道标识 | MES 工单下的焊接工序记录、SCADA 焊接参数流的设备与时间戳 | 焊道编号、所属零件号、起止时点、机器人工位号 |
表 2-4 数据来源:招标文件 3.2.2.1 各系统数据范围条款(b0810、b0818、b0838、b0844、b0867、b0873、b0880、b0897)及 3.2.6.3.1 各业务域采集要求(b1364–b1394)。
通用接入规范之外,还有一件贯穿各工序的事:这些工序里哪些步骤可以由自动化手段加速,加速到什么程度为止,以及谁来按下放行键。招标文件在离线数据录入环节要求建立「质量校验及人工复核机制」(b0912),在采集环节要求给出门控结论(b1534)。两处要求指向同一件事——数据能不能往下走,要有一道判据写得出来的闸,闸上要有人签认。自动化手段在此前提下使用。
本方案的口径是一句话:自动化手段用于候选生成与初筛,判定与放行权保留在通用接入规范与第 3.4 节已经立起来的门控上。 候选与判定的区别在于后果——候选错了,下一步的人要多看几眼;判定错了,错数据就进了数据集。所以凡是会改变数据去向的那一步,签认权不下放。表 2-5 按工序逐项列明这条口径的落点,第四列是该项效率设计的度量办法:没有基线、没有测法、没有不达标时的回退,这一项就不写进本方案。
表 2-5 采集与清洗各工序的人机分工、门控归属与度量口径
| 工序 | 自动化手段产出的候选 | 判定与放行所在的既有门控 | 度量口径:基线·测法·不达标时的回退 |
|---|---|---|---|
| 源系统勘察与通道形态判定 | 按表 2-6 的判定条件,为每个系统生成候选通道方案与待确认信息清单 | 接入要素表双方签认(2.1.1 节)、勘察结论表(表 1-2) | 不以候选方案直接配置作业;以已签认的接入要素表份数作为进度度量,口径按签认日期统计;勘察期内未签认的系统按 6.1 节降档接入 |
| 权限申请清单编制 | 按登记的数据范围与字典,汇总待申请的表、接口、目录候选清单 | 最小必要原则的逐项人工复核与授权台账登记(2.1.1 节) | 以授权申请被源系统侧退回的次数度量,基线取试采期实测值;同一系统连续两次被退回的,改为逐项人工编制清单 |
| 字典与实际库结构比对 | 自动产出「字典有库中无」「库中有字典无」「类型或长度不一致」三类差异候选 | 差异结论经双方确认后更新字典版本,作业配置随版本绑定(表 2-2 数据结构类) | 以差异项的人工改判率度量,基线取首次比对的实测改判率,按季度复核;改判率不下降则不扩大自动比对的适用表范围 |
| 入口校验与异常分类 | 按规则产出校验结论与异常类别候选,并生成异常处置单草稿 | 入口治理闸的三级结论(2.1.3 节);挂起批次的放行以异常处置单关闭为准(表 2-2) | 以挂起批次的误挂件数与漏挂件数度量,基线取试采期实测值,按月统计;超出基线的,收紧该表阈值并对其恢复逐批人工核签 |
| 离线资料的分类与关键信息抽取 | 规则通道与模型通道产出的分类候选与字段候选(3.3 节) | 3.4 节的三条复核触发规则与表 3-4 的六个复核环节 | 以抽样复核的改判率度量,基线取首批次实测值;改判率不下降则抽样比例不下调(口径已在 3.4 节定下) |
| 近重复识别与相似关系建立 | 产出相似候选对及其相似度 | 近重复分别保留并建立相似关系,不做自动合并(3.5 节) | 相似关系只作检索与借用提示,不参与入库放行判定,因而本项不设改判率指标,也不承担放行责任 |
| 跨系统主键映射 | 按采回的关联字段产出映射候选对 | 映射关系的构建与确认在数据治理与预处理环节(2.1.7 节) | 采集环节只负责把映射所需字段采回并标注用途;候选映射不作为入库依据,不因映射未建立而阻断采集作业 |
表 2-5 数据来源:招标文件 3.2.2.2 第 2 条「质量校验及人工复核机制」(b0912)、3.2.6.3.1 采集环节门控结论要求(b1534)及评分表「方案可实施性」要求(b0496)。
十七个源系统的厂商、版本与接口开放情况,以现场勘察与授权开通后的核实结论为准。通道选型因此不预先写死某个系统用哪一种接口,而是按通道类型给出可选方案与判定规则:勘察阶段(T+1 至 T+2 月)按规则逐系统判定并记入接入要素表,试采阶段(T+2 至 T+4 月)以适配验证确认该判定可执行,适配验证通过并双方签认之日即为该系统通道形态的冻结时点,此后变更按源系统变更类流程处置。表 2-6 给出判定条件与不可用时的转向;通道本身的取数协议、增量机制与频次口径见表 1-1,不重复。
表 2-6 接口形态未定时的通道判定规则与转向
| 勘察时可观察到的事实 | 首选通道 | 不可用时转向 | 转向后的代价与补偿措施 |
|---|---|---|---|
| 源系统允许开只读账号或只读副本,表结构稳定,且有更新时间戳或变更序号 | 库只读直连 | 应用接口 | 增量粒度由行级降为接口返回粒度,可能漏掉未纳入接口的字段;以月度行数与关键字段的校验比对、并按差异时间窗定向重取作为补偿(2.1.2 节) |
| 源系统已有开放接口,或其运维方可在约定期内新增接口,且单次返回量与速率上限可事先约定 | 应用接口 | 文件与附件通道 | 时效由每日增量降为按约定批次导出;以文件清单的路径、大小、修改时间与摘要四项比对保证不漏批(2.1.2 节第四档) |
| 数据主体为非结构化附件,或源系统不开放联机访问 | 文件与附件 | 现场介质交付并登记 | 时效降为按次交付;每次登记批次号、件数与内容摘要并纳入采集记录,缺口在记录中如实列明 |
| 数据为测点时序,且源系统具备历史数据查询或消息订阅能力 | 时序与设备 | 由设备侧或组态侧定时导出文件,再按文件通道接入 | 采样完整性受导出频次限制;以测点缺口时长阈值告警并按缺口时间窗定向补采(表 2-2 完整性类) |
| 网络层仅允许单向可达 | 单向监管数据接收 | 不设转向 | 取数方向与权限在网络策略与接口契约两处同时固化,我方侧不开放可被写入的接口,联调阶段以反向连通性测试确认 |
| 上述条件在勘察期内均无法确认 | 暂不配置常态作业 | 按 6.1 节第三档,先用样例数据或导出文件完成解析与建模 | 该系统不计入常态采集范围,在采集记录与缺口清单中列明其状态;授权与字典到位后按本表重新判定并升档 |
表 2-6 数据来源:招标文件各系统「须提供数据库连接信息、API 接口信息或 FTP 信息」条款(b0813、b0820、b0827、b0834、b0840、b0845、b0851、b0856、b0863、b0869、b0876、b0882、b0888、b0893、b0898、b0904)、3.2.2.1.17 单向集成要求(b0907)及评分表「方案可实施性」要求(b0496)。
本表的判定顺序与系统集成分节的接入通道选型规则一致:同一系统按两处判定得到的首选通道相同。两处在「不可用时转向」一列的写法不同——系统集成分节按通道优先级列出相邻一档,本表则以本表适用条件已排除的通道为前提:按本表第二行判定的系统,库只读直连已因不满足第一行条件而不适用,故转向文件与附件通道。两种写法不会使同一系统判出不同的首选通道。
上述分工另有三点约束。其一,本方案不设自动化率一类的指标,也不以自动化手段替代人工复核环节——表 2-5 第三列列出的门控,是本方案对数据去向负责的位置。
其二,第四列的度量口径一律由基线、测法与不达标时的回退三件构成,这三件缺一项,相应的效率断言就不写进本方案,因为没有基线的效率说法在验收时无法核对。其三,模型通道所依赖的模型能力按统一网关接入的口径管理,可替换、可评测、可随代升级;模型能力的更替不改变表 2-5 的门控归属,也不改变第 3.4 节各复核环节的触发规则。
十七个源系统按招标文件 3.2.2.1.1 至 3.2.2.1.17 的原编号逐项落位,每一个系统先以论述写清五件事:这套系统在本项目中承担什么用途、取哪些数据、怎么取与多久取一次、本系统特有的异常怎么处置、须招标方及源系统侧配合提供什么;再以一张接入要素表把可核对的口径逐项写定。通用部分不重复,按第 2.1 节执行。
接入要素表所覆盖的事项是统一的,十五项一项不缺;具体行名按该系统的数据形态合并或拆分——数据形态单一的系统合为「取数对象」一行,时序、结构化与非结构化三类并存的系统则按形态分列。填写内容一律按各系统的实际业务分别确定,不套用同一份模板。表 2-7 给出每一项必须回答的问题与填写要求;凡某一项在该系统上确无可写之处,须写明理由而非留空。表中「须招标方确认或提供」一列对应招标文件为该系统写明的「须提供」条款,以及我方勘察时须核实的事项,是该系统能否按期接入的前置条件。
表 2-7 接入要素表须覆盖的十五项事项与填写要求
| 事项 | 该项必须回答的问题 | 填写要求 |
|---|---|---|
| 取数对象与范围 | 取哪些业务对象、覆盖到单据头还是明细行、历史回溯到哪一年 | 按招标文件为该系统列明的数据类别逐项落位,本项目额外需要的对象另行写明用途 |
| 重点字段 | 哪些原始字段是下游用途的硬依赖,缺了该用途即不成立 | 写字段的业务含义而非表结构;成对字段(设定值与实测值、承诺与实际)须成对列出 |
| 主键与关联键 | 本系统内的唯一键是什么,与其他系统对上的关联键是什么 | 关联键须写明向哪一套系统的哪一个标识对齐;无稳定关联的,写明以哪些线索字段替代 |
| 授权与入口脱敏重点 | 哪些字段属个人信息、企业秘密或受限内容,入口处如何处置 | 按最小必要原则写明裁剪、假名化或泛化的范围 |
| 接入通道与协议 | 走哪一类通道,以何种协议与鉴权方式取数 | 形态未定的写首选与备选,并指向表 2-6 的判定规则 |
| 全量初始化与增量机制 | 首次初始化怎么做,此后按什么增量键取 | 增量键须写明来源字段;增量不可靠时写明回退到全量或分片重取的触发条件 |
| 频次与窗口 | 多久取一次,批量作业排在哪一时段 | 按数据的实际变化节奏定频次,不一律按日;批量一律置于约定低峰窗口 |
| 时间戳与时间基准 | 取哪几个时点,时间源是什么,偏差如何处理 | 时点须足够区分业务时间与记录时间;时钟偏差在试采期测定并逐批次登记 |
| 变更与删除的捕获 | 更新、作废、物理删除分别怎么识别 | 逻辑删除写状态字段;物理删除写补判方式;版本化对象写并存规则 |
| 幂等与去重 | 同一批次重跑为什么不会产生重复 | 写判重键的构成;写明哪些「看似重复」的记录必须分别保留 |
| 对账口径 | 与源端比什么、多久比一次、差异怎么办 | 至少含行数对账;有金额、点数或件数可比的须一并比对;差异不静默补齐 |
| 失败补传与断点 | 作业失败后从哪里续、重试几次、仍失败怎么办 | 写断点粒度(分片、游标、时间窗)与转缺口清单的条件 |
| 入口质量检查项 | 该系统的批次放行要过哪几项检查 | 逐项可判定;其中安全、许可与授权范围三类为强制项,命中即不放行 |
| 勘察核实与适配验证时点 | 厂商、版本与接口形态何时核实,何时完成适配验证,何时转常态 | 按第 5.1 节四阶段的时段写明本系统的落点;优先项须写明优先的理由 |
| 验收口径 | 这套系统接入到什么程度算完成 | 指标按基线、趋向与不达标回退三段写,不写绝对值断言 |
表 2-7 数据来源:招标文件 3.2.2.1 各系统「须提供」条款(b0813 等)、3.2.6.3.1 采集环节门控要求(b1396、b1534)及评分表「方案可实施性」要求(b0496)。
用途。 客户关系管理系统承载营销相关业务原始数据,是供需计划域数据集的首要来源(b0809)。它在本项目中有两项不可替代的作用:一是提供商机、报价与合同的时间序列,使库存控制智能化场景的需求侧预测有真实历史可依;二是提供招投标文件与业绩合同这类非结构化文档,这是标书智能问答场景的语料主体,也是预训练子集中通用语料的一部分。
数据范围。 结构化部分取客户、商机、报价、合同、订单、回款六类业务对象的主表与明细表,以及各对象的状态流转记录(b0810)。状态流转比终态更有价值——商机从线索到成交的各阶段时点,是预测模型可用的特征;只取终态则这部分信息丢失。
非结构化部分取招标与投标文件(PDF、Word)、资质文件(PDF、JPG)、业绩合同(PDF、JPG)三类附件及其与业务对象的挂接关系(b0811、b0812)。附件的挂接关系须与附件同批取回,否则文档与合同对不上,标书问答场景就无法回答「这一条出自哪份标书、对应哪个项目」。
接入方式与频次。 该系统正在上线,历史数据较少,结构可能仍在调整。据此分两段:历史数据一次性初始化,置于约定低峰窗口分片执行;此后按日增量。结构化部分优先走库只读直连,以更新时间戳与自增主键双键水位线取增量;若对方仅提供接口,按接口的时间区间与分页游标拉取。附件走文件传输服务或对象存储只读目录,按清单四项比对下载(b0813)。
本系统特有异常。 第一类是附件缺失:业务对象记录存在但附件实体在文件服务上找不到。处置办法是记入「附件缺口清单」,按业务对象标识回单给联络窗口,不以空文件占位。第二类是历史数据稀疏:该系统上线时间短,部分年份的商机与报价记录可能不足以支撑时序建模。
处置办法是在采集记录中如实标注各年份的记录密度,并把缺口信息传给数据集建设环节,由该环节决定是否以其他系统数据交叉补充,采集环节不做推测性填充。第三类是客户联系人信息:客户与合同数据中含有联系人姓名、电话等个人信息,按第 2.1.3 节在入口处假名化,同一联系人在全库映射为同一假名。
须招标方提供。 数据库连接信息、接口信息或文件传输服务信息(b0813);业务低峰时段,招标文件示例为 0 点至 5 点(b0814);系统数据字典或数据库设计说明书(b0815)。
表 2-8 CRM 系统接入要素表
| 要素 | 我方方案 | 须招标方确认或提供 |
|---|---|---|
| 取数对象 | 客户、商机、报价、合同、订单、回款六类主表与明细表及状态流转记录;附件挂接关系表(b0810) | 各对象对应的实际表名或接口清单 |
| 非结构化范围 | 招投标文件(PDF/Word)、资质文件(PDF/JPG)、业绩合同(PDF/JPG)(b0811、b0812) | 文件服务只读目录路径与目录组织规则 |
| 接入通道 | 库只读直连为主,接口通道备选;附件走文件与附件通道 | 数据库连接信息、API 接口信息或 FTP 信息(b0813) |
| 增量机制 | 更新时间戳+自增主键双键水位线,回看一小时;附件按清单四项比对 | 各表的创建时间与更新时间字段名 |
| 频次与窗口 | 历史初始化一次性分片;此后每日一次增量,置于低峰窗口;附件清单每小时扫描 | 业务低峰时段(b0814) |
| 字典依据 | 绑定字典版本运行,字典与实际结构差异出核验报告 | 数据字典或数据库设计说明书(b0815) |
| 入口脱敏重点 | 客户联系人姓名、电话、证件号假名化;未公开报价明细按授权裁剪 | 哪些字段属企业秘密、裁剪范围 |
| 主键与关联键 | 客户编码为主键;商机号—报价号—合同号—订单号—回款单号构成业务链关联键;附件以「业务对象标识+附件标识」双键挂接。对外关联键为合同号与项目号,向 ERP 销售订单号、PLM 项目号对齐 | 各对象主键字段名;附件挂接表的外键字段 |
| 时间戳与时间基准 | 取创建时点、更新时点与各状态流转时点三组;该系统新上线,时间源以其应用服务器为准,试采期测定其与统一时间基准的偏差并逐批次登记 | 应用服务器的时间源配置 |
| 变更与删除的捕获 | 商机与合同的作废、撤回以状态字段识别为逻辑删除,原行保留并记状态变更时点;物理删除无法由水位线捕获,按月以主键对照补判,发现即在采集记录中列为源端已删 | 是否存在物理删除操作及其审批流程 |
| 幂等与去重 | 以「对象标识+更新时点+行指纹」三元组判重,同一批次重跑不产生重复行;附件以内容摘要判重,同名不同摘要另存为新版本 | 附件是否允许同名覆盖 |
| 对账口径 | 按月比对六类对象的源端行数与入库行数,并比对合同金额合计与回款金额合计两项汇总值;附件按清单件数与字节数比对 | 源端计数视图或计数接口 |
| 失败补传与断点 | 接口中断按分页游标断点续拉;附件下载断点续传,失败件入重试队列,退避重试三次仍失败的转附件缺口清单并回单 | 重试窗口与回单接收窗口 |
| 入口质量检查项 | 合同号、客户编码、签订日期三项必填非空率;金额字段可解析率;状态码落在字典码值内;附件可打开且类型与扩展名一致。许可与敏感类检查项为强制项,命中即不放行 | 各项阈值取值 |
| 勘察核实与适配验证时点 | T+1 至 T+2 月核实接口形态并完成通道选择;T+2 至 T+4 月完成试采适配验证并冻结取数范围;该系统上线时间短、历史存量小,T+4 月起转常态 | 勘察问卷回填与试采窗口 |
| 验收口径 | 六类对象的行数与源端计数差异率收敛至约定阈值内;附件下载成功率与缺口清单一并交付 | 阈值取值与试采比对口径 |
表 2-8 数据来源:招标文件 3.2.2.1.1(b0808–b0815)。
用途。 企业资源计划系统承载财务、采购、核算等业务原始数据(b0817)。它在本项目中的地位有两重:一是物料主数据与物料清单的权威来源,产品选型场景要用它做标准件的参考报价核算,库存控制场景要用它做需求运算与资金约束;二是本项目数据条件最好的一套系统——该系统录入规范、数据质量较好,因此适合作为主数据对齐的基准系统,其他系统的编码向它对齐而非反向。
数据范围。 按招标文件所列取组织、人力、物料、采购、销售订单、成本核算、应收应付、凭证、资产、资金十类结构化数据(b0818、b0819)。其中物料一类须取到完整的物料主数据、物料清单层级关系与价格数据——原材料与产成品均有价格,这是选型场景报价核算与库存场景资金核算的直接输入。人力一类按最小必要原则仅取组织岗位与定员口径,不取个人薪酬与考核数据;凭证与资金两类按授权范围取科目级汇总,不取明细到个人的收付记录。这一裁剪在权限申请清单中逐项写明,避免超范围取数。
接入方式与频次。 走库只读直连,优先在只读副本上取数。该系统事务量大,优先争取变更数据捕获;不可用时按双键水位线。物料主数据与物料清单变更不频繁,按日增量;采购订单、销售订单、应收应付等事务表按日增量;成本核算与凭证按月结节奏取数,月结后一次性取当期;库存账与价格按日取快照,保留历史快照以支持按时点回溯(b0820)。
本系统特有异常。 第一类是月结期间数据不稳定:月结过程中成本与凭证数据处于中间态,此时取数会得到会后被调整的数值。处置办法是在作业日历中标注月结窗口,月结期间暂停成本与凭证相关作业,月结完成标志出现后再取。第二类是物料清单版本问题:同一物料可能存在多个物料清单版本,取数时须带版本号与生效日期,不取「当前有效」的单一视图,否则历史工单无法还原当时的用料结构。第三类是价格数据的授权边界:采购价与成本价属企业秘密,按第 2.1.3 节在入口处按授权范围裁剪或分档处理。
须招标方提供。 数据库连接信息或接口信息(b0820);业务低峰时段(b0821);系统数据字典或数据库设计说明书(b0822)。
表 2-9 ERP 系统接入要素表
| 要素 | 我方方案 | 须招标方确认或提供 |
|---|---|---|
| 取数对象 | 组织、人力(仅组织岗位与定员口径)、物料主数据与物料清单、采购、销售订单、成本核算、应收应付、凭证(科目级)、资产、资金(科目级)(b0818、b0819) | 各域实际表名、月结完成标志的取法 |
| 重点字段 | 物料编码、物料清单层级与版本号及生效日期、原材料与产成品价格、库存账与提前期 | 价格字段的授权范围 |
| 接入通道 | 库只读直连,只读副本优先 | 数据库连接信息或 API 接口信息(b0820) |
| 增量机制 | 变更数据捕获优先;不可用时双键水位线;库存与价格按日快照留存 | 是否可开放数据库日志读取 |
| 频次与窗口 | 事务表每日增量;成本与凭证按月结后取当期;均置于低峰窗口 | 业务低峰时段(b0821)、月结日历 |
| 字典依据 | 以本系统为主数据对齐基准,字典版本变更须双方确认 | 数据字典或数据库设计说明书(b0822) |
| 入口脱敏重点 | 人力数据仅保留组织与岗位维度;采购价与成本价按授权裁剪或分档 | 可公开至何种粒度 |
| 主键与关联键 | 物料编码为物料域主键;销售订单号+行号为订单域主键;凭证号+分录行号为凭证域主键;物料清单以「父物料编码+子物料编码+版本号」三键唯一。对外关联键为物料编码(向 PLM 图号、WMS 物料编码对齐)与销售订单号(向 CRM 合同号、MES 施工号对齐) | 物料清单版本字段名;订单行号字段名 |
| 时间戳与时间基准 | 事务表取记账日期、过账时点与更新时点三组;成本与凭证以会计期间与月结完成标志定位,不以更新时点判定是否可取 | 月结完成标志的取法与会计期间定义 |
| 变更与删除的捕获 | 优先以数据库日志捕获插入、更新与物理删除三类变更;日志不可用时,冲销类业务以红字凭证识别,不做物理删除推断;物料清单改版不覆盖旧版,按版本号与生效日期并存 | 是否可开放数据库日志读取 |
| 幂等与去重 | 以「表名+主键+变更序号」判重;同一业务的红蓝字凭证成对保留,不做抵销合并 | 红字凭证的标识字段 |
| 对账口径 | 事务表按月比对行数;成本与凭证按会计期间比对科目级借贷合计;库存按日切点比对数量与金额两项,并与 WMS 侧同时点快照三方对照 | 可用于对照的源端报表与汇总口径 |
| 失败补传与断点 | 只读副本不可用时自动改走主库低峰窗口并降并发;分片游标记录断点,按分片重跑而非整表重取;月结期间失败的作业顺延至月结完成标志出现后执行 | 只读副本的可用时段 |
| 入口质量检查项 | 物料编码非空且唯一、物料清单层级无环、订单金额与明细行合计一致、凭证借贷平衡、业务日期落在所属会计期间内。价格与人力类字段的授权范围校验为强制项,超范围即不放行 | 借贷平衡的容差口径 |
| 勘察核实与适配验证时点 | T+1 至 T+2 月核实数据库类型与日志读取可行性,确定变更捕获方式;T+2 至 T+4 月试采比对并实测只读副本取数速率;事务量大,历史初始化排在 T+3 至 T+9 月的前段 | 只读副本或备库的开通时点 |
| 验收口径 | 十类数据的行数与关键金额汇总与源端核对一致;物料清单层级可完整还原至指定历史时点 | 核对口径与抽样方式 |
表 2-9 数据来源:招标文件 3.2.2.1.2(b0816–b0822)。
用途。 供应链管理系统承载供应链协同相关业务原始数据(b0824)。它在本项目中主要支撑库存控制智能化场景的供给侧判断。库存决策的难点不在于算出需要多少,而在于判断什么时候能到——外购件的有效提前期、供应商的履约稳定性、采购订单从下达到供货的实际周期,这三项数据只在这套系统里。缺了它,库存场景就只能按经验给提前期,这正是当前的困难所在。
数据范围。 取供应商档案、供应商评估、采购计划、采购订单、订单下达、供货履约、付款计划七类结构化数据(b0825、b0826)。其中供货履约一类须取到逐次到货的承诺日期与实际日期两个时点,由此才能统计有效提前期的分布而非均值;供应商评估一类须取到评估期间与评估项得分,而非仅取最终等级。
接入方式与频次。 走库只读直连或接口通道,按双键水位线取每日增量,置于低峰窗口(b0827)。供应商档案与评估变更不频繁,按周取增量即可,与招标文件要求不冲突,仅是把频次按数据变化节奏调低以减少对源系统的压力。
本系统特有异常。 第一类是与企业资源计划系统的采购数据重叠:两套系统都有采购订单,字段口径可能不一致。处置办法是两套都取,在贴源层各自原样留存,由标准化层按订单号做比对并标记差异,不在采集环节做取舍。差异本身是数据质量线索,应当保留。第二类是供应商商务信息敏感:价格条款、付款条件、信用额度属企业秘密,按授权范围在入口处裁剪。第三类是供应商联系人个人信息,按第 2.1.3 节假名化。
须招标方提供。 数据库连接信息或接口信息(b0827);业务低峰时段(b0828);系统数据字典或数据库设计说明书(b0829)。
表 2-10 SCM 系统接入要素表
| 要素 | 我方方案 | 须招标方确认或提供 |
|---|---|---|
| 取数对象 | 供应商档案、供应商评估、采购计划、采购订单、订单下达、供货履约、付款计划(b0825、b0826) | 各对象实际表名或接口清单 |
| 重点字段 | 承诺到货日期与实际到货日期两个时点、评估期间与评估项得分、订单下达时点 | 这两个时点字段是否完整记录 |
| 接入通道 | 库只读直连为主,接口通道备选 | 数据库连接信息或 API 接口信息(b0827) |
| 增量机制 | 双键水位线;档案与评估类按周增量,事务类按日增量 | 更新时间字段的填写规范性 |
| 频次与窗口 | 每日一次(事务类)/每周一次(档案类),置于低峰窗口 | 业务低峰时段(b0828) |
| 字典依据 | 绑定字典版本;与 ERP 采购口径的差异出比对报告 | 数据字典或数据库设计说明书(b0829) |
| 入口脱敏重点 | 价格条款、付款条件、信用额度按授权裁剪;联系人信息假名化 | 哪些商务字段可用于训练 |
| 主键与关联键 | 供应商编码为档案主键;采购订单号+行号为订单域主键;供货履约以「采购订单号+行号+到货批次」三键唯一。对外关联键为采购订单号(向 ERP 采购入库批次对齐)与物料编码 | 履约记录的批次字段名 |
| 时间戳与时间基准 | 每条履约记录取承诺到货日期与实际到货日期两个时点,另取订单下达时点与评估期间起止;日期字段若仅到日粒度,不足以支撑小时级分析的在采集记录中如实说明 | 到货时点是否记录到小时 |
| 变更与删除的捕获 | 订单的数量与交期调整以变更版本号或变更记录表识别,历次变更全部保留——提前期分析要的正是交期被改过几次;订单取消按状态识别为逻辑删除 | 是否有独立的订单变更记录表 |
| 幂等与去重 | 以「订单号+行号+变更版本号」判重;同一到货的多次过账按履约流水号区分,不做合并 | 变更版本号字段名 |
| 对账口径 | 按月比对七类对象行数;采购订单按订单号与 ERP 侧逐单比对,差异数与差异字段按月成表,差异本身作为质量线索移交治理环节,采集环节不做取舍 | 两侧订单号是否同源 |
| 失败补传与断点 | 档案类周作业失败并入次日增量,不单独补跑;事务类按双键水位线回退一个回看窗口重取 | —(按通用口径执行) |
| 入口质量检查项 | 供应商编码非空且在档案表中存在;承诺与实际到货日期先后关系合理;评估得分落在量表区间内;金额与数量非负。商务敏感字段的授权范围校验为强制项 | 评估量表的区间定义 |
| 勘察核实与适配验证时点 | T+1 至 T+2 月核实本系统与 ERP 采购域的边界与数据重叠范围;T+2 至 T+4 月试采并产出首份与 ERP 的订单比对报告;T+4 月起转常态 | 两套系统采购域的业务分工说明 |
| 验收口径 | 七类对象行数核对一致;有效提前期可按供应商与物料类别统计出分布 | 统计口径与可接受的缺失率 |
表 2-10 数据来源:招标文件 3.2.2.1.3(b0823–b0829)。
用途。 质量管理系统承载质量管控相关业务原始数据(b0831)。它是产品质量域数据集的核心来源,也是热处理与焊接两个质量场景能否成立的关键——这两个场景的真正瓶颈不是模型不够强,而是过程数据与质量结论对不上。质量管理系统提供的是「结论」一侧:某个工件、某道焊缝、某个炉次的检验结果是什么。把这一侧与数据采集与监控系统、热处理群控系统提供的「过程」一侧配上,成对样本才成立。
数据范围。 结构化部分取制程检验、进厂检验、出厂检验、成品检验四类检验记录与质量台账(b0832)。四类检验记录须取到检验项目、实测值、判定结论、检验时点、被检对象标识四组字段;被检对象标识尤为重要,它是与工单号、零件号、批次号对上的唯一线索。非结构化部分取质量报告、检验数据文件、产品质量档案、质量知识四类文档(b0833)。其中质量知识一类是企业沉淀的缺陷判别经验与处置办法,对指令微调子集有直接价值。
接入方式与频次。 该系统新上线、正在推行,结构化数据与附件并重。结构化部分走库只读直连或接口通道,按双键水位线取每日增量;附件走文件传输服务,按清单比对下载(b0834)。工艺编制时标注的关键工序与重要尺寸会推送到该系统形成检查项,这部分数据与产品全生命周期管理系统的工艺数据同源,取数时须保留推送来源标识,便于与工艺侧对齐。
本系统特有异常。 第一类是缺陷描述为自由文本且未与工艺参数关联:这是该系统当前的实际状况。采集环节不做文本结构化处理——那是预处理与标注环节的工作——但须把自由文本字段完整取回并标注其为待结构化字段,不截断、不丢弃。第二类是被检对象标识缺失或填写不规范:新上线系统常见。
处置办法是统计该字段的填写完整度并随采集记录披露,同时把可用于间接关联的字段(检验单上的工单号、送检部门、检验时点)一并取回,为预处理环节的间接配对留出条件。第三类是交检拍照附件体量大:图片数量多、单张不大,按目录分片并发下载,并发数按对方给定上限配置。
须招标方提供。 数据库连接信息、接口信息或文件传输服务信息(b0834);业务低峰时段(b0835)。招标文件对本系统未列数据字典条款,我方仍按第 2.1.1 节请求提供库结构说明或字段清单;未提供时按实际库结构反向推导并提交核对,这一差异在第 6 节如实列出。
表 2-11 QMS 系统接入要素表
| 要素 | 我方方案 | 须招标方确认或提供 |
|---|---|---|
| 取数对象 | 制程检验、进厂检验、出厂检验、成品检验四类检验记录;质量台账(b0832) | 四类检验的实际表名与检验项定义 |
| 重点字段 | 检验项目、实测值、判定结论、检验时点、被检对象标识(工单号/零件号/批次号/炉次号) | 被检对象标识字段的填写规范与完整度 |
| 非结构化范围 | 质量报告、检验数据文件、产品质量档案、质量知识;交检拍照附件(b0833) | 文件服务只读目录与附件挂接关系 |
| 接入通道 | 库只读直连或接口通道;附件走文件与附件通道 | 数据库连接信息、API 接口信息或 FTP 信息(b0834) |
| 增量机制 | 双键水位线;附件按清单四项比对,图片按目录分片并发下载 | 并发下载上限 |
| 频次与窗口 | 结构化每日一次增量;附件清单每日扫描,批量下载置于低峰窗口 | 业务低峰时段(b0835) |
| 字典依据 | 招标文件未列本项;我方按实际结构反向推导并提交核对 | 库结构说明或字段清单(建议补充提供) |
| 特有处置 | 缺陷描述自由文本完整取回并标注待结构化;被检对象标识完整度随采集记录披露 | 不规范填写的历史数据是否需要回溯补录 |
| 主键与关联键 | 检验单号为主键,检验项以「检验单号+项目序号」唯一;被检对象标识(工单号/零件号/批次号/炉次号)是本系统最关键的关联键,四类标识字段一律全取,缺哪一类即按缺登记 | 四类被检对象标识在各检验类型中的字段名 |
| 时间戳与时间基准 | 取送检时点、检验时点与判定时点三组;热处理与焊接的质量结论要与过程时序对齐,检验时点须精确到分钟,仅记录到日的在采集记录中说明,由下游按日窗配对 | 检验时点的记录精度 |
| 变更与删除的捕获 | 复检与判定改判以新增记录表达,原判定保留并以关联字段指向;检验单作废按状态识别;该系统新上线,历史数据的回溯修改较多,双键水位线的回看窗口放宽至二十四小时 | 改判业务的记录方式 |
| 幂等与去重 | 以「检验单号+项目序号+更新时点」判重;交检拍照附件以内容摘要判重,同一检验单的多角度照片分别保留 | 附件命名规则 |
| 对账口径 | 按月比对四类检验记录行数;另单列「有检验记录但无被检对象标识」的件数并逐月披露——该数值是对象贯通可行性的直接度量;附件按目录件数比对 | 源端计数口径 |
| 失败补传与断点 | 图片批量下载按目录分片,分片失败只重跑该分片;单件连续三次失败转缺口清单;结构化部分按检验时点窗口定向重取 | 并发下载上限 |
| 入口质量检查项 | 检验单号非空且唯一;实测值可解析为数值或落在允许的文本枚举内;判定结论落在码值内;检验时点不晚于入库时点;缺陷描述自由文本不截断。许可与敏感类检查项为强制项 | 判定结论的码值集合 |
| 勘察核实与适配验证时点 | T+1 至 T+2 月核实接口形态与附件目录组织,并测定被检对象标识的填写完整度基线;T+2 至 T+4 月试采适配验证;招标文件未列本系统字典条款,按第 6.1 节乙档口径运行至字典到位 | 库结构说明或字段清单 |
| 验收口径 | 四类检验记录行数核对一致;被检对象标识可关联比例逐步接近约定目标,以试采结论为首月基线 | 目标比例与基线取值 |
表 2-11 数据来源:招标文件 3.2.2.1.4(b0830–b0835)。
用途。 仓储管理系统承载仓储相关业务原始数据(b0837)。它在本项目中支撑库存控制智能化场景的实物侧:账面库存与实物库存的差异、库位占用、项目专用料的锁定情况、余料与呆滞料的实际存放。库存口径不统一是当前的具体困难之一——不同系统中的库存数在同一时点不一致,三套口径并存。采集环节的任务不是统一口径,而是把各口径的原始数据按同一时点取回,使口径差异可被量化。
数据范围。 取仓库、库区、货位、物料、批次、到货单、入库单、出库单八类结构化数据(b0838、b0839)。到货单、入库单、出库单三类须取到单据头与明细行,并保留项目占用标识与批次号;库存一项须取按时点的快照而非仅取当前值,快照时点与企业资源计划系统的库存快照对齐,由此两套口径才可比。
接入方式与频次。 走库只读直连或接口通道(b0840)。仓库、库区、货位三类基础档案按周取增量;物料与批次按日;三类单据按日取增量,出入库流水量较大时按小时取轻量增量,批量校验置于低峰窗口。
本系统特有异常。 第一类是库存快照时点错位:若仓储侧与企业资源计划侧的快照不在同一时点,差异分析会把时点差当成口径差。处置办法是两侧快照统一取业务日切点(按企业实际的日切时间确定),并在采集记录中记录实际取数时点与业务日切点的偏差。
第二类是余料与呆滞料无结构化台账:这是当前的已知缺口。采集环节按现有数据取出长期未动的批次作为线索,但不以此替代台账;缺口在采集记录与第 6 节中如实列出。第三类是手持终端录入的时点滞后:出入库操作与系统记录时点可能有偏差,这一特征须在采集记录中说明,供时序分析环节判断可用性。
须招标方提供。 数据库连接信息或接口信息(b0840);业务低峰时段(b0841)。招标文件对本系统未列数据字典条款,处理方式同 2.6 节。
表 2-12 WMS 系统接入要素表
| 要素 | 我方方案 | 须招标方确认或提供 |
|---|---|---|
| 取数对象 | 仓库、库区、货位、物料、批次、到货单、入库单、出库单(单据含头与明细行)(b0838、b0839) | 各对象实际表名;单据状态码定义 |
| 重点字段 | 项目占用标识、批次号、库位标识、业务日切时点;按时点库存快照 | 企业实际日切时间 |
| 接入通道 | 库只读直连或接口通道 | 数据库连接信息或 API 接口信息(b0840) |
| 增量机制 | 双键水位线;基础档案按周、物料与批次按日、单据按日(流水大时按小时轻量增量) | 出入库日均单量量级 |
| 频次与窗口 | 批量与校验置于低峰窗口;轻量增量可在业务时段运行 | 业务低峰时段(b0841) |
| 字典依据 | 招标文件未列本项;按实际结构反向推导并提交核对 | 库结构说明或字段清单(建议补充提供) |
| 特有处置 | 库存快照与 ERP 侧统一取业务日切点;口径差异量化后移交治理环节 | 以哪套口径作为对外披露基准 |
| 主键与关联键 | 单据号+行号为三类单据的主键;库存以「货位标识+物料编码+批次号」三键唯一。对外关联键为物料编码(向 ERP 对齐)、批次号(向 QMS 进厂检验批次对齐)与项目占用号(向 MES 施工号对齐) | 项目占用标识的字段名与取值规则 |
| 时间戳与时间基准 | 取单据制单时点、过账时点与手持终端扫码时点三组;扫码与系统记录之间存在滞后,三个时点全取,差值随采集记录披露,采集环节不做修正 | 扫码时点是否独立记录 |
| 变更与删除的捕获 | 红冲与退库以反向单据表达,原单保留;单据行的数量调整按调整记录识别;库存按日切点取快照,快照之间的变化由流水还原,不以覆盖方式更新 | 企业实际日切时间 |
| 幂等与去重 | 以「单据号+行号+过账时点」判重;同一物料同一批次的多次出入库按流水号区分,不做净额合并 | 流水号字段名 |
| 对账口径 | 按日切点比对账面库存数量与 ERP 侧快照,差异按物料与批次逐项列出;按月比对八类对象行数;三套库存口径的差值按月成表,供治理环节判定口径基准 | 以哪套口径作为对外披露基准 |
| 失败补传与断点 | 小时级轻量增量失败并入下一小时窗口;日切快照作业失败须在同一日切点重跑,不以次日快照替代——时点错位会使口径差异的分析结论失真 | 日切点前后的系统可用窗口 |
| 入口质量检查项 | 单据号非空且唯一;出入库数量的符号与单据类型一致;货位标识在货位档案中存在;批次号非空率;快照时点与日切点的偏差在阈值内 | 偏差阈值取值 |
| 勘察核实与适配验证时点 | T+1 至 T+2 月核实日切时点与三套库存口径的实际存放位置;T+2 至 T+4 月试采并产出首份与 ERP 的库存差异解释报告;T+4 月起转常态 | 三套口径的业务说明 |
| 验收口径 | 八类对象行数核对一致;指定时点的库存快照与 ERP 侧差异可逐项解释 | 可解释比例的目标与基线 |
表 2-12 数据来源:招标文件 3.2.2.1.5(b0836–b0841)。
用途。 制造执行系统承载生产制造过程相关业务原始数据(b0843)。它在本项目中有一个别的系统替代不了的作用:把物理工件与时间对上。焊接参数流是按时间连续记录的,热处理曲线也是按时间记录的,但「这段时间在焊哪个工件的哪道焊缝」「这一炉装的是哪批零件」只有制造执行系统知道。没有这套系统的工单与工序流转记录,过程时序数据就无法绑定到物理对象,制造过程域数据集的成对样本也就无从构建。
数据范围。 招标文件对本系统列出焊丝牌号、焊丝直径、生产工单、生产进度四项(b0844)。按本项目的实际需要,取数范围在这四项之外须纳入工序流转与报工记录——这是把时间与工件对上的直接依据,也是招标文件 3.2.6.3.1 节要求「从 MES 采集生产工单、生产进度与焊丝牌号、直径」的落地前提(b1376)。焊丝牌号与直径两项是焊接场景的工艺参数基准:判断一组焊接参数是否偏离,须先知道当时用的是哪种焊丝。
接入方式与频次。 走库只读直连或接口通道(b0845)。工单与工序流转按日增量;生产进度按小时取轻量增量,使时序数据的对齐窗口不至于过宽。该系统已实现跨分厂、跨部门的多工序多路线管控,下道工序须待本车间全部工序报工完成后才能开始,这一规则使工序流转记录具备较强的逻辑一致性,可用于交叉校验取数完整性——若某工单的下道工序已开始而上道工序报工记录缺失,即为采集缺口信号。
本系统特有异常。 第一类是报工时点滞后于实际作业:这是该系统的已知特征。报工时点不等于加工时点,若直接用报工时点去截取时序数据窗口,会取到错误的数据段。处置办法是把报工时点与工序开始时点两个字段都取回,并在采集记录中注明该系统的滞后特征,由预处理环节按场景选择对齐基准;采集环节不做时点修正。
第二类是部分工单字段填写不完整:按第 2.1.3 节的校验口径,缺失字段不补齐,按字段统计完整度并随采集记录披露。第三类是工单与炉次、焊道的关联:须在取数范围内纳入能与热处理群控系统炉次工单、焊接工位记录对上的字段,详见表 2-4。
须招标方提供。 数据库连接信息或接口信息(b0845);业务低峰时段(b0846)。招标文件对本系统未列数据字典条款,处理方式同 2.6 节;鉴于本系统是对象贯通的枢纽,我方建议优先补充提供其库结构说明。
表 2-13 MES 系统接入要素表
| 要素 | 我方方案 | 须招标方确认或提供 |
|---|---|---|
| 取数对象 | 生产工单、生产进度、焊丝牌号与直径(b0844);工序流转与报工记录(对象贯通所需) | 工序流转与报工表的实际表名 |
| 重点字段 | 工单号、施工号、零件号、工序编码、工序开始时点与报工时点、工位号、焊丝牌号与直径 | 工序开始时点是否有独立字段记录 |
| 接入通道 | 库只读直连或接口通道 | 数据库连接信息或 API 接口信息(b0845) |
| 增量机制 | 双键水位线;工单与流转按日,生产进度按小时轻量增量 | 日均工单与报工记录量级 |
| 频次与窗口 | 批量与校验置于低峰窗口;小时级轻量增量可在业务时段运行 | 业务低峰时段(b0846) |
| 字典依据 | 招标文件未列本项;建议优先补充提供(本系统为对象贯通枢纽) | 库结构说明或字段清单 |
| 特有处置 | 报工滞后特征在采集记录中注明;按工序逻辑一致性交叉校验采集完整性 | 跨车间报工规则的例外情形 |
| 主键与关联键 | 工单号为主键;工序流转以「工单号+工序编码+流转序号」唯一;报工记录以报工单号唯一。本系统是对象贯通枢纽,关联键最密:施工号、零件号、图号、工位号、炉次号、焊道编号六类外部标识一律纳入取数范围 | 六类标识在本系统中的实际字段名与填写率 |
| 时间戳与时间基准 | 取工序开始时点、工序结束时点与报工时点三组。报工时点滞后于实际作业是该系统的已知特征,三个时点全取并在采集记录中注明滞后特征,由下游按场景选对齐基准,采集环节不做时点修正 | 工序开始时点是否有独立字段 |
| 变更与删除的捕获 | 工单改派、工序退回与返工以新增流转记录表达,原记录保留;工单取消按状态识别;部分字段的后补填写以更新时点捕获,回看窗口放宽至二十四小时 | 返工业务的记录方式 |
| 幂等与去重 | 以「工单号+工序编码+流转序号」判重;同一工序的分批报工按报工单号分别保留,不做数量合并 | 分批报工的业务规则 |
| 对账口径 | 按月比对工单与工序流转行数;另以该系统自身的工序逻辑交叉校验——下道工序已开始而上道工序报工缺失的工单数按月统计,该数值既是采集缺口信号也是源端质量线索 | 跨车间报工规则的例外情形 |
| 失败补传与断点 | 生产进度的小时级增量失败并入下一小时窗口;工单与流转按工单号区间分片重取;连续两个窗口失败即挂起并回单,不累积静默缺口 | 回单接收窗口 |
| 入口质量检查项 | 工单号非空且唯一;工序编码落在工序字典内;工序开始时点不晚于报工时点;焊丝牌号与直径落在物料字典内;施工号与零件号的非空率 | 工序字典的正式版本 |
| 勘察核实与适配验证时点 | 列为勘察优先项(对象贯通枢纽):T+1 月内完成库结构核实与六类关联字段的填写率测定;T+2 至 T+4 月试采适配验证,试采比对须含工序逻辑交叉校验;本系统的试采结论是其他系统对象贯通工作的前提 | 优先补充提供库结构说明 |
| 验收口径 | 工单与工序流转行数核对一致;指定时间窗内可定位到工件与工序的时序数据比例逐步接近约定目标 | 目标比例与首月基线 |
表 2-13 数据来源:招标文件 3.2.2.1.6(b0842–b0846)及 3.2.6.3.1 制造过程域采集要求(b1376)。
用途。 物流管理系统承载物流管理相关业务原始数据(b0848)。它在本项目中的作用集中在一点:把「物料什么时候真的到了现场」这件事记录下来。库存控制场景要算有效提前期,采购订单的到货日期只是入库时点,而从供应商发货到厂内可用之间还有运输与装卸环节;这段时间只在物流系统里。对供需计划域数据集而言,这是提前期分布的尾部来源。
数据范围。 取物流需求、运单、调度结果、装卸、取货、送达、运输时间七类结构化数据(b0849、b0850)。运单一项须取到起运地、目的地、承运方式与关联的采购订单或销售订单号;运输时间一项须取计划时长与实际时长两个值,单取其一无法度量偏差。
接入方式与频次。 走库只读直连或接口通道,按双键水位线取每日增量,置于低峰窗口(b0851、b0852)。
本系统特有异常。 第一类是运单与订单的关联缺失:部分运单可能只记录物料与数量而未带订单号,导致无法归集到具体采购行。处置办法是把可用于间接关联的字段(物料编码、数量、到货日期、供应商)一并取回,关联由预处理环节按规则推断,采集环节标注该运单为「待关联」。第二类是地理位置信息:起运地与目的地可能含详细地址,按第 2.1.3 节按泛化规则降精度,保留到可用于分析的行政区划层级。
表 2-14 LMS 系统接入要素表
| 要素 | 我方方案 | 须招标方确认或提供 |
|---|---|---|
| 取数对象 | 物流需求、运单、调度结果、装卸、取货、送达、运输时间(b0849、b0850) | 各对象实际表名或接口清单 |
| 重点字段 | 关联订单号、起运地与目的地、承运方式、计划时长与实际时长 | 订单号字段在运单上的填写率 |
| 接入通道 | 库只读直连或接口通道 | 数据库连接信息或 API 接口信息(b0851) |
| 增量机制与频次 | 双键水位线,每日一次增量,置于低峰窗口 | 业务低峰时段(b0852) |
| 入口脱敏重点 | 详细地址按行政区划层级泛化;承运方联系人信息假名化 | 可保留的地址精度 |
| 主键与关联键 | 运单号为主键;调度、装卸、取货、送达各环节以「运单号+环节序号」唯一。对外关联键为采购订单号与销售订单号;订单号缺失的运单以物料编码、数量、到货日期、供应商四项作为间接关联线索一并取回 | 运单上订单号字段的填写率 |
| 时间戳与时间基准 | 取计划起运、实际起运、计划送达、实际送达四个时点与计划时长、实际时长两个值;时长若由系统派生而非实测,须标注派生口径,不与实测时点混用 | 时长字段是实测还是派生 |
| 变更与删除的捕获 | 改派与改期以运单变更记录识别,历次变更保留;运单取消按状态识别为逻辑删除 | 变更记录表是否存在 |
| 幂等与去重 | 以「运单号+环节序号+更新时点」判重;同一运单的多次装卸记录分别保留 | 环节序号字段名 |
| 对账口径 | 按月比对七类对象行数;另按月统计「可关联到采购订单行」的运单比例——该比例是有效提前期能否按物料类别统计的前提 | 源端计数口径 |
| 失败补传与断点 | 按日作业失败按运单号区间分片重取;连续两日失败挂起并回单 | 回单接收窗口 |
| 入口质量检查项 | 运单号非空且唯一;起运时点不晚于送达时点;实际时长与两时点之差一致;地址字段可解析到行政区划层级;数量非负 | 地址的标准化程度 |
| 勘察核实与适配验证时点 | T+1 至 T+2 月核实接口形态与订单号填写率;T+2 至 T+4 月试采适配验证;T+4 月起转常态 | 勘察问卷回填 |
| 验收口径 | 七类对象行数核对一致;运单与订单可关联比例随预处理迭代逐步提高,首月以试采结论为基线 | 目标比例与基线取值 |
表 2-14 数据来源:招标文件 3.2.2.1.7(b0847–b0852)。
用途。 能源管理系统须提供能耗监控、能耗统计、能耗分析三类时序数据(b0854、b0855)。它在本项目中有两项用途:一是热处理过程智能监控场景的能耗维度——热处理是本企业的高耗能环节,加热功率与保温时长的调整空间要靠能耗数据来度量;二是制造过程域数据集的时序模态补充,与设备运行状态数据同属时序模态,计入「涵盖超过 3 种模态」与「多模态数据条数占比不低于 40%」的统计口径(b0670)。
数据范围。 取能耗监控的原始计量点读数、能耗统计的按时段与按对象汇总值、能耗分析的既有分析结论三类(b0855)。原始读数的价值高于汇总值——汇总口径一旦变化,历史汇总值不可比,而原始读数可以按新口径重算。因此取数以原始读数为主,汇总值作为校验参照一并取回。
接入方式与频次。 走时序与设备通道。能源管理系统多以时序库或接口形式提供数据,按计量点与时间窗分片取数,维护每个计量点的采集水位线(b0856)。常态按小时分片拉取,历史回溯按日分片置于低峰窗口(b0857)。
本系统特有异常。 时序数据的典型异常有三类:计量点读数缺口、读数跳变(如计量器归零导致累计值回退)、采样周期不一致。三类处置口径统一为:缺口按缺口时间窗定向补采,补采不到的在采集记录中按测点与时间窗如实登记;跳变不在采集环节修正,保留原值并打标;采样周期按测点登记在台账中,不做重采样。
表 2-15 EMS 系统接入要素表
| 要素 | 我方方案 | 须招标方确认或提供 |
|---|---|---|
| 取数对象 | 能耗监控原始计量点读数、能耗统计汇总值、能耗分析结论(b0855) | 计量点清单、量纲与采样周期 |
| 重点字段 | 计量点编码、时间戳、读数值、量纲、关联设备或区域编码 | 计量点与设备/车间的对应关系 |
| 接入通道 | 时序与设备通道(时序库只读查询或接口) | 数据库连接信息或 API 接口信息(b0856) |
| 增量机制与频次 | 按计量点与时间窗分片,维护每测点水位线;常态按小时,历史回溯按日分片置于低峰窗口 | 业务低峰时段(b0857)、单次查询测点数上限 |
| 特有处置 | 缺口定向补采并登记;累计值回退打标不修正;采样周期登记不重采样 | 计量器更换与归零的历史记录 |
| 主键与关联键 | 计量点编码+时间戳为时序主键;汇总值以「汇总对象+统计周期+口径版本」唯一。对外关联键为计量点与设备编码、车间或区域编码的对应关系;该对应关系若不在本系统维护,须自 EAM 侧取回后在标准化层建立 | 对应关系维护在哪套系统 |
| 时间戳与时间基准 | 时序时间戳按计量装置本地时钟记录,试采期测定其与统一时间基准的偏差并按计量点登记;汇总值取统计周期起止而非生成时点 | 计量装置的时钟同步方式 |
| 变更与删除的捕获 | 时序点位为追加写,无更新与删除;汇总值存在重算(口径调整、补抄表),按口径版本并存不覆盖历史值;计量器更换或归零造成累计值回退,保留原值并打标,采集环节不修正 | 计量器更换与归零的历史记录 |
| 幂等与去重 | 以「计量点编码+时间戳」判重,同一时点的重复读数取首次并记重复次数;按时间窗重跑不产生重复点 | 重复读数的业务成因 |
| 对账口径 | 按月以汇总值反查原始读数的累计值,两者差异按计量点逐项列出;另按计量点统计数据缺口时长与缺口段数 | 汇总值的计算口径说明 |
| 失败补传与断点 | 按计量点与时间窗维护水位线,缺口按缺口时间窗定向补采;补采不到的按计量点与时间窗如实登记,不做插值填充 | 源端历史数据的保留期限 |
| 入口质量检查项 | 读数可解析为数值;量纲与台账登记一致;时间戳单调;单点读数落在量程区间内;采样间隔与登记周期一致 | 各计量点的量程与采样周期 |
| 勘察核实与适配验证时点 | T+1 至 T+2 月取得计量点清单并核实时序库或接口形态;T+2 至 T+4 月试采适配验证并测定时钟偏差;T+4 月起按小时分片转常态 | 计量点清单、量纲与采样周期 |
| 验收口径 | 计量点覆盖数与登记清单一致;各测点的数据缺口时长占比收敛至约定阈值内 | 阈值取值 |
表 2-15 数据来源:招标文件 3.2.2.1.8(b0853–b0857)。
用途。 售后服务管理系统须提供设备远程运维相关业务原始数据(b0859)。它是刮板输送装备健康智能诊断场景的主要数据来源,也是本项目中数据形态最齐全的一套系统——同时提供时序数据、结构化业务数据与非结构化文档三类(b0860–b0862)。
健康诊断场景当前的核心困难是「报警不少,故障标签很少」:远程运维平台按阈值与多参数组合规则给出报警,但报警与真实故障之间缺少可核对的证据,历史数据没有事件级标签。因此本系统的取数重点不只是时序曲线,更在于把维修事实与数据段配上——售后工单上记录的是「什么时候、哪台设备、换了什么件、判定为什么故障」,这正是时序数据缺失的标签。
数据范围。 时序部分取设备健康状态时序数据,含测点配置、时序值与报警日志(b0860)。结构化部分取设备运维计划、报警处置记录、售后工单、备件消耗四类(b0860)。非结构化部分取设备档案(Word)、维修记录(PDF)、诊断报告(PDF、Word)、故障案例(PDF、Word)四类文档(b0861、b0862)。故障案例一类对指令微调与强化学习偏好数据有直接价值:一份写清了现象、排查过程与结论的案例,本身就是一条带推理过程的样本。
接入方式与频次。 三类数据走三条通道。时序部分走时序与设备通道,按测点与时间窗分片;结构化部分走库只读直连或接口通道,按日增量;文档部分走文件与附件通道,按清单比对下载(b0863)。批量与历史回溯置于低峰窗口(b0864)。
本系统特有异常。 第一类是测点可信度:井下工况恶劣、传感器易损,存在断链、漂移与失效测点。采集环节的处置是按测点统计数据连续性与取值分布,把疑似异常测点标注出来随采集记录提交,但不剔除数据——判断测点是否失效属于诊断场景的建模工作,采集环节剔除会掩盖问题。第二类是耦合干扰:刮板输送机被液压支架推移、被采煤机在机身上行走,在役监测信号中含有来自其他设备的耦合干扰。
采集环节须把同一设备同一时间窗的相关通道一并取回而非按单通道取数,否则后续无法做干扰分离。第三类是报警与工单的时点关联:报警日志与售后工单在时间上有先后,但不一定有显式关联字段。处置办法是两者都取,并保留设备编码与时点,由预处理环节按时间窗配对。第四类是维修记录的历史缺口:维修事实无结构化记录是已知缺口,非结构化的维修记录文档是当前唯一来源,须完整取回。
须招标方提供。 数据库连接信息、接口信息或文件传输服务信息(b0863);业务低峰时段(b0864)。
表 2-16 SOS 系统接入要素表
| 要素 | 我方方案 | 须招标方确认或提供 |
|---|---|---|
| 时序范围 | 设备健康状态时序数据、测点配置、报警日志(b0860) | 测点清单、量纲、采样周期、安装位置 |
| 结构化范围 | 设备运维计划、报警处置、售后工单、备件消耗(b0860) | 各对象实际表名;工单故障分类码定义 |
| 非结构化范围 | 设备档案(Word)、维修记录(PDF)、诊断报告(PDF/Word)、故障案例(PDF/Word)(b0861、b0862) | 文件服务只读目录与文档挂接关系 |
| 接入通道 | 时序与设备通道+库只读直连+文件与附件通道,三路并行 | 数据库连接信息、API 接口信息或 FTP 信息(b0863) |
| 增量机制与频次 | 时序按测点分片(常态小时级);结构化按日增量;文档按清单比对;批量置于低峰窗口 | 业务低峰时段(b0864) |
| 特有处置 | 疑似异常测点标注不剔除;同设备同时间窗多通道一并取回以备干扰分离;报警与工单按时点配对由下游完成 | 哪些测点已知失效、更换记录 |
| 入口脱敏重点 | 矿方客户名称与井下地理位置按授权范围处理;服务工程师个人信息假名化 | 矿方信息的可用范围 |
| 主键与关联键 | 测点编码+时间戳为时序主键;售后工单号为结构化主键;文档以资产标识唯一。对外关联键为设备档案编码(向 EAM 设备编码对齐)与矿方客户标识;报警日志与售后工单之间无显式关联字段,两者的设备编码与时点一并取回供下游按时间窗配对 | 工单上设备编码的填写率 |
| 时间戳与时间基准 | 时序取采集时点与上传时点两组——井下网络中断会使两者相差很远,只取上传时点会把数据放到错误的时间位置;工单取报修、到场、完修三个时点 | 采集时点是否随数据一并上传 |
| 变更与删除的捕获 | 时序追加写,无更新与删除;工单的故障分类与处置结论存在回填与改判,按更新时点捕获并保留历次版本;文档改版按内容摘要识别 | 工单回填的业务时限 |
| 幂等与去重 | 时序以「测点编码+采集时点」判重;工单以「工单号+更新时点」判重;文档以内容摘要判重,同一故障案例的多份导出件合并为一条资产并记多来源 | 文档导出的常见重复形态 |
| 对账口径 | 按月比对工单与备件消耗行数;按测点统计缺口时长占比与断链次数;文档按清单件数比对;另按月统计「可与时序数据配对的工单」件数——该数值是健康诊断场景样本量的直接度量 | 源端计数口径 |
| 失败补传与断点 | 时序按测点与时间窗定向补采;井下网络中断造成的缺口按中断时段登记,不插值;文档断点续传,失败件入重试队列 | 已知的网络中断时段记录 |
| 入口质量检查项 | 测点读数落在量程内;时间戳单调;同设备的相关通道在同批次内齐备;工单必填项非空;文档可打开且类型与扩展名一致。矿方信息的授权范围校验为强制项 | 量程与通道分组定义 |
| 勘察核实与适配验证时点 | 三类数据三条通道分别核实:T+1 至 T+2 月完成时序库、业务库与文件服务三侧的形态核实;T+2 至 T+4 月三路并行试采,适配验证须确认同设备多通道可在同批次内取回;T+4 月起转常态 | 三侧授权的开通时点是否一致 |
| 验收口径 | 测点覆盖与登记清单一致;售后工单行数核对一致;故障案例文档数与清单一致;可与时序数据配对的工单比例逐步提高,首月以试采结论为基线 | 目标比例与基线取值 |
表 2-16 数据来源:招标文件 3.2.2.1.9(b0858–b0864)。
用途。 设备资产管理系统须提供设备资产管理相关业务原始数据(b0866)。它在本项目中是厂内设备的档案基准:热处理场景要知道炉台的型号与功率配置,焊接场景要知道机器人工位与设备参数,诊断场景要把测点挂到设备上。设备编码的权威定义在这套系统里,其他系统的设备标识向它对齐。
数据范围。 取设备台账、设备档案、设备点检、维修工单、作业计划五类结构化数据(b0867、b0868)。设备台账须取到设备编码、型号、规格、安装位置、所属车间与状态;点检与维修工单须取到执行时点与处置结论,这两类是厂内设备异常的标签来源,与售后服务系统对在役装备的作用相同。
接入方式与频次。 走库只读直连或接口通道(b0869)。台账与档案按周取增量;点检、维修工单与作业计划按日取增量,置于低峰窗口(b0870)。
本系统特有异常。 第一类是设备编码与数据采集与监控系统的设备标识不一致:组态系统中的设备命名常由现场习惯形成,与资产台账编码不同。处置办法是两侧的标识字段都取回,并把数据采集与监控系统侧的位号命名规则作为映射线索一并登记,映射构建由治理环节完成。第二类是设备档案附件:部分设备档案以文档形式存在,按文件与附件通道取回。
表 2-17 EAM 系统接入要素表
| 要素 | 我方方案 | 须招标方确认或提供 |
|---|---|---|
| 取数对象 | 设备台账、设备档案、设备点检、维修工单、作业计划(b0867、b0868) | 各对象实际表名;设备状态码定义 |
| 重点字段 | 设备编码、型号规格、安装位置、所属车间、点检与维修执行时点与结论 | 设备编码的编码规则 |
| 接入通道 | 库只读直连或接口通道;档案附件走文件与附件通道 | 数据库连接信息或 API 接口信息(b0869) |
| 增量机制与频次 | 双键水位线;台账与档案按周,点检与工单按日,置于低峰窗口 | 业务低峰时段(b0870) |
| 特有处置 | 与 SCADA 侧设备标识的差异一并取回;位号命名规则登记为映射线索 | 位号命名规则说明 |
| 主键与关联键 | 设备编码为主键;点检与维修工单以单号唯一。本系统是厂内设备编码的权威来源,对外关联键为 SCADA 位号、热处理炉台号与 SOS 设备档案编码;位号命名规则一并取回作为映射线索 | 位号命名规则说明 |
| 时间戳与时间基准 | 取设备启用时点、状态变更时点、点检执行时点与维修完工时点;安装位置的变更须带生效区间,不覆盖历史位置——测点与设备的对应关系依赖安装位置的历史 | 安装位置变更是否留历史 |
| 变更与删除的捕获 | 设备报废、封存与调拨按状态与状态变更时点识别,台账行不删除;维修工单的处置结论存在回填,按更新时点捕获 | 报废设备的台账保留规则 |
| 幂等与去重 | 以「设备编码+状态变更时点」判重台账版本;工单以「单号+更新时点」判重 | 状态变更是否留流水 |
| 对账口径 | 按月比对五类对象行数;另按月统计设备编码与 SCADA 位号、热处理炉台号的可映射件数——该数值决定时序数据能否挂到设备上 | 两侧命名规则的对照资料 |
| 失败补传与断点 | 周作业失败并入次日增量;工单按日分片重取 | —(按通用口径执行) |
| 入口质量检查项 | 设备编码非空且唯一;状态码落在码值内;安装位置落在位置档案内;点检与维修时点不早于设备启用时点;型号规格的非空率 | 状态码定义与位置档案 |
| 勘察核实与适配验证时点 | T+1 至 T+2 月核实设备编码规则并取得位号命名规则说明;T+2 至 T+4 月试采适配验证并产出首份编码映射可行性报告;T+4 月起转常态 | 编码规则文档 |
| 验收口径 | 五类对象行数核对一致;设备编码与 SCADA 位号可映射比例逐步提高,首月以试采结论为基线 | 目标比例与基线取值 |
表 2-17 数据来源:招标文件 3.2.2.1.10(b0865–b0870)。
用途。 产品全生命周期管理系统承载研发设计相关业务原始数据,招标文件明确其用途是「支撑数据标注和模型训练」(b0872、b0875)。本系统是本项目中单体价值最高的数据源,原因在于两件事。
第一件是成对样本。历史图纸约六十三万张,且每一张在历史上都配有一张已审核签发的工艺卡片。一张图纸进去、一张工艺卡出来,中间是工艺人员的专业判断——这正是板材备料工艺智能设计场景所要学的东西。六十三万对样本在矿山装备制造领域是极为稀缺的资产,它的价值不在体量而在配对关系的真实性:每一张工艺卡都经过审核签发,是实际执行过的工艺,而非人工构造的训练数据(b0875)。
第二件是原生图纸。板材备料工艺设计要读懂多视图的投影关系,读出材料牌号、板厚、外形轮廓、孔与方孔、坡口与倒角、压弯线与粗糙度符号。这些信息在原生 CAD 图纸文件(DWG、DXF)中是结构化的图元与标注,在 PDF 或截图中则退化为像素。因此本项目取图纸一律取原生文件,不以截图或 PDF 替代原生格式(b0874)。
数据范围。 结构化部分取物料清单编号、工序数据、变更记录、零部件信息四类(b0873)。工序数据一项与备料分厂现掌握的二十八道工序口径对应,二十八道以工艺部门确认的正式工序字典为准;变更记录一项是工艺演进的证据,记录了同一零件的工艺如何被修订,对指令微调样本的质量有直接影响。非结构化部分取选型方案(PDF、Word)、工艺图纸(PDF)、CAD 图纸(DWG、DXF)、工艺卡片(PDF)四类(b0874、b0875)。
接入方式与频次。 结构化部分走接口通道或库只读直连;图纸与文档走文件与附件通道(b0876)。这里有一项已知的技术困难须如实写明:该系统的原生图纸不支持整批导出。据此我方设计两条路径并行。一是按图号或项目批次调用图纸读取接口,分批取回,批次大小与并发按对方给定上限配置;二是在授权范围内挂载文件服务只读目录,按图号清单比对下载。
两条路径都不可用时,退到由甲方按批次导出并通过文件服务交付,我方按清单核收——这一退路会延长历史图纸的归集周期,相应的时间影响在第 6 节列出。历史图纸的六十三万张规模须按项目或年份分片,分片批量一律置于低峰窗口执行(b0877)。
本系统特有异常。 第一类是图纸与工艺卡的配对关系不在数据表中:配对关系存在于人的记忆与文件目录中,这是本项目最关键的一处已知缺口。采集环节的处置是把三类线索一并取回——图号与工艺卡片文件名的命名规则、文件目录的组织结构、结构化侧的零件号与工序数据关联,由预处理环节据此重建配对,配对结果须经工艺人员抽样核对。第二类是图号命名规则不统一:历史积累中存在多套命名习惯。
处置办法是按实际出现的命名形态分类统计并登记,不在采集环节做归一。第三类是大文件与并发:DWG 文件单个不大但数量巨大,按分片并发下载并断点续传,单次扫描目录深度与文件数设上限以免压垮文件服务。第四类是七八成图纸属可借用可对照的既有零件,这意味着相似图纸大量存在;采集环节按行指纹识别完全重复的文件并去重登记,相似但不相同的文件一律保留,相似度判定属预处理环节的工作。
须招标方提供。 数据库连接信息、接口信息或文件传输服务信息(b0876);业务低峰时段(b0877)。另须明确图纸批量导出或接口批量读取的可行方式与授权范围,这是本系统能否按期完成历史归集的决定性前提。
表 2-18 PLM 系统接入要素表
| 要素 | 我方方案 | 须招标方确认或提供 |
|---|---|---|
| 结构化范围 | 物料清单编号、工序数据、变更记录、零部件信息(b0873) | 各对象实际表名;工序字典正式版本 |
| 非结构化范围 | 选型方案(PDF/Word)、工艺图纸(PDF)、CAD 图纸(DWG/DXF)、工艺卡片(PDF)(b0874、b0875) | 文件服务只读目录;图纸批量读取的可行方式 |
| 取数原则 | 图纸取原生 DWG/DXF;PDF 与截图仅作辅助,不替代原生格式 | 原生文件的授权范围与导出限制 |
| 接入通道 | 接口通道或库只读直连(结构化)+文件与附件通道(图纸与文档) | 数据库连接信息、API 接口信息或 FTP 信息(b0876) |
| 增量机制与频次 | 历史图纸按项目或年份分片初始化,置于低峰窗口;此后按清单四项比对取增量;结构化按日增量 | 业务低峰时段(b0877)、单次批量上限与并发上限 |
| 配对线索 | 图号与工艺卡文件名命名规则、文件目录组织结构、零件号与工序数据关联,三类一并取回 | 命名规则说明、目录组织说明 |
| 特有处置 | 完全重复文件按行指纹去重登记;相似文件一律保留;图号命名形态分类统计不归一 | 历史命名规则的分期沿革 |
| 主键与关联键 | 图号为图纸域主键;物料清单编号+版本号为结构域主键;零部件以零件号唯一。对外关联键为物料编码(向 ERP 对齐)、零件号(向 MES 对齐)与项目号。图纸与工艺卡的配对关系不在数据表中,以图号、工艺卡文件名命名规则与文件目录组织三类线索一并取回 | 命名规则说明与目录组织说明 |
| 时间戳与时间基准 | 取图纸创建、审核签发与升版三个时点,以及工艺卡的签发时点;历史扫描件的文件系统时间不等于图纸签发时间,两者分别登记,不以文件时间替代业务时间 | 签发时点在系统中的存放字段 |
| 变更与删除的捕获 | 图纸升版以新版本文件表达,旧版保留并串入版本链;物料清单改版按版本号与生效日期并存;变更记录表本身是工艺演进的证据,全量取回不做裁剪 | 变更记录表的字段清单 |
| 幂等与去重 | 结构化以「对象标识+版本号」判重;图纸文件以内容摘要判重——完全重复的去重登记,相似但不相同的一律保留。七八成图纸属可借用可对照的既有零件,按相似度合并会丢掉零件之间的实际差异 | 历史归档中的重复成因 |
| 对账口径 | 历史图纸按分片核对已归集件数与清单总数,分片进度按月成表;结构化按月比对四类对象行数;另按批次统计「图纸与工艺卡成对」的件数,经工艺口抽样核对后作为配对率基线 | 清单总数口径与抽样核对方式 |
| 失败补传与断点 | 原生图纸不支持整批导出,按图号或项目批次分批取回,批次内失败只重跑该批次;接口与文件服务两条路径互为备份,一条不可用时切另一条并在采集记录中注明实际路径;两条都不可用时退到由招标方按批次导出交付、我方按清单核收 | 批量读取的可行方式与单次上限 |
| 入口质量检查项 | 图号非空且符合已登记的命名形态之一;物料清单层级无环且父子件均在零件档案内;DWG/DXF 文件可被解析器打开且图元数非零;工艺卡文件可打开且页数非零;原生件与扫描件分别计数 | 命名形态的历史沿革说明 |
| 勘察核实与适配验证时点 | 列为勘察优先项(单体价值最高且取数受限):T+1 月内完成图纸批量读取方式的核实与通道选择;T+2 至 T+4 月以一个代表性项目批次完成适配验证并实测单窗口可归集件数;六十三万张的历史归集排在 T+3 至 T+9 月,分片进度按月核对 | 批量读取方式与授权范围的书面确认 |
| 验收口径 | 历史图纸归集数量按分片进度核对,逐步接近登记清单总数;图纸与工艺卡可配对比例以首批抽样核对结果为基线,按季度提高 | 清单总数口径、抽样核对方式与基线 |
表 2-18 数据来源:招标文件 3.2.2.1.11(b0871–b0877)、3.2.6.3.1 产品工艺设计域采集要求(b1371–b1374)及第 1 节事实口径(63 万张历史工艺样本、28 道备料工序)。
用途。 数据采集与监控系统须提供工业设备工况与物联网相关业务原始数据(b0879)。它是制造过程域数据集中时序模态的主要来源,直接支撑焊接过程控制智能监控场景。
焊接场景当前的困难很具体:现有十五台焊接机器人已通过该系统采集电流、电压、温度、速度等过程参数,但数据利用停留在参数记录与简单阈值报警层面,参数流与工件、焊道之间没有对应关系(b1678)。因此本系统的取数设计有一条贯穿要求:凡取时序数据,必取时间戳与设备位号,并在同批次内取回同一设备同一时间窗的全部相关通道。单通道取数会使后续的参数横向比对无法进行。
数据范围。 按招标文件所列取设备电流、电压、温度、湿度、设备运行状态、焊接电流与电压、送丝速度、气体流量八类时序数据(b0880、b0881)。设备运行状态一项是时序数据的分段依据——同一台设备在待机、空载、焊接三种状态下的参数分布完全不同,不取状态就无法分段,分析结果会被待机数据稀释。
接入方式与频次。 走时序与设备通道。优先按时序库只读查询或组态系统历史数据接口取数,按位号与时间窗分片,维护每位号的采集水位线(b0882)。常态按小时分片拉取,历史回溯按日分片置于低峰窗口(b0883)。该系统的既有采集范围仅覆盖部分车间的部分设备,采集范围的扩展按各场景数据要求分批进行,首期以试点产线与试点车间所需设备为准,扩展清单以现场勘察结论为准——这一点属硬件与感知设备建设范围,采集侧只在扩展到位后把新增位号纳入台账并开始取数。
本系统特有异常。 第一类是采样周期与数据量:焊接过程参数的采样周期通常为秒级甚至更密,单位时间数据量大。处置办法是按位号分组错峰拉取,单次查询的位号数与时间跨度设上限,并在台账中按位号登记原始采样周期;采集环节不做降采样,降采样属预处理环节按场景需要执行。第二类是位号命名与设备编码不一致,处置同 2.12 节。
第三类是时间基准偏差:组态系统的时间源可能与业务系统不同步,若偏差未知,时序与工单的对齐就会错位。处置办法是在试采阶段测定该系统时间源与统一时间基准的偏差并登记,每一批次的采集记录中注明测定值与测定时点;时间基准归一在标准化层执行。第四类是数据缺口:设备停机、网络中断或采集点故障造成的缺口按缺口时间窗定向补采,补采不到的按位号与时间窗如实登记。
须招标方提供。 数据库连接信息或接口信息(b0882);业务低峰时段(b0883)。另须提供位号清单、量纲、采样周期与位号对应的物理设备与安装位置说明。
表 2-19 SCADA 系统接入要素表
| 要素 | 我方方案 | 须招标方确认或提供 |
|---|---|---|
| 取数对象 | 设备电流、电压、温度、湿度、设备运行状态、焊接电流与电压、送丝速度、气体流量(b0880、b0881) | 位号清单、量纲、采样周期、位号与物理设备对应关系 |
| 取数原则 | 必取时间戳与设备位号;同设备同时间窗的相关通道在同批次内一并取回 | 哪些位号属同一设备同一工艺段 |
| 接入通道 | 时序与设备通道(时序库只读查询或组态历史数据接口) | 数据库连接信息或 API 接口信息(b0882) |
| 增量机制与频次 | 按位号与时间窗分片,维护每位号水位线;常态按小时,历史回溯按日分片置于低峰窗口 | 业务低峰时段(b0883)、单次查询位号数与时间跨度上限 |
| 特有处置 | 原始采样周期按位号登记,采集环节不降采样;时间源偏差试采期测定并逐批次登记;缺口定向补采后如实登记 | 时间源配置、已知停机与故障时段 |
| 范围扩展 | 新增位号到位后纳入台账并开始取数,按试点产线与试点车间分批 | 扩展清单与到位时点 |
| 主键与关联键 | 位号+时间戳为主键。对外关联键为设备编码(向 EAM 对齐)与工位号(向 MES 焊接工序对齐);参数流与工件、焊道之间无对应键,取数时同设备同时间窗的全部相关通道在同批次内一并取回,为下游按时间窗配对留出条件 | 哪些位号属同一设备同一工艺段 |
| 时间戳与时间基准 | 组态系统时间源可能与业务系统不同步,试采期测定偏差并登记,每批次采集记录注明测定值与测定时点;时间基准归一在标准化层执行,采集环节保留原始时间戳 | 时间源配置与同步方式 |
| 变更与删除的捕获 | 时序追加写,无更新与删除;位号配置变更(量纲、采样周期、测点改接)按配置版本登记,变更前后的数据分段归属不同配置版本,不混为一段 | 位号配置变更的历史记录 |
| 幂等与去重 | 以「位号+时间戳」判重,同一时点的重复点取首次并记重复次数;按时间窗重跑不产生重复点 | 重复点的业务成因 |
| 对账口径 | 按位号比对源端点数与入库点数;按位号统计缺口时长占比与缺口段数;另按月统计「可定位到工单与焊道」的参数段比例——该比例是焊接场景样本量的直接度量 | 源端点数的查询方式 |
| 失败补传与断点 | 按位号与时间窗维护水位线,缺口按缺口时间窗定向补采;单次查询超时自动缩小时间跨度与位号数后重试;补采不到的按位号与时间窗如实登记,不做插值 | 源端历史数据的保留期限 |
| 入口质量检查项 | 读数可解析为数值;量纲与台账一致;时间戳单调且采样间隔与登记周期一致;设备运行状态码落在码值内;同批次内的相关通道齐备 | 运行状态码定义与通道分组 |
| 勘察核实与适配验证时点 | T+1 至 T+2 月取得位号清单并核实时序库或组态历史接口形态;T+2 至 T+4 月试采适配验证并测定时间源偏差;既有覆盖仅及部分车间部分设备,扩展位号随感知设备到位分批纳入,纳入时点随硬件交付 | 扩展清单与到位时点 |
| 验收口径 | 已授权位号的覆盖数与登记清单一致;各位号数据缺口时长占比收敛至约定阈值内;焊接参数可定位到工单与焊道的比例逐步提高,首月以试采结论为基线 | 阈值取值、目标比例与基线 |
表 2-19 数据来源:招标文件 3.2.2.1.12(b0878–b0883)、3.2.6.3.1 制造过程域采集要求(b1377–b1380)及焊接场景现状描述(b1678)。
用途。 协同办公系统须提供协同办公相关业务原始数据,形态全部为非结构化文档(b0885)。它是五个通用场景的语料主体:管理制度智能问答要查制度,合同合规智能审查要对照合同条款,标书智能问答要检索历史标书,技术标准智能问答部分资料亦在此沉淀。本系统同时是预训练子集中通用语料的来源之一。
数据范围。 招标文件写明两类:十一类管理制度(PDF)、九类合同文档(PDF、Word)(b0886、b0887)。「十一类」与「九类」是甲方既有的分类口径,取数时按该分类组织目录结构,不自行重新分类——通用场景回答问题时须说清依据的是哪一类、哪一版文件,分类口径一旦改动,答案的可核对性就下降。
除文档正文外,须一并取回文档的版本状态、生效日期、废止日期与访问控制信息。版本与权限是通用场景的核心约束:回答一个问题时能否说清依据的是哪一版文件、提问人是否有权看到这份依据,取决于这两组字段是否在采集时一并取回。
接入方式与频次。 走文件与附件通道,按只读目录或文档接口取数,按清单四项比对下载;文档元数据(标题、分类、版本、生效日期、权限标签)走接口或库只读直连(b0888)。批量初始化置于低峰窗口;此后按日扫描清单(b0889)。
本系统特有异常。 第一类是同名文件内容已变:制度与合同文档的修订常沿用原文件名,仅靠路径与修改时间无法识别。处置办法是按内容摘要比对,摘要变化即视为新版本并另存,旧版本保留。第二类是扫描件与可解析文本混杂:部分历史文档为扫描图像,须经光学字符识别才能用于语料。
采集环节按文件是否含可提取文本层分类标注,不在采集环节做识别——识别属多格式多模态录入环节的工作,见第 3 节。第三类是权限敏感文档:部分合同与制度涉及企业秘密,须按访问控制信息分级,未授权范围的文档不取。这一判断以甲方提供的权限标签为准,我方不自行判定可否取用。
表 2-20 OA 系统接入要素表
| 要素 | 我方方案 | 须招标方确认或提供 |
|---|---|---|
| 取数对象 | 十一类管理制度(PDF)、九类合同文档(PDF/Word)及其元数据(b0886、b0887) | 十一类与九类的分类明细;元数据字段清单 |
| 必取元数据 | 分类、版本状态、生效日期、废止日期、访问控制标签、文档归属部门 | 权限标签的取值定义与分级口径 |
| 接入通道 | 文件与附件通道(正文)+接口或库只读直连(元数据) | 数据库连接信息、API 接口信息或 FTP 信息(b0888) |
| 增量机制与频次 | 按清单四项比对,摘要变化即为新版本并另存;批量初始化置于低峰窗口,此后按日扫描 | 业务低峰时段(b0889) |
| 特有处置 | 扫描件与含文本层文件分类标注,识别交录入环节;未授权范围文档不取 | 哪些分类属未授权范围 |
| 入口脱敏重点 | 合同相对方个人信息假名化;未公开商务条款按授权裁剪 | 可用于训练的条款范围 |
| 主键与关联键 | 文档标识为主键,版本以「文档标识+版本号」唯一。对外关联键为合同号(向 CRM 合同号、ERP 销售订单号对齐)与制度文号;元数据与正文以文档标识挂接 | 文档标识字段名;合同号在文档元数据中的位置 |
| 时间戳与时间基准 | 取发布时点、生效日期与废止日期三组,另取文件最后修改时间。生效与废止日期决定问答场景取哪一版,缺这两项的文档不进入问答语料 | 生效与废止日期的填写规范 |
| 变更与删除的捕获 | 制度与合同的修订常沿用原文件名,仅凭路径与修改时间无法识别,一律以内容摘要比对:摘要变化即视为新版本并另存,旧版保留并串入版本链;文档下架按状态识别,原件保留 | 文档下架的业务规则 |
| 幂等与去重 | 以内容摘要判重;同一文档的多格式导出件(PDF 与 Word)合并为一条资产并记多来源,不重复计数 | 同一文档的多格式并存情况 |
| 对账口径 | 按十一类制度与九类合同的既有分类口径逐类比对件数与清单;按月统计生效日期与版本字段的完整度;权限标签缺失的件数单列 | 两类文档的分类明细与清单 |
| 失败补传与断点 | 按目录分片扫描与下载,分片失败只重跑该分片;大文档断点续传;权限受限而取不到的文档不重试,直接登记为授权外并回单 | 授权外范围的回单接收窗口 |
| 入口质量检查项 | 文件可打开且类型与扩展名一致;是否含可提取文本层(分类标注,识别交录入环节);分类标签落在既有分类口径内;版本与生效日期的非空率;权限标签非空。权限标签缺失为强制项,缺失即不放行 | 权限标签的取值定义与分级口径 |
| 勘察核实与适配验证时点 | T+1 至 T+2 月核实文档库形态与权限标签体系并确认未授权范围;T+2 至 T+4 月以一类制度与一类合同完成适配验证;T+3 月起批量初始化,T+4 月起按日扫描转常态 | 未授权范围的书面界定 |
| 验收口径 | 两类文档的件数与清单一致;版本与生效日期字段完整度收敛至约定阈值内 | 清单口径与阈值取值 |
表 2-20 数据来源:招标文件 3.2.2.1.13(b0884–b0889)。
用途。 久其系统须提供经营相关指标数据(b0891)。它支撑决策数据智能问答场景,也为供需计划域数据集提供经营结果侧的口径。与企业资源计划系统的区别在于:企业资源计划系统提供的是业务明细,久其系统提供的是对外报送口径的指标值。两者数值可能不一致,这种不一致不是错误,而是口径差——报送口径有合并、调整与追溯重述。决策数据问答场景回答「去年营业收入多少」时,依据应是报送口径,因此这套系统不可被替代。
数据范围。 取营业收入、利润、成本、资产负债四类指标数据(b0892)。每一项指标须取到指标值、报告期、口径版本与是否追溯重述标记。只取指标值而不取口径版本,历史数据会因重述而前后不一致,问答场景就会给出相互矛盾的答案。
接入方式与频次。 走应用接口通道或库只读直连(b0893)。指标数据按报告期产生,按月或按季在期末报送完成后取数一次,置于低峰窗口(b0894)。
本系统特有异常。 第一类是追溯重述:历史期间的指标值可能被后续调整。处置办法是按报告期与口径版本双键留存,不覆盖历史值,使任一时点的口径都可还原。第二类是指标数据属企业财务敏感信息,按授权范围取数,并在数据集中按敏感等级分级管理;未公开的明细口径按第 2.1.3 节裁剪。
表 2-21 久其系统接入要素表
| 要素 | 我方方案 | 须招标方确认或提供 |
|---|---|---|
| 取数对象 | 营业收入、利润、成本、资产负债四类指标数据(b0892) | 指标清单与指标编码定义 |
| 必取字段 | 指标值、报告期、口径版本、追溯重述标记、报送状态 | 口径版本的取法与重述记录 |
| 接入通道 | 应用接口通道或库只读直连 | 数据库连接信息、API 接口信息或 FTP 信息(b0893) |
| 增量机制与频次 | 按报告期与口径版本双键留存,不覆盖历史值;按月或按季期末报送完成后取数一次,置于低峰窗口 | 业务低峰时段(b0894)、报送完成标志 |
| 入口脱敏重点 | 按授权范围取数并按敏感等级分级;未公开明细口径裁剪 | 可用于训练与问答的指标范围 |
| 主键与关联键 | 以「指标编码+报告期+口径版本」三键唯一。对外关联键为组织机构编码(向主数据平台对齐)。指标与 ERP 明细之间不建立强关联——两者口径不同,强行对应会产生错误结论,差异作为口径差登记 | 指标编码体系与组织维度定义 |
| 时间戳与时间基准 | 以报告期而非取数时点作为数据的时间定位,另取报送完成时点与重述时点;按月或按季在报送完成标志出现后取数,不以取数时点判定数据归期 | 报送完成标志的取法 |
| 变更与删除的捕获 | 追溯重述是本系统的常态:历史期间的指标值会被后续调整,按报告期与口径版本双键留存,不覆盖历史值;指标口径调整按口径版本号区分 | 重述记录的存放方式 |
| 幂等与去重 | 以三键判重;同一报告期的多次重述各占一个口径版本,全部保留 | 口径版本号字段名 |
| 对账口径 | 按报告期比对四类指标的指标值与对外披露口径是否一致;另核对各报告期的覆盖是否连续,缺期单列 | 可用于核对的对外披露资料 |
| 失败补传与断点 | 报送窗口内取数失败按日重试至报送期结束;错过报告期的按报告期补取,不以相邻期替代 | 报送期的时间窗 |
| 入口质量检查项 | 指标值可解析为数值;报告期格式合规且连续;口径版本非空;重述标记与历史值并存;指标编码落在指标清单内。财务敏感指标的授权范围校验为强制项 | 指标清单与指标编码定义 |
| 勘察核实与适配验证时点 | T+1 至 T+2 月核实接口形态与报送完成标志;T+2 至 T+4 月以一个完整报告期完成适配验证;此后按报告期节奏转常态 | 首个可用于验证的报告期 |
| 验收口径 | 四类指标的报告期覆盖与清单一致;任一历史时点的口径可完整还原 | 覆盖年限要求 |
表 2-21 数据来源:招标文件 3.2.2.1.14(b0890–b0894)。
用途。 主数据管理平台须提供组织、人员、物料等主数据(b0896)。它在本项目中的作用是第 2.1.7 节所述对象贯通的参照起点:组织机构、人员与物料编码三类主数据若在该平台已有统一定义,跨系统映射的工作量会显著下降;若该平台仅覆盖部分主数据域,则映射须回到各源系统逐一对齐。因此本系统的勘察结论直接影响第 2.1.7 节工作的工期估算。
数据范围。 取组织机构、人员、物料编码三类结构化数据(b0897)。组织机构须取到层级关系与生效区间,组织调整历史对按部门口径的统计有直接影响;人员一类按最小必要原则仅取岗位与所属组织,不取个人身份信息与薪酬考核数据;物料编码须取到编码、名称、分类、计量单位、替代关系与状态。
接入方式与频次。 走应用接口通道或库只读直连(b0898)。主数据变更频率低,按日取增量即可,置于低峰窗口(b0899)。组织与物料的历史版本按生效区间留存,不覆盖。
本系统特有异常。 第一类是主数据覆盖范围不完整:平台可能只纳管了部分主数据域,或部分源系统尚未接入该平台。处置办法是在勘察阶段逐域核实纳管范围并登记,未纳管域在采集记录中标明,映射工作按未纳管处理。第二类是人员数据的个人信息:按第 2.1.3 节在入口处裁剪至岗位与组织维度,个人姓名、证件号、联系方式一律不进入数据集。第三类是物料替代关系缺失:标准件库缺适用条件、替代关系与在产状态三项字段是已知缺口,采集环节如实登记缺口,不做推测性补齐。
表 2-22 主数据管理平台接入要素表
| 要素 | 我方方案 | 须招标方确认或提供 |
|---|---|---|
| 取数对象 | 组织机构、人员(仅岗位与组织维度)、物料编码(b0897) | 纳管的主数据域清单;已接入该平台的源系统清单 |
| 必取字段 | 组织层级与生效区间;物料编码、名称、分类、计量单位、替代关系、状态 | 替代关系与状态字段是否已维护 |
| 接入通道 | 应用接口通道或库只读直连 | 数据库连接信息、API 接口信息或 FTP 信息(b0898) |
| 增量机制与频次 | 双键水位线,按日增量;历史版本按生效区间留存不覆盖 | 业务低峰时段(b0899) |
| 入口脱敏重点 | 人员数据裁剪至岗位与组织维度,个人身份信息不入库 | 岗位维度的可用粒度 |
| 特有处置 | 未纳管主数据域在采集记录中标明;缺失字段如实登记不补齐 | 未纳管域的后续纳管计划 |
| 主键与关联键 | 组织机构编码、人员岗位标识、物料编码分别为三域主键。本平台是对象贯通的参照起点:纳管范围内的编码直接作为映射基准,未纳管域回到各源系统逐一对齐 | 纳管的主数据域清单与已接入的源系统清单 |
| 时间戳与时间基准 | 组织与物料的每一版本取生效起止区间,不取单一「当前有效」视图——按部门口径的历史统计依赖组织调整的历史版本 | 生效区间字段名 |
| 变更与删除的捕获 | 主数据变更以新版本表达,按生效区间并存;停用与作废按状态识别,编码不回收不复用;物料替代关系的变更按关系表的生效区间捕获 | 编码是否存在回收复用情形 |
| 幂等与去重 | 以「编码+生效起始时点」判重;同一编码的多版本全部保留 | 版本号与生效区间的对应规则 |
| 对账口径 | 按月比对三类主数据行数;另按域统计纳管范围与未纳管范围的编码件数,未纳管部分在采集记录中标明并计入对象贯通的工作量估算 | 未纳管域的后续纳管计划 |
| 失败补传与断点 | 按日作业失败并入次日增量;主数据量小,失败后整表重取即可,不做分片 | —(按通用口径执行) |
| 入口质量检查项 | 编码非空且唯一;组织层级无环;生效区间不重叠不断档;计量单位落在单位字典内;人员数据经入口裁剪后复核不含个人身份信息(强制项) | 单位字典与岗位口径 |
| 勘察核实与适配验证时点 | 列为勘察前段项(其结论直接影响第 2.1.7 节工作的工期估算):T+1 月内完成纳管范围的逐域核实;T+2 至 T+4 月适配验证;T+4 月起转常态 | 逐域纳管范围的书面确认 |
| 验收口径 | 三类主数据行数核对一致;组织层级可还原至指定历史时点;纳管范围与未纳管范围清单齐备 | 核对口径 |
表 2-22 数据来源:招标文件 3.2.2.1.15(b0895–b0899)。
用途。 热处理群控系统须提供生产、开炉等相关业务原始数据(b0901)。它直接支撑热处理过程智能监控场景。该场景的要求是在不改动固定工艺参数的前提下把执行条件的差异管起来——为每一个处理批次建立完整档案,把装炉工件清单、材料批次、码装方式与装炉量、设定程序、实际温度曲线与检验结论串到一起。本系统提供的是其中最核心的两项:设定程序与实际曲线。
数据范围。 按招标文件所列取当前温度与设置温度、电流与电压、加热时间与冷却时间、冷却水温度、淬火液温度、淬火水温、温控测量值七组时序数据(b0902、b0903)。「当前温度」与「设置温度」成对取回是关键——热处理场景要识别的正是实际曲线对设定程序的偏离,缺任一侧则偏离无法度量。除时序数据外,须一并取回炉次工单、开炉与完工记录、工艺程序下发记录三类结构化数据:炉次级记录在该系统中可追溯,这是把时序曲线绑定到物理批次的唯一依据。
接入方式与频次。 走时序与设备通道取时序数据,按炉台与时间窗分片;炉次工单与开完工记录走库只读直连或接口通道,按日取增量(b0904)。历史回溯按日分片置于低峰窗口(b0905)。
本系统特有异常。 第一类是炉次与工件、材料批次、检测结果之间无稳定关联:这是热处理场景的已知核心缺口。采集环节把可用的关联线索一并取回——炉次工单上的工单号与零件批次号、开炉记录的时点与炉台号,由此与制造执行系统的工单、质量管理系统的检验记录在时间窗与标识上做配对,配对由预处理环节完成。第二类是装载量与码装方式无结构化记录:已知缺口。
这类数据的建设方式是在既有业务流程中增设填报入口并由系统预填、经手人确认,不属采集环节范围;采集环节如实登记缺口。第三类是温度测量系统校验记录未接入:计量校验记录决定了温度数据的可信度,若未接入则时序数据的绝对精度无法保证。处置办法是在勘察阶段确认校验记录的存放位置,具备条件时纳入取数范围,不具备时在采集记录中注明该限制。第四类是曲线采样密度:温控测量值的采样周期通常为秒级,处置同 2.14 节。
表 2-23 热处理群控系统接入要素表
| 要素 | 我方方案 | 须招标方确认或提供 |
|---|---|---|
| 时序范围 | 当前温度与设置温度、电流与电压、加热与冷却时间、冷却水温度、淬火液温度、淬火水温、温控测量值(b0902、b0903) | 炉台清单、测点量纲与采样周期 |
| 结构化范围 | 炉次工单、开炉与完工记录、工艺程序下发记录(炉次绑定所需) | 这三类记录的实际表名或接口 |
| 取数原则 | 当前值与设定值成对取回;时序必带炉台号与时间戳 | 设定程序的存放形式 |
| 接入通道 | 时序与设备通道(时序)+库只读直连或接口通道(结构化) | 数据库连接信息、API 接口信息或 FTP 信息(b0904) |
| 增量机制与频次 | 时序按炉台与时间窗分片并维护水位线;结构化按日增量;历史回溯按日分片置于低峰窗口 | 业务低峰时段(b0905) |
| 关联线索 | 炉次工单上的工单号与零件批次号、开炉时点与炉台号一并取回,供下游配对 | 这两个字段的填写完整度 |
| 特有处置 | 装载量与码装方式缺口如实登记;计量校验记录具备条件时纳入,不具备时注明限制 | 校验记录存放位置 |
| 主键与关联键 | 炉台号+测点+时间戳为时序主键;炉次工单号为结构化主键。对外关联键为工单号(向 MES 对齐)与零件批次号(向 WMS 批次、QMS 进厂检验批次对齐);炉次与工件、材料批次、检测结果之间无稳定关联,炉次工单上的工单号与零件批次号、开炉时点与炉台号一并取回供下游配对 | 这两个字段的填写完整度 |
| 时间戳与时间基准 | 取开炉时点、各段工艺程序下发时点与完工时点;时序按炉台本地时钟记录。设定值与实测值须取自同一时间轴,若设定程序与温控测量存放于不同子系统,两侧时钟偏差在试采期测定并登记 | 设定程序的存放形式与时钟同步方式 |
| 变更与删除的捕获 | 时序追加写,无更新与删除;工艺程序中途调整以新的下发记录表达,历次下发全部保留——实际曲线对设定程序的偏离要以当时生效的那一版设定值为基准;炉次工单作废按状态识别 | 中途调整的业务规则 |
| 幂等与去重 | 时序以「炉台号+测点+时间戳」判重;炉次工单以「炉次工单号+更新时点」判重;同一炉次的多段程序分别保留,不做合并 | 多段程序的编号规则 |
| 对账口径 | 按炉台比对源端点数与入库点数;按月比对炉次工单行数;另按月统计「可与炉次绑定的时序批次」比例与「设定值与实测值成对齐全」的炉次件数 | 源端点数的查询方式 |
| 失败补传与断点 | 按炉台与时间窗维护水位线,缺口定向补采;一炉在途时作业中断的,待该炉完工后按整炉时间窗重取,不取半段曲线 | 在途炉次的识别字段 |
| 入口质量检查项 | 温度与电参数落在量程内;设定值与实测值在同一批次内成对齐全;时间戳单调且覆盖整个炉次时段;炉次工单的工单号与零件批次号非空率;采样间隔与登记周期一致 | 量程区间与采样周期 |
| 勘察核实与适配验证时点 | T+1 至 T+2 月核实炉台清单、设定程序存放形式与温度测量系统校验记录的存放位置;T+2 至 T+4 月以若干完整炉次完成适配验证;T+4 月起转常态 | 校验记录存放位置 |
| 验收口径 | 炉台与测点覆盖与登记清单一致;炉次记录行数核对一致;可与炉次绑定的时序批次比例逐步提高,首月以试采结论为基线 | 目标比例与基线取值 |
表 2-23 数据来源:招标文件 3.2.2.1.16(b0900–b0905)及 3.2.6.3.1 制造过程域采集要求(b1380–b1381)。
用途与集成方式。 招标文件对本系统的规定与前十六个不同:平台与安全监管平台为单向集成,即由数据集加工生产平台从安全监控平台获取数据(b0907)。单向是责任边界,也是该系统接入设计的出发点——我方只接收,不向该平台发起写操作,不发起取数之外的任何调用。
数据范围。 须包括安全监管数据与生产过程监控数据两类(b0908)。招标文件对这两类未列具体字段,此处按两类数据的通常构成给出取数口径,具体字段以勘察结论为准:安全监管数据按事件、隐患、检查与整改四个对象取记录,含发生时点、区域或工位、分级、处置状态;生产过程监控数据按监控对象与时间取记录,含监控点标识、时点、状态量与报警标识。两类数据在本项目中的用途是支撑安全合规判断类样本的构建,并为制造过程域数据集补充安全维度的上下文。
接入方式与频次。 走单向监管数据通道。两种形态都支持:由对方按批次向我方推送,或由我方按只读接口拉取,具体以该平台的现有能力为准。网络层按单向可达配置,接收侧按批次号与时间窗水位线去重。频次按对方发布节奏接收;对方无固定节奏时,我方按日拉取一次,置于低峰窗口。
本系统特有异常。 第一类是字段口径未明:这是本系统与其他十六个系统最大的不同——招标文件未列字段清单。处置办法是把本系统列为勘察优先项,在勘察阶段确定对象与字段后再冻结取数范围;勘察前不预设结构。
第二类是数据敏感性:安全监管数据可能涉及人员伤害、违规处置等敏感内容,涉及个人的部分按第 2.1.3 节在入口处假名化,涉及监管报送的内容按授权范围取数。第三类是单向网络下的回单问题:单向可达意味着我方无法通过同一通道回报接收结果。处置办法是接收结果通过项目既定的协作渠道按日回单,不在数据通道上反向发起请求。
表 2-24 安全监管平台接入要素表
| 要素 | 我方方案 | 须招标方确认或提供 |
|---|---|---|
| 集成方式 | 单向集成,我方只接收不写入、不发起取数之外的调用(b0907) | 单向可达的网络策略与实现方式 |
| 取数对象 | 安全监管数据(事件、隐患、检查、整改)、生产过程监控数据(监控点、状态量、报警)(b0908) | 实际对象与字段清单(勘察优先项) |
| 接入通道 | 单向监管数据通道,支持对方推送或我方只读拉取两种形态 | 该平台现有的对外提供能力 |
| 增量机制与频次 | 按批次号与时间窗水位线去重;按对方发布节奏接收,无固定节奏时按日拉取并置于低峰窗口 | 发布节奏或可接受的拉取窗口 |
| 入口脱敏重点 | 涉及个人的内容假名化;监管报送内容按授权范围取数 | 可取用的范围与分级要求 |
| 特有处置 | 勘察前不预设结构;接收结果按日通过协作渠道回单,不在数据通道上反向请求 | 回单的接收窗口 |
| 主键与关联键 | 以对方的记录标识与批次号为主键,具体字段以勘察结论为准,勘察前不预设。对外关联键按区域或工位标识与 MES 工位号、EAM 安装位置对齐 | 记录标识与区域编码的定义 |
| 时间戳与时间基准 | 取事件发生时点与推送(或拉取)时点两组;单向通道下我方无法向对方回查,两个时点全取是判断数据延迟与补推需求的唯一依据 | 发生时点的记录精度 |
| 变更与删除的捕获 | 隐患整改与处置状态的推进以后续推送的状态更新表达,历次状态全部保留;对方撤回记录时以撤回标记表达,我方不做物理删除 | 状态更新与撤回的表达方式 |
| 幂等与去重 | 以「批次号+记录标识」判重;对方重推同一批次时按记录标识判断是否覆盖,重推次数记入采集记录 | 重推的业务约定 |
| 对账口径 | 按批次号的连续性核对是否缺批;按月以对方发布的批次计数与我方接收计数比对,差异通过项目既定协作渠道回单,不在数据通道上反向请求 | 批次计数的获取方式 |
| 失败补传与断点 | 接收失败或批次缺口按协作渠道申请补推;我方拉取形态下按时间窗定向重取;单向可达下不设自动反向重试 | 补推的响应时限 |
| 入口质量检查项 | 批次完整且可解析;记录标识非空且在批次内唯一;时点字段可解析;分级与处置状态落在勘察确认的码值内;涉及个人的字段已按入口规则假名化(强制项) | 码值集合(勘察阶段确认) |
| 勘察核实与适配验证时点 | 列为勘察最优先项(招标文件未列本平台字段清单):T+1 月内完成对象与字段的勘察并签认取数范围;T+2 至 T+4 月完成单向网络策略联调与适配验证,联调含反向连通性测试;T+4 月起按对方节奏接收 | 字段清单的签认与网络策略的配置时点 |
| 验收口径 | 两类数据的批次接收记录完整;字段范围与勘察结论一致 | 勘察结论签认方式 |
表 2-24 数据来源:招标文件 3.2.2.1.17(b0906–b0908)。
图 2-2 数据来源:招标文件 3.2.2.1.1–3.2.2.1.17 各系统数据范围条款(b0810–b0908)、3.2.6.3.1 各业务域采集要求(b1364–b1394)、数据质量目标(b0670)、场景赋能目标(b0674)及第 1 节四大数据集规模口径。
表 2-25 汇总十七个源系统的接入要点,便于横向比对与实施期对照检查。表中「字典条款」一列标注招标文件是否为该系统写明数据字典要求——有十一个系统写明、六个系统未写明;未写明的系统我方仍按第 2.1.1 节请求库结构说明,这一处差异在第 6 节如实列出。
表 2-25 十七个源系统接入要点汇总
| 序号 | 源系统 | 主要数据形态 | 采集通道 | 常态频次 | 字典条款 | 对应业务域 | 主要支撑场景 |
|---|---|---|---|---|---|---|---|
| 1 | CRM 客户关系管理 | 结构化+文档 | 库直连/接口+文件 | 日(附件小时扫描) | 有(b0815) | 供需计划 | 库存控制、标书问答 |
| 2 | ERP 企业资源计划 | 结构化 | 库直连 | 日;成本凭证按月结 | 有(b0822) | 供需计划 | 产品选型、库存控制、决策数据问答 |
| 3 | SCM 供应链管理 | 结构化 | 库直连/接口 | 日(档案类周) | 有(b0829) | 供需计划 | 库存控制 |
| 4 | QMS 质量管理 | 结构化+文档+图像 | 库直连/接口+文件 | 日 | 未写明 | 产品质量 | 热处理监控、焊接监控 |
| 5 | WMS 仓储管理 | 结构化 | 库直连/接口 | 日(流水可小时) | 未写明 | 供需计划 | 库存控制 |
| 6 | MES 制造执行 | 结构化 | 库直连/接口 | 日(进度小时) | 未写明 | 制造过程 | 全部制造类场景(对象贯通枢纽) |
| 7 | LMS 物流管理 | 结构化 | 库直连/接口 | 日 | 未写明 | 供需计划 | 库存控制 |
| 8 | EMS 能源管理 | 时序 | 时序与设备 | 小时分片 | 未写明 | 制造过程 | 热处理监控 |
| 9 | SOS 售后服务管理 | 时序+结构化+文档 | 三路并行 | 时序小时;其余日 | 未写明 | 制造过程、产品质量 | 健康诊断 |
| 10 | EAM 设备资产管理 | 结构化 | 库直连/接口 | 日(台账周) | 未写明 | 制造过程 | 热处理监控、焊接监控、健康诊断 |
| 11 | PLM 产品全生命周期管理 | 结构化+图纸+文档 | 接口/库直连+文件 | 历史分片初始化;此后日 | 未写明 | 产品工艺设计 | 板材备料、产品选型 |
| 12 | SCADA 数据采集与监控 | 时序 | 时序与设备 | 小时分片 | 未写明 | 制造过程 | 焊接监控、热处理监控 |
| 13 | OA 协同办公 | 文档 | 文件+接口 | 日扫描 | 未写明 | 通用语料 | 五个通用场景 |
| 14 | 久其系统 | 指标 | 接口/库直连 | 月或季(报送后) | 未写明 | 供需计划 | 决策数据问答 |
| 15 | 主数据管理平台 | 结构化 | 接口/库直连 | 日 | 未写明 | 全域(对象贯通参照) | 全部场景 |
| 16 | 热处理群控系统 | 时序+结构化 | 时序与设备+库直连 | 时序小时;结构化日 | 未写明 | 制造过程 | 热处理监控 |
| 17 | 安全监管平台 | 结构化(待勘察) | 单向监管数据 | 按对方节奏或日 | 未写明 | 制造过程 | 安全合规类样本 |
表 2-25 数据来源:招标文件 3.2.2.1.1–3.2.2.1.17 各系统条款(b0808–b0908)、3.2.6.3.1 各业务域采集要求(b1364–b1394)、术语定义表(b0659r04–b0659r16)。
要求是:实现本项目数据集加工生产相关的离线非结构化数据的解析及录入管理,并形成电子化数据资产和相关语料(b0910);完成业务域文档、图片、工程图纸、技术书籍、财务票据、音视频等多格式多模态离线数据的批量导入与实时接入(b0911);建立自动分类、关键信息抽取、结构化转换、质量校验及人工复核机制,形成规范化、标准化的离线电子化数据资产目录(b0912);按业务主题与知识体系进行数据聚类、去噪清洗、格式统一与版本管理(b0913)。
录入对象是不在任何系统流程里的离线资料:尚未数字化的纸质检测报告,以纸本或扫描件存放的技术书籍与外部标准资料,以扫描件而非原生文件存在的历史工艺图纸,按会计档案方式归档的财务票据,散存于部门自管目录的现场演示与培训录像。这类资料不随业务流程产生新记录,没有增量键可用;一个目录内可能同时存在 PDF、DWG、JPG、XLSX 与 MP4;同一类资料既有带文本层的电子文档,也有倾斜模糊的扫描件。
据此,录入以资料批次而非源系统为组织单位,以清单登记与内容摘要替代增量键,以自动分类先判别资料类别、再按类走对应的解析路径。录入流水线分六段:批次登记、格式识别与分类、解析与关键信息抽取、质量校验、人工复核、入目录与版本管理。六段之间以批次为单位流转,每段有明确的通过条件与不通过时的回退路径。图 3-1 给出完整流水线。
图 3-1 数据来源:招标文件 3.2.2.2 第 1–3 条(b0911、b0912、b0913)。
招标文件要求对业务域文档、图片、工程图纸、技术书籍、财务票据、音视频六类离线数据完成批量导入与实时接入(b0911)。两种方式并存,分工明确。
批量导入用于历史存量。甲方按资料类别分批交付,每一批随交一份清单,清单列明件数、类别与来源部门;我方按清单核收,逐件登记批次号、内容摘要与许可凭证,核收结论回单。清单与实物不符的,按差异回单,不以实物为准自行调整清单——清单是双方签认的交付凭据。大体量批次按资料类别拆分,单批不超过约定件数上限,避免一次交付的核收周期过长。
实时接入用于增量。在授权范围内设置只读监视目录与接收端点:新增文件落入监视目录即触发登记与分类,不必等人工发起;监视机制之外另按小时扫描目录清单作为兜底,防止事件丢失导致漏入。实时接入的典型来源是日常新产生的检测报告、新签合同扫描件与新摄录的现场视频。
表 3-1 给出六类资料的接入方式、支持格式与处置要点。格式判定一律按文件签名而非扩展名——扫描件被存成 .pdf 实际是图像包、图纸被改名为 .pdf 实际是 DWG,这两种情形在历史资料中都会出现,按扩展名分流会把数据送进错误的解析器。
表 3-1 六类离线资料的接入方式与处置要点
| 资料类别 | 典型来源 | 支持格式 | 接入方式 | 解析产出 | 处置要点 |
|---|---|---|---|---|---|
| 业务域文档 | 管理制度、技术规程、会议纪要、合同、标书 | PDF、DOC/DOCX、WPS、TXT、HTML | 批量+实时 | 篇章结构、条款边界、表格、页码锚点 | 保留原文页码锚点,供问答场景出具依据定位 |
| 图片 | 交检拍照、现场照片、缺陷影像 | JPG、PNG、TIFF、BMP | 批量+实时 | 图像实体、拍摄时点、关联对象标识、画面要素标签 | 优先保留原始分辨率;关联对象标识缺失时记入待关联 |
| 工程图纸 | 历史工艺图纸、零件图、装配图 | DWG、DXF(原生优先);PDF、TIFF(扫描件) | 批量为主 | 图元、尺寸、标注、图层、线型、视图投影关系 | 原生格式与扫描件分别登记,不混为一类;扫描件注明精度限制 |
| 技术书籍 | 行业手册、机械制图标准、工艺编制准则、外部资料 | PDF(含扫描件)、EPUB | 批量 | 章节结构、术语、公式、图表题注 | 版权状态逐册登记,用途受限的标注不可商用并按限制使用 |
| 财务票据 | 发票、结算单、会计凭证附件 | PDF、JPG、OFD | 批量 | 票面栏目字段、金额、日期、相对方 | 相对方与个人信息按入口脱敏规则处理;票面金额按授权范围裁剪 |
| 音视频 | 现场演示录像、培训录像、设备运行录音 | MP4、AVI、MOV、WAV、MP3 | 批量+实时 | 语音转写文本、分段时间码、画面关键帧、说话人分段 | 转写文本与时间码同存;涉及人员形象与声音的按授权范围使用 |
表 3-1 数据来源:招标文件 3.2.2.2 第 1 条所列六类数据(b0911)。
受理格式之外,还须把字符编码、色彩与采样规格、随件附件以及单件与单批的体量限值写定,否则核收时无从判断一批资料是该收还是该退。表 3-2 给出这四项的受理口径与超限处置。限值取值按首批次实测调整,调整须经双方书面确认后更新清单,不在核收现场临时放宽。
表 3-2 离线资料的编码、规格、随件要求与体量限值
| 资料类别 | 字符编码与规格要求 | 随件附件与元信息 | 单件与单批体量限值 | 超限或不合规时的处置 |
|---|---|---|---|---|
| 业务域文档 | 文本类统一以 UTF-8 解析;源件为 GB18030、GBK 或 Big5 的按原编码读入后转 UTF-8,转码前后各存一份校验样本;含文本层的 PDF 优先,纯图像 PDF 按扫描件处置 | 随件给出文号、发布部门、生效与废止日期;无元信息的以文件名与目录位置登记并标为待确认 | 单件不超过约定上限(建议 200 MB);单批不超过约定件数上限 | 乱码率超阈值的退回重导出;超限单件拆分后重交;元信息缺失不阻断登记,但不进入问答语料 |
| 图片 | 保留原始分辨率与色彩空间,不在核收环节压缩或转码;优先 24 位色或原始位深 | 随件给出拍摄时点与关联对象标识;缺失的记入待关联 | 单件按原件大小受理;单批按目录件数上限分片 | 分辨率低于可判读阈值的标为低可信并限制用途;关联对象标识缺失的不作为质量结论的唯一依据 |
| 工程图纸 | 原生 DWG/DXF 按原版本受理,解析前登记文件格式版本;扫描件按不低于约定扫描精度受理,低于阈值的标注精度限制 | 随件给出图号清单与图幅;工艺卡随图成对交付的须注明配对方式 | 单批按项目或年份分片,分片件数以单窗口可完成量为准 | 解析器打不开或图元数为零的退回并换路径重取;扫描精度不足的不作为工艺推断的唯一依据 |
| 技术书籍 | PDF 优先含文本层;扫描版按图像处置并标注识别可信度;EPUB 按原编码读入 | 随件给出书名或标准号、版本与年份、版权与使用许可状态 | 单册按原件大小受理;套书按册分件登记 | 许可状态不明的挂起不入目录,登记于待确认清单,不以「带告警通过」放行 |
| 财务票据 | 版式文件(OFD、PDF)按原版式受理,不转图像;影像件保留原始分辨率 | 随件给出票据类型、所属期间与关联业务单号 | 单件小、批量大,按所属期间分批,单批件数设上限 | 票面金额与税额交叉校验不过的不入目录;相对方与个人信息按入口规则处置后方可登记 |
| 音视频 | 保留原始容器与编码,不在核收环节转码;采样率与声道数按原件登记 | 随件给出录制时点、时长、场合与涉及的业务主题;涉及人员形象与声音的须附使用授权 | 单件按约定上限(建议 4 GB);超长录像按自然段落切分并保留切分点 | 无使用授权的挂起不入目录;音轨不可解析的退回并索取原始母带 |
| 随批清单与交付介质 | 清单以 UTF-8 的表格文件交付,字段固定为件名、类别、来源部门、件数、摘要 | 介质交付须附介质标识与交接单;网络交付须附校验摘要 | 单批清单行数与实物件数须一致 | 清单与实物不符的按差异回单,不以实物为准自行调整清单 |
表 3-2 数据来源:招标文件 3.2.2.2 第 1、2 条(b0911、b0912)、3.2.2.1.11 图纸格式要求(b0874)及 3.2.2.1.13 文档格式要求(b0886)。
这里须交代一处技术选择的理由。工程图纸一类同时列了原生格式与扫描件,但两者的后续用途不同。原生 DWG 与 DXF 文件中,尺寸标注、图层、线型与视图关系是结构化的图元信息,解析后可直接得到「这是一块多厚的什么牌号的板、轮廓是什么形状、哪里有孔、哪里要压弯」;扫描件则只有像素,同样的信息须靠图像识别推断,精度与可靠性都显著下降。
板材备料工艺智能设计场景的成立依赖前者(b0874)。因此本项目的取数口径是原生优先,扫描件作为原生文件缺失时的补充,并在资产目录中明确标注来源格式,使下游环节知道这一份图纸的可信度档次。
招标文件要求建立自动分类、关键信息抽取、结构化转换、质量校验及人工复核机制(b0912)。本小节讲前三项,后两项见第 3.4 节。
自动分类分三层。 第一层判技术形态:真实格式是什么、有无可提取文本层、是否加密、是否损坏。这一层纯机器判定,不需要业务知识。第二层判业务类别:这是制度、合同、检验报告、图纸、票据还是录像。判别依据是版式特征、关键词模式与文档元数据三者结合,而非单一特征——仅靠关键词会把引用了制度条款的会议纪要误判为制度。
第三层判业务主题与知识体系位置:这份资料属于哪个业务域、对应哪一类知识对象、与哪个物理对象相关。第三层的分类体系由本项目的知识本体定义,录入环节只负责按该体系落位,体系本身的构建属知识本体与知识库环节。
分类采用大模型与规则双通道:规则通道处理有明确版式与命名特征的资料,判定确定、可解释、可审计;模型通道处理规则覆盖不到的长尾。两通道结论一致时直接通过,不一致时转人工复核,复核结论回流修订规则。这一设计的用意是把可确定的部分用确定办法处理,把人力集中到真正模糊的部分——分类准确率的提升主要靠规则库随复核结论逐步扩充,而不是靠换更大的模型。本项目承诺分类准确率按季度提高,以首批次的人工抽样复核结果作为基线,并在质量报告中逐期披露。
关键信息抽取按资料类别定义字段集。 抽取不是「把文档里的实体都找出来」,而是按下游用途定义必取字段。表 3-3 给出各类资料的必取字段与抽取方式。必取字段抽不出来或置信度低于阈值的,该件转人工复核,不以空值入目录。
表 3-3 各类资料的关键信息抽取字段集
| 资料类别 | 必取字段 | 抽取方式 | 低置信度处置 |
|---|---|---|---|
| 管理制度 | 制度名称、制度类别(按甲方十一类口径)、文号、发布部门、生效日期、废止日期、版本号、章条结构 | 版面还原后按标题层级与正文模式抽取,文号与日期按规则匹配 | 转人工复核;生效日期缺失的不入问答语料 |
| 合同文档 | 合同名称、合同类别(按甲方九类口径)、合同号、相对方、签订日期、生效与到期日期、金额、关键条款段落边界 | 版面还原+条款模式识别;金额与日期按规则校验 | 转人工复核;相对方与金额不入可公开语料 |
| 检验与质量报告 | 报告编号、被检对象标识、检验项目、实测值、判定结论、检验日期、检验人岗位 | 表格栏目抽取;被检对象标识按编码规则校验 | 转人工复核;被检对象标识抽不出的记入待关联 |
| 工程图纸(原生) | 图号、材料牌号、板厚、外形轮廓、孔与方孔、坡口与倒角、压弯线、粗糙度符号、视图投影关系 | 图元与标注解析;符号按符号库比对 | 转人工复核;符号库未覆盖的符号登记为新增待确认 |
| 工程图纸(扫描件) | 图号、图框信息、标题栏字段、可识别的尺寸与标注 | 图像识别+图框定位;标注识别结果一律标注为低可信 | 一律进人工抽样复核;不作为工艺推断的唯一依据 |
| 技术书籍与标准 | 书名或标准号、版本与年份、章节结构、术语条目、公式与图表题注、版权状态 | 版面还原+目录结构抽取 | 转人工复核;版权状态不明的挂起不入目录 |
| 财务票据 | 票据类型、票号、开票日期、相对方、金额、税额、关联业务单号 | 票面栏目定位+栏目字段抽取;金额与税额交叉校验 | 转人工复核;交叉校验不过的不入目录 |
| 音视频 | 录制时点、时长、说话人分段、转写文本、分段时间码、涉及的业务主题 | 语音转写+分段;主题按转写文本分类 | 转写置信度低的分段标注为低可信并保留原音轨 |
表 3-3 数据来源:招标文件 3.2.2.2 第 2 条(b0912)、3.2.2.1.13 制度与合同分类口径(b0886)及板材备料场景对图纸解析的要求(b0874)。
抽取字段到目标结构的映射逐类登记。 抽取得到的字段名来自原件,入目录的字段名来自本项目的统一资产结构,两者之间的对应关系以「映射表」逐类资料登记:每一条映射写明来源字段(含其在原件中的定位方式)、目标字段、值域转换规则(单位、日期格式、码值对照)、必填与否,以及映射失败时的处置。映射表按版本管理,版本号随资产记录一并留存,使任一条资产都能说清它是按哪一版映射规则生成的;映射规则变更后,受影响的资产可从原件按新版本重新派生。映射落空分三种处置:来源字段确实不存在的,目标字段置为「源端无此项」并记明,不以空值冒充未抽到;抽取失败的转人工复核;值域转换不成功的(如日期无法解析、码值不在对照表内)整件挂起,待对照表补齐后重跑。
结构化转换的产出是一份统一的资产记录。 无论来源是文档、图纸还是录像,入目录的资产记录都遵循同一结构:资产标识、来源批次与原文件路径、真实格式、业务类别、业务主题位置、抽取字段集、正文或转写文本、版式锚点、可信度档次、权限标签、许可状态、版本链、血缘指向。统一结构的作用是让下游环节不必按来源形态分别处理,也让资产目录可以按任一字段检索与统计。原文件一律留存,结构化记录指向原文件,不替代原文件。
质量校验在机器侧完成六项检查:可读性(文件能否正常打开、内容能否提取)、完整性(必取字段是否齐备、页数与清单是否一致)、抽取置信度(各字段的置信度是否达阈值)、与来源一致性(内容摘要与登记是否一致、是否存在截断)、重复与近重复(按内容摘要判完全重复,按文本或图元相似度判近重复)、敏感内容命中(是否含个人信息、企业秘密或受限内容)。六项检查的结论汇总为该件的校验结论,分通过、带告警通过、转复核、挂起四档。其中带告警通过仅限资产目录内部的受控流转,该件可被检索与引用为线索,但在告警项闭合之前不进入对外交付的数据集;敏感内容命中与许可状态不明两类不适用带告警通过,一律转复核或挂起,挂起件移入隔离区单独存放,不与通过件混放。
人工复核不是全量复核,而是按三条规则触发:低置信度触发(任一必取字段置信度低于阈值)、敏感命中触发(命中敏感内容规则)、抽样触发(按类别对通过件按比例抽样)。抽样比例按类别与可信度档次差异化设定,初期从高比例起,随改判率下降逐步调低——抽样比例的调整须有数据依据,改判率不下降则比例不降。
挂起件不与通过件混放。校验或复核判为挂起的资料移入隔离区:隔离区是录入流水线内一块独立的存储区,与资产目录物理分离,其中的件不被检索、不被引用、不参与任何下游取数;每一件附一张挂起单,写明挂起原因、责任归属、拟采取的处置与再次判定的条件。隔离区的出口只有两个——处置完成后重新走一遍完整校验并经复核放行,或判定为不可用后登记于缺口清单并保留原件。隔离件在隔离区的停留时长按周统计并随质量报告披露,长期未处置的逐件回单。凡经隔离区放行的件,其挂起与放行记录随资产记录永久留存。
复核结论须留痕三项:原机器判定、人工改判结果、改判理由。改判理由是规则库与抽取逻辑的改进输入,这一回流是录入质量随时间提高的主要机制。表 3-4 给出复核机制的岗位分工与通过条件。本表所列岗位为项目组内部的角色划分,不涉及具体人员。
表 3-4 人工复核的触发条件、分工与通过条件
| 复核环节 | 触发条件 | 复核内容 | 通过条件 | 不通过时的处置 |
|---|---|---|---|---|
| 分类复核 | 规则通道与模型通道结论不一致,或业务主题判定置信度低于阈值 | 业务类别与业务主题位置是否正确 | 两名复核角色独立判定一致 | 不一致时提交业务口裁定;裁定结论入规则库 |
| 字段复核 | 任一必取字段置信度低于阈值,或交叉校验不过 | 抽取字段与原件是否一致 | 逐字段与原件比对无误 | 原件本身不清晰的,标注为不可用字段并记入缺口清单 |
| 图纸解析复核 | 扫描件一律进抽样复核;原生图纸按比例抽样 | 材料牌号、板厚、轮廓、孔、坡口、压弯线等关键要素是否正确 | 关键要素与原图一致;符号判读经工艺口确认 | 解析错误的回流修订符号库与解析规则;原件不可判读的转人工录入 |
| 敏感内容复核 | 命中敏感内容规则 | 敏感等级判定与脱敏处置是否恰当 | 处置符合授权范围与脱敏规则集 | 授权范围不明的挂起,待甲方确认后处理 |
| 许可复核 | 外部资料、技术书籍、受限资料 | 版权与使用许可状态 | 许可凭证齐备且用途在许可范围内 | 许可不明的不入目录,登记于待确认清单 |
| 抽样复核 | 按类别与可信度档次的抽样比例 | 整件质量综合判定 | 该批次改判率低于阈值 | 改判率超阈值的,整批退回重新解析 |
表 3-4 数据来源:招标文件 3.2.2.2 第 2 条「质量校验及人工复核机制」(b0912)。
招标文件第 3 条要求按业务主题与知识体系进行数据聚类、去噪清洗、格式统一与版本管理(b0913)。四项分述。
聚类按业务主题与知识体系两个维度并行。 业务主题维度按供需计划、产品工艺设计、制造过程、产品质量四个业务域及通用语料划分,这一维度与四大数据集的域划分一致,使录入资产可以直接归集到对应子集。知识体系维度按知识对象类型划分——制度条款、技术标准条目、工艺规则、设备知识、故障知识、术语定义等,这一维度服务于知识库构建与问答场景的检索。同一份资产在两个维度上各有位置,互不替代。聚类结果可被人工调整,调整留痕并回流修订聚类规则。
去噪清洗针对离线资料的典型噪声,分四类处置。 版面噪声:页眉页脚、水印、装订线、页码在正文中反复出现,按版面位置与重复模式识别并剥离,剥离前的原文保留。识别噪声:扫描件的识别错误,按词表与上下文校正,校正处标注为已校正并保留原识别结果。
重复噪声:完全重复的文件合并为一条资产并记录多条来源,近重复的分别保留并建立相似关系——历史图纸中七八成属可借用可对照的既有零件,近重复大量存在,若按相似度合并会丢失零件之间的实际差异,而这些差异正是工艺借用判断所依据的(b0875)。断续噪声:音视频转写中的断句错误与语气词,按分段边界与停顿校正,原音轨保留。
格式统一的原则是统一派生格式、保留原始格式。 文本类统一转为带结构标记的规范化文本,表格统一转为行列化结构,图纸的解析结果统一转为图元与标注的结构化表示,音视频的转写统一转为带时间码的文本。统一的是派生物,原始文件一律按原格式留存。这样做的理由是:派生格式的规范随项目推进会调整,调整后可从原始文件重新派生;若只留派生物,一次规范变更就意味着一次不可逆的信息损失。
版本管理按资产标识建版本链。 同一份资料的不同版本(制度修订、图纸升版、合同补充协议)在同一资产标识下串为版本链,每一版记录版本号、生效区间、变更来源与前一版指向。版本链的作用在通用场景中尤为关键:回答「现行制度怎么规定」时取当前有效版,回答「这份两年前的合同按当时制度合规吗」时取当时有效版。两类问题都成立,才算真正可用。版本链同时承载血缘:派生资产指向其原始文件版本,使任一结论可追溯到具体的那一版原件(b1997)。
表 3-5 给出资产目录的字段设计,这是录入环节的主要交付物之一,也是招标文件所要求的「规范化、标准化的离线电子化数据资产目录」(b0912)。
表 3-5 离线电子化数据资产目录字段设计
| 分组 | 字段 | 说明 |
|---|---|---|
| 标识 | 资产标识、版本号、生效区间 | 资产标识跨版本稳定;版本号与生效区间构成版本链 |
| 来源 | 来源批次号、交付方式(批量/实时)、原文件路径、真实格式、内容摘要、核收时点 | 可回溯到具体原件;摘要用于识别内容变更 |
| 分类 | 技术形态、业务类别、业务域、知识对象类型、业务主题位置 | 业务主题与知识体系两维并行 |
| 内容 | 抽取字段集、规范化正文或转写文本、版式锚点、关键帧或图元结构 | 版式锚点供问答场景定位依据 |
| 质量 | 可信度档次、校验结论、告警项、复核记录、改判理由 | 可信度档次随来源格式与复核结论确定 |
| 合规 | 敏感等级、脱敏处置记录、权限标签、许可状态与凭证编号、使用限制 | 许可不明的不入目录 |
| 关系 | 版本链指向、血缘指向、相似关系、关联业务对象标识 | 关联业务对象标识是与第 2 节数据对齐的接口 |
| 统计 | 件数、字节数、模态标记、资料时点 | 模态标记与资料时点供模态占比与时效性占比统计 |
表 3-5 数据来源:招标文件 3.2.2.2 第 2、3 条(b0912、b0913)、数据集模态与时效性指标口径(b0670)、可信性溯源要求(b1997)。
录入流水线的验收不以「跑通了」为判据,而以一组可重复执行的用例为判据。用例按资料类别与异常形态设计,每一条写明输入、预期结果与判定方式;用例随首批次试运行执行一轮,形成基线,此后每季度回归一轮,结果随质量报告提交。用例所用的资料一律取自真实批次,不另行构造样本——构造样本验不出历史资料的实际毛病。
表 3-6 给出验收用例集。用例不通过的,相应功能不进入常态运行;已在常态运行中发现的缺陷按隔离区口径处置,并在最终交付前逐条闭合,闭合记录随质量报告提交。
表 3-6 录入环节验收用例集
| 用例 | 输入 | 预期结果 | 判定方式 |
|---|---|---|---|
| 真实格式识别 | 一组被改名的文件:扩展名为 .pdf 而实为图像包、实为 DWG,以及扩展名为 .doc 而实为 RTF | 一律按文件签名判定真实格式并送对应解析器,不按扩展名分流 | 逐件比对判定结果与人工确认的真实格式 |
| 多编码文本解析 | 同一份制度分别以 UTF-8、GB18030、GBK 导出的三个副本 | 三者解析出的正文一致,乱码率为零;资产记录中登记各自的源编码 | 三份正文逐字符比对;源编码字段核对 |
| 扫描件与原生件分流 | 同一张图纸的原生 DWG 与其扫描 PDF | 分别登记为两条来源格式不同的资产,可信度档次不同;扫描件不作为工艺推断的唯一依据 | 核对资产记录的来源格式与可信度档次字段 |
| 必取字段缺失 | 一份无文号、无生效日期的制度扫描件 | 该件转人工复核,不以空值入目录;复核后仍无法确定的标为不可用字段并记入缺口清单 | 核对复核记录与缺口清单 |
| 映射值域不合规 | 一张检验报告,其判定结论取值不在对照表内 | 整件挂起并移入隔离区,待对照表补齐后重跑,不以就近取值入目录 | 核对隔离区记录与重跑后的资产记录 |
| 重复与近重复 | 一批含完全重复件与相似图纸的资料 | 完全重复合并为一条资产并记多来源;近重复分别保留并建立相似关系,不自动合并 | 核对资产件数、来源记录与相似关系 |
| 敏感内容命中 | 一份含个人身份信息与未公开商务条款的合同 | 命中敏感规则即转复核,不适用带告警通过;脱敏处置后方可入目录 | 核对复核记录与脱敏处置记录 |
| 许可状态不明 | 一册来源不明的外部技术书籍 | 挂起不入目录,登记于待确认清单;许可凭证到位后方可放行 | 核对待确认清单与许可凭证编号 |
| 超限单件 | 一件超出约定单件上限的录像 | 按约定切分后受理,切分点保留并可还原;不以截断方式受理 | 核对切分记录与还原后的时长 |
| 清单与实物不符 | 一批随批清单件数与实物件数不一致的资料 | 按差异回单,不自行调整清单;差异解决前该批不进入解析 | 核对回单记录与批次状态 |
| 版本链可用性 | 同一制度的现行版与两年前的历史版 | 按「现行怎么规定」取现行版,按「当时是否合规」取当时有效版,两类问题均可答 | 按两类问题各取一次,核对返回的版本号与生效区间 |
| 血缘可追溯 | 任取一条已入目录的派生资产 | 可追溯到具体原件及其版本,并可据原件重新派生出同一结果 | 按血缘指向取原件,重跑派生并比对结果 |
表 3-6 数据来源:招标文件 3.2.2.2 第 1–3 条(b0911、b0912、b0913)、可信性溯源要求(b1997)及评分表「方案可实施性」要求(b0496)。
录入环节产出的资产目录不是终点,而是数据加工生产主线的输入之一。衔接口径有三条。
其一,按模态与时点统计。资产目录中的模态标记与资料时点两个字段,直接支撑「数据集涵盖超过 3 种模态、多模态数据条数占比不低于 40%、近 3 年内时效性数据条数占比不低于 40%」三项指标的统计(b0670)。统计口径在资产目录层面定义一次,各子集按同一口径取数,避免各算一套。
其二,按可信度档次分流。可信度档次高的资产可直接进入标注与样本构建;档次低的(如扫描件解析结果)须先经人工复核或作为辅助证据使用,不作为唯一依据。这一分流规则在资产目录中以字段固化,下游环节按字段取数而非按经验判断。
其三,按许可状态门控。许可不明或使用受限的资产不进入商用用途的数据集,这一限制由资产目录的许可状态字段实现门控。招标文件要求核查项目建设过程中是否包含不可用于商业用途的建设内容、承诺数据集来源的合法性(b0804r06),许可状态字段是这项承诺在数据侧的落脚点。
前三节所涉的采集通道部署形态与数据落区的存储承接方案汇总如下,与采购清单第 1 项「数据资源建设服务」的交付内容对应(b0806、b0804r02)。
十七个源系统分布在企业内网的不同网段,形态包括业务系统数据库、应用服务、文件服务与工业侧的组态系统与时序库。工业侧与管理侧通常处于不同的安全域,网络策略也不同。据此采集能力按两区部署。
采集区紧邻源系统部署,承担取数动作本身:建立只读连接、执行分片查询、下载文件、订阅时序点位、执行入口治理闸的脱敏与校验。采集区不长期存放业务数据,仅保留在途缓冲与断点续传所需的临时数据,缓冲数据在批次完成并校验通过后清理。这样安排有两个用意:一是把与源系统的交互限制在最小的网络面上,源系统侧只需对采集区开放访问,不必对整个加工环境开放;二是脱敏在采集区完成,加工区从一开始就拿不到未脱敏的原值,合规边界靠部署结构保证而非靠流程约束。
工业侧设备数据的采集另在工业网段设采集代理,由代理向上汇聚到采集区。代理只做取数与缓冲,不做计算与写回。热处理群控、数据采集与监控、能源管理三类系统的时序数据按此路径接入(b0902、b0880、b0855)。
加工区承载三层落区中的贴源层与标准化层,以及资产目录与登记台账。加工区与采集区之间按单向数据流通,加工区不直连源系统。
图 4-1 给出部署形态与数据流向。
图 4-1 数据来源:招标文件 3.2.2.1 各系统集成要求(b0807–b0908)、3.2.2.2 离线数据接入要求(b0911)、3.2.2.1.17 单向集成要求(b0907)。
本项目的数据形态跨度很大:关系型业务记录、秒级时序点位、数十万件图纸与文档、图像与音视频。用一种存储装下所有形态在技术上可以实现,代价是每一类数据都用得不顺——时序数据存在关系库里查询慢,文档存在关系库里占空间且检索差。因此按形态分配存储,由统一的元数据层把它们串起来。
表 4-1 给出各形态的存储选型与分区策略。选型一律取国产化产品,与招标文件「数据库、安全软件、云平台、服务器、存储、网络、芯片等软硬件设备整体国产化比率不低于 80%」的要求一致;具体产品型号在系统集成与硬件选型中给出,此处只给形态与容量口径(b0677)。
表 4-1 各数据形态的存储承接与分区策略
| 数据形态 | 来源 | 存储形态 | 分区与组织策略 | 保留策略 |
|---|---|---|---|---|
| 结构化业务记录(贴源) | 十二套业务系统的库直连与接口取数 | 对象存储上的列式文件 | 按源系统/表/采集日期三级分区;每批次一组文件,文件名含批次号 | 长期保留,作为可回溯的原始证据 |
| 结构化业务记录(标准化) | 贴源层加工产出 | 国产关系型数据库 | 按业务对象分表;大表按时间分区;主键映射表单独组织 | 长期保留;版本按生效区间留存 |
| 时序点位数据 | SCADA、热处理群控、EMS、SOS | 时序数据库 | 按测点分组、按时间分片;原始采样周期不变更 | 原始精度长期保留;聚合值按需派生 |
| 文档与图纸原件 | PLM、OA、QMS 附件、离线批次 | 对象存储 | 按资料类别/来源批次/资产标识组织;版本各占一个对象 | 原件长期保留,不覆盖不删改 |
| 图像与音视频原件 | QMS 交检拍照、现场影像、录像 | 对象存储(大对象) | 按业务对象与时点组织;大文件分块 | 原件长期保留;派生的转写与关键帧另存 |
| 解析派生物 | 录入流水线产出 | 对象存储(文本与结构化派生)+关系库(抽取字段集) | 与原件按资产标识关联;派生规范版本号随派生物记录 | 可按规范变更重新派生,派生物可重建 |
| 元数据 | 登记台账、采集记录、资产目录 | 国产关系型数据库+检索索引 | 台账按源系统组织;采集记录按批次组织;资产目录建全文与字段双索引 | 长期保留,作为审计与验收依据 |
表 4-1 数据来源:招标文件 3.2.2.1 各系统数据形态(b0810、b0833、b0855、b0860、b0874、b0880、b0902)、3.2.2.2 多格式多模态要求(b0911)、国产化比率要求(b0677)。
容量估算在此给出口径与方法,不给确定数值——确定数值取决于源系统的实际数据量,须在勘察阶段测定。给出口径的用意是让估算过程可核验,而不是报一个无从验证的总数。
结构化数据按「表行数 × 平均行宽 × 保留份数」估算。表行数在勘察阶段由源系统侧提供或由我方只读查询计数;平均行宽按字段类型与长度推算;保留份数计贴源层与标准化层两份,另计列式压缩系数。增量部分按日均新增行数 × 项目周期估算。
时序数据按「测点数 × 采样频率 × 保留时长 × 单点字节数」估算。本项目时序数据的采样周期通常为秒级,测点数随感知设备建设分批扩展,因此时序容量按首期测点清单估算基线,扩展部分按扩展清单逐期追加。时序存储的压缩比对总量影响显著,估算时按时序数据库的实测压缩比取值,不按理论值。
文档与图纸按「件数 × 平均件大小 × (1 + 派生物系数)」估算。历史图纸约六十三万张是本项目最大的一宗文件体量,派生物系数按解析产出的结构化表示与缩略图推算。
吞吐约束来自两处:源系统可承受的查询压力,以及低峰窗口的时长。低峰窗口为五小时,窗口内可完成的数据量决定了历史初始化须分多少批。因此历史回溯的总周期由「总量 ÷ 单窗口可完成量」决定,这一算式是第 5 节里程碑排期的直接依据。单窗口可完成量在试采阶段实测,不按理论带宽推算。
表 4-2 给出容量与吞吐估算的输入项清单,这些输入项须在勘察阶段逐项取得。
表 4-2 容量与吞吐估算的输入项清单
| 估算对象 | 须取得的输入项 | 取得方式 | 用途 |
|---|---|---|---|
| 结构化容量 | 各表行数、平均行宽、日均新增行数、字段类型分布 | 只读计数与字典核验 | 贴源层与标准化层容量 |
| 时序容量 | 首期测点数、各测点采样周期与量纲、历史数据起始时点、实测压缩比 | 位号清单+试采实测 | 时序库容量与分片策略 |
| 文件容量 | 各类资料件数、平均件大小、原生与扫描件比例 | 文件清单扫描 | 对象存储容量与并发下载策略 |
| 派生物容量 | 各类解析产出的平均大小、派生规范版本数 | 试解析实测 | 派生物存储与重建成本 |
| 元数据容量 | 取数对象数、日均批次数、资产件数 | 台账与清单统计 | 关系库与索引容量 |
| 单窗口吞吐 | 低峰窗口时长、源系统可承受并发与单次返回量、实测取数速率 | 试采实测 | 历史初始化的分批数与总周期 |
表 4-2 数据来源:招标文件各系统低峰时段条款(b0814 等)、第 1 节事实口径(63 万张历史工艺样本)。
采集接入最容易引起源系统侧抵触的是性能影响。本项目对此给出四条可核验的承诺。
第一,窗口外不跑批量作业。批量取数、历史回溯、文件批量下载一律在约定低峰窗口内执行;窗口结束未完成的作业优雅中止并保留断点,次日窗口续跑,不延长占用业务时段。
第二,并发与单次返回量受限。每一个源系统的并发连接数、单次查询返回行数、接口调用速率、并发下载数,均按源系统侧给定的上限配置在登记台账中,作业按台账执行,不临时提高。未给定上限时,按保守值起步并在试采阶段逐步上调,上调须经源系统侧确认。
第三,只读副本优先。具备只读副本或备库条件的系统,取数一律走副本,不压主库。这一条对企业资源计划、制造执行、仓储管理三套事务量较大的系统尤为必要。
第四,异常时自动降级。收到限流响应、查询超时或源系统负载告警时,作业自动降低并发与分片大小后重试;连续两日发生则调低该系统的频次并书面通知,不靠人工盯守。
这四条写进方案即构成我方须应答的条款,相应的监控指标(各系统的作业时长、并发峰值、查询耗时分布、重试次数)随采集作业日报提交,供招标方核验。
采集接入在技术上与四类对象发生交接:源系统、承载采集组件的基础设施、数据落区、消费采集结果的下游组件。交接界面以交接物与判据的形式固定在登记台账与采集记录中,不以口头约定为准。
与源系统的交接。 交接物是只读结果集、接口响应、文件与附件、测点时序四类取数结果;判据是登记台账中为该系统登记的授权范围、增量键、频次与窗口,台账以外的对象不取。源系统侧的结构变更、停机与迁移按表 2-2 源系统变更类处置,变更经双方确认并更新字典版本与作业配置后方可恢复取数。
与承载基础设施的交接。 采集区连接器、工业网段采集代理与入口治理闸运行在通用服务器与接入连接器上,加密与脱敏调用服务密码机提供的密码服务;这些承载组件、网络策略与密码服务由系统集成交付(b0804r05、b1210),采集作业在其交付并通过连通性测试后启动。
与数据落区的交接。 交接物是原始数据批次及其采集记录,记录内容为批次号、来源系统、采集时点、数据范围、行数或件数、校验结论与门控状态(b1397)。贴源层按源系统原样留存并附采集元数据,标准化层产出按业务对象组织的规范化记录;两层均以批次为写入单位,批次未完成不对下游可见。
与下游组件的交接。 预处理与清洗作业按门控结论入场:通过的批次直接入场;带告警通过的批次连同告警项一并入场,告警项闭合前只在加工区内受控流转,不进入交付数据集、不作场景验证输入;不通过的批次不移交,挂起于隔离区。数据治理组件接收数据源登记台账、脱敏规则集、数据字典核验差异项与质量线索;跨系统主键映射所需的关联字段随业务数据一并采回并标注用途,映射关系本身在数据治理与预处理环节构建(见第 2.1.7 节)。数据集构建与数据卡统计按资产目录与采集记录中的模态标记、资料时点、来源与地理区域字段取数,模态占比与时效性占比两项指标的统计口径在这两处定义一次,各子集按同一口径取数(b0670、b1939、b1940)。
与感知设备的交接。 时序取数以已到位的测点为准;新增测点在设备到位后纳入登记台账并开始取数,位号、量纲、采样周期与物理设备对应关系随测点台账一并登记。
图 4-2 给出上述交接界面与各界面上的交接物。
图 4-2 源系统、采集组件、数据落区与下游组件之间的技术交接。数据来源:原始数据批次与采集记录依 b1397;门控结论口径依 b1534;承载组件与密码服务范围依 b0804r05、b1210;三项占比指标依 b0670;数据卡来源与采集方法字段依 b1939、b1940。
时间以项目启动为基点按月表示,具体日期在项目实施计划中与总体进度对齐。
阶段划分的依据不是工作量,而是前置条件的到位节奏。采集接入的每一步都依赖上一步的外部输入:没有勘察结论就无法提交权限申请,没有授权就无法试采,没有试采实测就无法确定历史初始化的分批数。因此阶段之间是串行的依赖关系,压缩任一阶段都会把风险推给下一阶段。
第一阶段:勘察与授权(T+1 至 T+2 月)。 对十七个源系统逐系统勘察,确认版本、部署位置、数据库类型、接口形态、文件服务形态、可用的增量机制与实际数据量;接收数据字典并完成核验;提交按表、按接口、按目录的最小权限申请;确认各系统低峰窗口。本阶段的输出是十七份源系统勘察结论表与一份完整的数据源登记台账初版。安全监管平台因招标文件未列字段清单,列为勘察优先项(b0908)。
第二阶段:试采与通道建设(T+2 至 T+4 月)。 按五类通道分别建设采集作业,每一个源系统先做小范围试采:取一个代表性时间窗或一个代表性目录,比对行数与关键字段,实测取数速率与源系统压力,测定时间源偏差,验证入口治理闸的脱敏与校验规则。试采结论签认后冻结该系统的取数范围与作业配置。本阶段并行开展录入流水线的首批次试运行,以一批代表性离线资料验证解析器与分类规则。
第三阶段:历史初始化(T+3 至 T+9 月)。 按试采实测的单窗口可完成量分批执行历史数据回溯。各系统并行推进,但同一低峰窗口内对同一源系统只排一个重作业。历史图纸的六十三万张规模是本阶段的主要工作量,按项目或年份分片,分片进度按月核对。本阶段与第二阶段有重叠:已签认试采结论的系统即可开始初始化,不必等全部十七个系统试采完成。
第四阶段:常态运行与范围扩展(T+5 月起至项目结束)。 常态增量作业按日运行,采集作业日报按日提交,月度校验比对按月执行。范围扩展随感知设备建设分批进行:新增测点到位后纳入台账并开始取数;新接入该主数据平台的源系统纳入映射范围;新增资料类别纳入录入流水线。
表 5-1 给出各阶段的交付物与完成判定。
表 5-1 四个阶段的交付物与完成判定
| 阶段 | 时段 | 主要交付物 | 完成判定 | 依赖的外部输入 |
|---|---|---|---|---|
| 勘察与授权 | T+1 至 T+2 | 十七份源系统勘察结论表、数据字典核验报告、最小权限申请清单、采集作业日历、登记台账初版 | 十七个系统的勘察结论表均经双方签认;低峰窗口全部确认 | 各系统技术联络窗口、数据字典、低峰时段(b0813–b0905 各条) |
| 试采与通道建设 | T+2 至 T+4 | 五类通道的采集作业、十七份试采比对报告、入口治理闸规则集、录入流水线首批次试运行报告 | 各系统试采比对报告签认并冻结取数范围;脱敏规则集经合规确认 | 只读账号与接口授权、文件服务只读目录 |
| 历史初始化 | T+3 至 T+9 | 各系统历史数据批次与采集记录、历史图纸归集分片进度表、首批离线资料资产目录 | 各系统历史数据按登记范围完成归集,差异率收敛至约定阈值内;图纸归集数逐步接近清单总数 | 图纸批量读取方式的确认、资料批次交付 |
| 常态运行与扩展 | T+5 起 | 采集作业日报、月度校验比对报告、季度质量报告、台账与资产目录的持续更新 | 日报连续提交;月度差异率与缺口清单按期披露;扩展清单按期纳入 | 感知设备到位时点、源系统变更通知 |
表 5-1 数据来源:招标文件 3.2.2.1 总则(b0807)、各系统「须提供」条款、3.2.2.2 录入要求(b0910–b0913)。
图 5-1 四个阶段的时段、串行依赖与重叠区间。数据来源:阶段时段与工作内容依第 5.1 节与表 5-1;前置条件责任归属依招标文件 b0813–b0905 各系统「须提供」条款;安全监管平台字段清单缺失依 b0908;历史图纸规模依甲方需求说明书六十三万张口径。
采集接入这类工作的验收容易落到两个极端:或者只看「接通了没有」,接通即算完成;或者提出「全量、无缺失」这样无法核验的指标。两者都不利于项目。验收口径按四类指标设计,每一项都给出度量方法、基线取法与不达标时的处置。
第一类,覆盖类指标。 度量的是该取的是否都在取。具体指标:十七个源系统的接入完成数;各系统已授权取数对象数与登记清单的一致性;时序测点的覆盖数与位号清单的一致性;离线资料的归集件数与交付清单的一致性。这类指标是计数比对,度量方法确定,可直接核验。
第二类,完整性类指标。 度量的是取回来的是否完整。具体指标:各表的行数与源端计数的差异率;时序测点的数据缺口时长占比;文件下载的成功率与缺口清单。这类指标的目标值不写为零——源系统本身的数据缺失、设备停机期间的时序空档、原件已损坏的文件,都不是采集能解决的。因此口径是:以首月试采与初始化结论作为基线,按季度收敛差异率,并在每一份采集记录中如实披露已知缺口的范围。逐步接近已授权范围内的全量是目标,不是承诺当期即达成。
第三类,可用性类指标。 度量的是取回来的数据能不能用于下游。具体指标:关键字段的填写完整度;被检对象标识可关联比例;焊接参数可定位到工单与焊道的比例;图纸与工艺卡可配对比例;运单与采购订单可关联比例。这一类最贴近项目实际价值,也最受源系统数据质量的制约。口径同第二类:以首批抽样核对结果作为基线,按季度提高,每期披露实际值。达不到目标值时,须说明是源系统数据本身的缺口还是我方的处理不足,前者转入缺口清单并提出补录建议,后者由我方整改。
第四类,合规类指标。 度量的是取数过程是否守规。具体指标:脱敏规则覆盖的敏感字段数与识别出的敏感字段数是否一致;超范围取数事件数;许可状态不明而被挂起的资产件数与处置时长;审计留痕的完整性。合规类指标中,超范围取数事件的目标值为零,这一项可以写成零——因为它由权限配置与台账约束在技术上保证,不依赖概率。
表 5-2 把四类指标按项列出,含度量方法、基线取法与不达标处置。
表 5-2 采集接入的验收指标、度量方法与不达标处置
| 类别 | 指标 | 度量方法 | 基线与目标取法 | 不达标处置 |
|---|---|---|---|---|
| 覆盖 | 源系统接入完成数 | 已签认试采结论并进入常态运行的系统计数 | 目标为十七个系统全部接入;受前置条件制约的系统按分档策略计入「已完成可完成部分」 | 未接入的逐系统说明受阻环节并提交推动请求 |
| 覆盖 | 取数对象覆盖率 | 实际取数对象数 ÷ 登记清单对象数 | 以登记台账为分母;台账变更须双方确认 | 差额逐项说明原因,属授权未到位的转入第 6 节清单 |
| 覆盖 | 时序测点覆盖率 | 实际取数测点数 ÷ 位号清单数 | 分母按首期位号清单;扩展部分另立分母 | 同上 |
| 覆盖 | 离线资料归集率 | 归集件数 ÷ 交付清单件数 | 分母为双方签认的交付清单 | 差额按件回单,不以实物为准改清单 |
| 完整性 | 行数差异率 | (源端计数 − 已入库计数)÷ 源端计数,按表按月统计 | 首月实测为基线,按季度收敛至约定阈值 | 对差异时间窗定向重取;重取后仍不一致的披露缺口范围 |
| 完整性 | 时序缺口时长占比 | 缺口时长 ÷ 应采时长,按测点按月统计 | 首月实测为基线,按季度收敛 | 定向补采;补采不到的按测点与时间窗登记 |
| 完整性 | 文件下载成功率 | 成功件数 ÷ 清单件数 | 首批实测为基线 | 失败件按原因分类回单;原件损坏的转缺口清单 |
| 可用性 | 关键字段完整度 | 非空且合规取值的行数 ÷ 总行数,按字段统计 | 首月实测为基线,按季度提高 | 源系统侧缺口提出补录建议;我方处理问题即整改 |
| 可用性 | 对象可关联比例 | 可映射到主标识的记录数 ÷ 总记录数,按对象类型统计 | 首批抽样核对为基线,按季度提高 | 映射规则迭代;线索不足的提出字段补充请求 |
| 可用性 | 图卡可配对比例 | 可配对的图纸数 ÷ 已归集图纸数 | 首批抽样经工艺口核对为基线,按季度提高 | 配对规则迭代;命名规则缺失的请求规则说明 |
| 合规 | 敏感字段识别一致性 | 脱敏规则覆盖字段数 ÷ 识别出的敏感字段数 | 目标为一致;新识别出的字段须在下一批次前纳入规则 | 未覆盖字段立即补规则并对已入库数据回溯处置 |
| 合规 | 超范围取数事件数 | 审计日志中超出台账范围的取数记录计数 | 目标为零(由权限与台账在技术上约束) | 发生即停止该作业、出事件报告并整改配置 |
| 合规 | 审计留痕完整性 | 有完整留痕的作业批次数 ÷ 总批次数 | 目标为一致 | 缺失留痕的批次重跑或补记,并修订留痕逻辑 |
表 5-2 数据来源:招标文件评分表「方案可实施性」要求(b0496)、3.2.6.3.1 采集环节门控要求(b1396、b1534)、质量评测可信性与溯源要求(b1939、b1997)、安全合规要求(b0804r06)。
采集接入在项目期内是一项持续运行的工作,不是一次性交付。例行输出按三个周期组织,这既是我方的工作纪律,也是招标方可以据以检查的凭据。
按日:采集作业日报。 内容包括当日各系统的作业执行情况(成功、失败、挂起)、取回行数与文件数、作业时长与窗口占用情况、异常处置单的新增与关闭、当日已知缺口的新增。日报篇幅短,重点在异常与缺口,不罗列正常项的明细。
按月:校验比对报告。 内容包括各表的行数与关键字段汇总的核对结果、差异率、差异的定向重取结论;各时序测点的缺口统计;文件清单的比对结果;台账变更记录;本月新增与关闭的异常处置单汇总。月报是完整性类指标的度量依据。
按季:质量与进度报告。 内容包括四类验收指标的实际值与基线对比、未达目标项的原因分析与整改安排、缺口清单的更新、下一季的范围扩展计划、前置条件待办事项的进展。季报是验收评审的依据。
三类报告的模板随本项目的治理文档体系一并交付,模板样式与字段在数据治理章与附件章给出。
各源系统的数据库连接信息、接口信息或文件传输信息,业务低峰时段,数据字典或数据库设计说明书,这三类材料是采集接入工作的前置条件。
招标文件把这三类条款写在「对该系统的要求」之下,提供方是源系统侧。十七个源系统均为既有建成系统,其接口开放、字典交付与联调配合需要招标方出面协调;若部分系统的接口开发或配合工作由其原建设方承担,相应的配合范围与责任归属须在合同签订阶段明确,以免实施期出现无人对接的环节。据此按「前置条件不齐备时也要能往前走」的原则设计分档接入策略,使项目不因个别系统的授权节奏而整体停滞。
甲档:授权与字典齐备。 走完整通道,按第 2.1 节与第 2 节的方案执行:建立只读连接或接口授权,按登记的增量键取增量,绑定字典版本运行,按约定频次与窗口执行作业。甲档是常态目标,十七个系统均以进入甲档为目标。
乙档:授权已开通、字典缺失。 这是本项目很可能的多数情形——招标文件仅为三个系统明确写明字典条款(b0815、b0822、b0829),其余十四个系统的字典须另行请求。乙档的做法是:按实际库结构或接口响应反向推导字段清单与类型,形成「推导字典」并提交源系统侧核对;核对未回之前,推导字典以我方版本号运行,枚举字段按实际取值分布登记而非按声明码值校验;校验口径相应放宽——结构类校验仍执行,码值类校验降为告警而不拦截。乙档的风险是字段语义理解偏差,缓解办法是在试采比对时增加业务口抽样核对,由业务人员确认关键字段的实际含义。
丙档:授权暂未开通。 做法是请甲方按代表性范围导出样例数据或文件,我方据此完成解析、建模与规则开发,使授权到位后可直接切换为常态接入,不必从零开始。样例数据的范围要求写明:结构化部分按每张表若干行并覆盖主要枚举取值,时序部分按若干测点若干小时,文件部分按每类若干件并含典型异常样本(扫描件、倾斜件、无文本层件)。丙档期间不产生正式采集批次,产出的是通道设计与规则资产。
档位切换的触发与时效。 乙档在收到正式字典后七个工作日内完成与推导字典的比对并切换甲档;丙档在授权开通后十个工作日内完成试采并切换乙档或甲档。切换记录与档位历史在登记台账中留存,验收时按实际档位计入覆盖类指标,不把丙档计为已接入。
表 6-1 给出三档的判定条件、做法与影响。
表 6-1 三档接入策略的判定、做法与影响
| 档位 | 判定条件 | 我方做法 | 对交付的影响 | 切换条件与时效 |
|---|---|---|---|---|
| 甲档 | 只读授权已开通且数据字典或库结构说明已交付核验通过 | 完整通道运行:增量取数、字典版本绑定、全部校验项启用 | 按第 5 节验收口径正常计入 | 常态目标,无需切换 |
| 乙档 | 授权已开通,字典或库结构说明未交付 | 反向推导字典并提交核对;码值类校验降为告警;试采增加业务口抽样核对 | 可正常产出采集批次;字段语义偏差风险由抽样核对缓解 | 收到正式字典后七个工作日内比对并切换甲档 |
| 丙档 | 只读授权未开通 | 按样例数据完成解析、建模与规则开发;不产生正式采集批次 | 不计入已接入系统数;历史初始化顺延 | 授权开通后十个工作日内完成试采并切换 |
表 6-1 数据来源:招标文件各系统「须提供」条款的责任归属(b0813 等)、字典条款的实际覆盖情形(b0815、b0822、b0829)。
图 6-1 三档接入策略的判定、升档路径与时效。数据来源:三档判定与做法依第 6.1 节与表 6-1;各系统「须提供」条款的责任归属依 b0813 等;字典条款的实际覆盖情形依 b0815、b0822、b0829。
分档策略解决的是条件不齐备时如何继续推进,尚未回答究竟缺哪些条件、由谁补齐、补不上我方怎么办。表 6-2 回答的是这一问:把十七个源系统与离线录入链路所依赖的外部输入拆为十四项,每一项都落到确定的提供方与确定的用途上,使实施期的协调有清单可依,也使配合范围与责任归属在合同签订阶段即可谈定。
十四项的来由有三类。一类直接取自招标文件各系统「须提供」条款,如数据库连接与接口信息、数据字典或数据库设计说明书、业务低峰时段,原文已写明提供方为源系统侧;一类来自取数范围能否冻结的工程判断,如时序位号清单与量纲、安全监管平台的对象字段与单向网络实现方式、PLM 原生图纸的批量读取方式,缺了这些并非效率下降而是范围无法确定,故单列成项;一类是本项目内部的交付依赖,即采集区与加工区的资源与密码服务、感知与检测设备的到位时点,须与硬件和系统集成环节的交付节奏相互对齐。
表中后三列是读表的着力处:「须提供方」指明协调对象,「未到位的影响」是该系统落入哪一档的判定依据,「我方替代做法」则是不停工等待的证据——十四项中有十三项写明了可先行的替代路径,仅技术联络窗口一项无从替代,故列为项目启动的首项协调事项。据此可得的结论是,前置条件的缺口影响的是推进节奏与档位,通常不致使采集接入停摆。以此为基线,我方趋向在授权与字典逐步到位的过程中将各系统推进至甲档;某项条件在约定期限内仍未到位的,按表列替代做法降档运行,并按周提交受阻清单请招标方协调,档位与切换时点在登记台账中留痕,验收时按实际档位计入。
表 6-2 前置条件清单与未到位时的替代做法
| 序号 | 前置条件 | 须提供方 | 用途 | 未到位的影响 | 我方替代做法 |
|---|---|---|---|---|---|
| 1 | 十七个源系统的技术联络窗口 | 招标方 | 勘察、授权申请、异常回单的对接 | 勘察无法开展,全部阶段顺延 | 无替代;列为项目启动首项协调事项 |
| 2 | 各系统的只读账号或只读视图、接口授权令牌、文件服务只读目录 | 招标方协调源系统侧 | 取数(b0813 等各条) | 该系统落入丙档 | 按样例数据走丙档 |
| 3 | 各系统数据字典或数据库设计说明书 | 招标方协调源系统侧 | 字段语义与校验口径(b0815、b0822、b0829 及其余系统的补充请求) | 该系统落入乙档 | 反向推导字典并提交核对 |
| 4 | 各系统业务低峰时段确认 | 招标方 | 作业日历编排(b0814 等十六处) | 批量作业无合规窗口可用 | 暂按 0 点至 5 点的招标文件示例口径排期并提请确认 |
| 5 | PLM 原生图纸的批量读取方式与授权范围 | 招标方协调源系统侧 | 六十三万张历史图纸归集(b0874) | 历史图纸归集周期显著延长 | 退到由甲方按批次导出并通过文件服务交付,我方按清单核收 |
| 6 | SCADA、热处理群控、EMS 的位号清单、量纲、采样周期与物理设备对应关系 | 招标方协调源系统侧 | 时序取数与测点台账(b0880、b0902、b0855) | 时序取数范围无法冻结 | 按试采探测的位号列表建临时台账并提请确认 |
| 7 | 安全监管平台的对象与字段清单、单向可达的网络实现方式 | 招标方 | 单向集成(b0907、b0908) | 该系统无法冻结取数范围 | 列为勘察优先项;勘察前不预设结构 |
| 8 | OA 十一类管理制度与九类合同文档的分类明细、权限标签定义 | 招标方 | 文档归集与权限分级(b0886) | 文档分类与权限分级无依据 | 按实际目录结构暂行组织并提请确认分类口径 |
| 9 | 离线资料的交付批次与随批清单 | 招标方 | 批量导入核收(b0911) | 录入流水线无输入 | 先以实时接入通道与已有系统附件开展录入试运行 |
| 10 | 敏感字段范围与可用于训练的数据范围确认 | 招标方 | 入口脱敏与裁剪口径(b0804r06) | 脱敏规则集无法定稿 | 按从严口径暂行(疑似敏感即脱敏),确认后放宽 |
| 11 | 企业业务日切时点、月结日历 | 招标方 | 库存快照对齐、成本与凭证取数时机 | 快照错位被误判为口径差 | 按试采观测推定并提请确认 |
| 12 | 工艺部门确认的正式工序字典 | 招标方 | 工序数据取数与校验(b0873) | 工序字段无权威校验依据 | 按现掌握的二十八道工序口径暂行并提请确认 |
| 13 | 采集区与加工区的计算、存储、网络资源与密码服务 | 本项目系统集成与硬件交付 | 通道部署(b0804r05、b1210) | 通道无处部署 | 与系统集成章的交付节奏对齐排期 |
| 14 | 感知与检测设备的到位时点与扩展位号清单 | 本项目硬件交付 | 时序测点扩展 | 扩展部分的时序数据无来源 | 按首期已有测点开展,扩展部分到位后纳入 |
表 6-2 数据来源:招标文件 3.2.2.1 各系统「须提供」条款、3.2.2.2 录入要求(b0911)、采购清单第 1、4 项(b0804r02、b0804r05)、安全合规要求(b0804r06)。
采集接入的风险集中在外部依赖上,技术风险相对次要。以下按风险列出触发信号、影响与应对,均为可执行动作而非原则性表述。
源系统接口配合不到位。 这是其中最主要的风险。触发信号是勘察阶段联络窗口无法确定,或权限申请提交超过两周未获回应。影响是该系统落入丙档,其对应业务域的数据集建设顺延。应对分三步:第一步按表 6-2 的替代做法维持进度,不停工等待;第二步按周提交受阻清单,列明受阻系统、受阻环节、已顺延的工作项与预计影响,请招标方协调;第三步在合同执行层面明确接口配合的责任归属与工作边界,使配合工作有明确的承担方。我方同时承诺,凡在我方能力范围内可替代的,一律先行替代,不以等待外部条件为理由停滞。
历史图纸归集周期超预期。 触发信号是原生图纸无法批量读取且导出交付节奏低于分片进度表。影响是产品工艺设计域数据集的样本量不足。应对是:按项目或年份优先归集与试点场景直接相关的图纸分片,先保证板材备料场景的最小可用样本量,其余分片按季度推进;同时在采集记录中按分片披露归集进度,使数据集规模的达成路径可核验。
时序数据的时间基准偏差与缺口。 触发信号是试采期测定的时间源偏差超出可接受范围,或测点缺口时长占比超阈值。影响是过程数据与工单、炉次的对齐错位,制造过程域的成对样本不成立。应对是:偏差已测定的按偏差值在标准化层做时间归一;偏差不稳定的,提请源系统侧统一时间源;缺口定向补采,补采不到的按测点与时间窗如实登记,不做插值填充后当作实测数据使用。
敏感范围界定反复。 触发信号是脱敏规则集定稿后又收到范围调整要求。影响是已入库数据须回溯处置。应对是:脱敏在采集区执行、原件保留在采集区外的原则使回溯具备技术条件;规则调整时按新规则对已入库数据回溯重处置,并在合规报告中记录回溯范围与时点。为降低反复的代价,规则集初期按从严口径执行——疑似敏感即脱敏,确认不敏感后再放宽,放宽不需要回溯,收紧才需要。
离线资料质量低于预期。 触发信号是首批次资料的解析成功率或人工改判率显著偏离预期。影响是录入工作量与周期上升。应对是:按资料类别重新评估解析路径,对扫描质量差的类别增加图像预处理环节;调整抽样复核比例;在质量报告中如实披露各类别的解析成功率,并就改善原件质量(如重新扫描)提出建议。此类建议属我方的专业意见,是否执行由招标方决定。
源系统升级或迁移。 触发信号是收到变更通知或探测到版本号变化。影响是作业中断与结构变更。应对按第 2.1.4 节表 2-2 的源系统变更类处置口径执行:变更期间暂停该系统作业,变更后先试采比对再恢复常态;同时在配合事项中约定变更的提前通知机制。