feat(server): 参考 BidEngine 补五项：原因码、截断重跑、项目信息逐项表态、占位符、提示词规则对应校验
- 待确认记原因码（extract.FAILURES，存在 ai_values.failures），解析结果按原因计数 （verify_failures）；前端待确认条目显示具体原因 - 相邻分块重叠约 800 字；模型输出被截断或不是合法 JSON 时对半重跑（最多 3 层）， 拆到底仍不完整记 output_incomplete。修复：以前截断时整块条目被当成「没有结果」悄悄丢掉 - 项目基本信息提示词 v2：12 个字段逐项表态 found / ambiguous / not_found，跨分块合并为 found / absent / needs_review（info_fields） - 「____元」「××」「（ ）」「待填」等占位符不算取值 - 提示词 substantive v4，qualification / scoring / schedule / tech_param v3：每条禁止事项 对应一个原因码，对照表在 prompts/README.md - 顾问（Fable）深读参考项目的结论补进 ref-bid-engine-analysis.md §5；架构 §13 SK12 - 待确认：国动 4 → 2，S02 13 → 3，S06 57 → 55 Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
This commit is contained in:
YANG JIANKUAN
@@ -859,6 +859,7 @@ S1–S4 风险最高，建议先做；S8（桌面外壳 PoC）等桌面版立项
|
||||
| SK9 | 读标抽取（2026-11-03 补） | 五类清单（资格、无效 / 实质性、评分、日期与递交、技术参数）加项目基本信息各一个抽取任务、一份提示词（`prompts/extract.*`），分块并发调用；每类都过三道校验，第三道按类别核对：实质性条款核对标注或「无效」字样，其他类别核对日期、分值、参数值、金额在原文里找得到，是 / 否字段核对说法。各任务抽到同一条要求时按首句合并 | 已实现 |
|
||||
| SK10 | 文字层 v2 与结构识别 | 页眉页脚带（页码、各页重复的行）单独成句，不并进正文；标记写到页尾的句子，和下一页首句接续成一条要求（出处两页各一条）；最小结构识别：十进制分级编号和冒号引出的列表找上级条款，上级条款写明无效情形的，下面的条目照样认定。文字层 v1、v2 的句子编号不同，规范化 PDF 不变 | 已实现 |
|
||||
| SK11 | 待确认审计后的修正（2026-11-03） | 国动样本 73 条待确认里多数是好结果被校验误拦，逐条审计后按「规则只修真正的缺陷、不迁就模型的错误输出；模型输出不合理的改提示词」处理。**文字层 v3**：两端接竖线的横线是表格框线，不算下划线（功能表整格被误认成斜体下划线条款）；句号后紧跟的右括号、右引号并进同一句（切句 s3-v3，句子编号和 v2 不同）。**结构识别**：中文编号小节（「三、……否则投标无效」）下的 1. 2.，以冒号结尾的编号条目下的句子；依据核对沿上级链往上找。**校验**：比对引文前去掉我们自己加进输入的格式标记和〔…〕附注；不足 8 个字的短句整句复制时句末标点可省；取值核对认带量词的中文数字、同一行的单元格和评分因素标题；补「投标（响应）无效」「不能通过资格审查」「没有实质性响应」「拒收」等写法。引文最短 8 个字、编号必须对、证据要全部通过，这些不放宽。**提示词**：substantive v3、qualification / scoring / schedule / tech_param v2，统一证据规则（引文复制整句、并列多项不拆、跨页只引上一行、数字写阿拉伯数字），除实质性条款外输入改成纯文本；资格不收附件范本和价格扣除条件，日期不收合同条款，技术参数一句一条。**模型路由**：`BD_AI_MODELS` 按提示词声明的能力选模型，没配的用 `BD_AI_MODEL`。离线评测工具 `evals/run_extract.py` | 已实现 |
|
||||
| SK12 | 参考 BidEngine 的五项改进（2026-11-03） | 见 `ref-bid-engine-analysis.md` §5。**原因码**：没通过校验的结果记具体原因（`extract.FAILURES`，存在清单项 `ai_values.failures`），解析结果按原因计数（`verify_failures`），提示词规则和原因码的对照表在 `prompts/README.md`。**分块**：相邻分块重叠约 800 字；模型输出被截断（`finish_reason=length`）或不是合法 JSON 时，把分块对半重跑，最多 3 层，拆到底仍不完整的记 `output_incomplete`（以前当成「这一块没有结果」，审计发现 deepseek-flash 有输出正好停在 8192 token、整块条目悄悄丢掉的情况）。**项目基本信息**：提示词 v2，12 个字段每个都要表态 found / ambiguous / not_found，跨分块合并后分 found / absent（文件本身没写）/ needs_review（抽取有问题），记在解析结果 `info_fields`。**占位符**：「____元」「××」「（ ）」「待填」不算取值。**提示词**：substantive v4，qualification / scoring / schedule / tech_param v3，每条禁止事项对应一个原因码。三份样本的待确认：国动 4 → 2，S02 13 → 3，S06 57 → 55（S06 有 4 次对半重跑，截断的分块都救回来了） | 已实现 |
|
||||
|
||||
SK11 修正前后（同一模型 deepseek-chat，即 deepseek-flash 不思考模式）的待确认数：国动 46 → 4，S02 17 → 13，S06 174 → 57；同一句被拆成多条的情况没有了。剩下的待确认多数是表格两栏或竖排文字串行（要按单元格切句才能解决）。实质性条款任务上比较了 flash 不思考、flash 思考（deepseek-reasoner）、deepseek-v4-pro：抽到的条款大体一致、互有多少，后两者慢 15～45 倍、输出 token 多 7～12 倍，没有看出明显更准；选型等标注集评测出结果再定。
|
||||
|
||||
|
||||
@@ -2397,6 +2397,16 @@ components:
|
||||
items_pending: { type: integer }
|
||||
items_absent: { type: integer, description: 重新解析时没再出现的旧条目 }
|
||||
lots_found: { type: integer }
|
||||
verify_failures:
|
||||
type: object
|
||||
description: 没通过校验的原因码和条数（如 quote_too_short、value_unverified），评测和排查用
|
||||
additionalProperties: { type: integer }
|
||||
chunks_split: { type: integer, description: 模型输出被截断、把分块对半重跑的次数 }
|
||||
output_incomplete: { type: integer, description: 拆到底输出仍不完整的分块数（这些分块的结果可能不全） }
|
||||
info_fields:
|
||||
type: object
|
||||
description: 项目基本信息各字段的结论：found / absent（文件本身没写）/ needs_review（抽取有问题，要人核对）
|
||||
additionalProperties: { type: string, enum: [found, absent, needs_review] }
|
||||
created_at: { $ref: '#/components/schemas/Timestamp' }
|
||||
finished_at:
|
||||
oneOf:
|
||||
|
||||
@@ -214,3 +214,46 @@
|
||||
- 数据库表结构用迁移工具管理。
|
||||
- 租户隔离在数据层统一强制；管理端接口单独挂一层鉴权中间件。
|
||||
- 任何「本地开发免登录」的开关，都不能出现在生产构建里。
|
||||
|
||||
## 5. 解析流水线深读（2026-11-03 补）
|
||||
|
||||
> 用户要求再读一次，聚焦「模型 + 规则」解析招标文件和检查投标文件。由 Fable 模型做顾问走查源码，关键结论对照源码抽查过（饱和对半重跑、段落级出处、not_found 分两类、直抽「找不到逐字引文就不要输出」、条款允许简明摘录）。只读、未运行。路径相对 `bid-engine-backend/pkg/handler/`。
|
||||
|
||||
### 5.1 结论
|
||||
|
||||
1. **组织方式比单个技巧更值得学**：抽取分两条车道——按章节开放式找条款（`bidanalysisv3/extraction.go`），和按固定字段表逐项过全文、每个字段必须表态 found / ambiguous / not_found（`bidanalysisv3/fixed_field_extraction.go`）。模型输出后有十余条确定性校验，每条失败都记原因码并按原因计数（`extraction.go:757-893`）。
|
||||
2. **分块比我们细**：按章节打包，包与包之间带一个重叠块，超大表格单独成包；输出被截断（finish_reason=length）或条数正好碰到上限时，把这一包对半重跑，最多 4 层（`bidanalysisv3/extraction_schema.go:257-401`）。
|
||||
3. **章节识别三级**：强正则 → 弱正则候选交模型消歧（只能删、改名、分类，不能新增，必须保留第一个，服务端核对编号和顺序）→ 每 20 页兜底（`bidanalysisv3/chapter_identification.go`、`extraction.go:207-317`）。章节类型用来分派任务。
|
||||
4. **出处只到段落**：`pkg/repo/docling/adapter.go` 注释写明「溯源高亮精度从逐字精确变为段落级覆盖，已确认可接受」，引文就是整块文本；Docling 返回的粗体斜体、表头、合并单元格都没用，表格压成纯文本矩阵；条款允许「简明摘录」（`bidanalysisv3/fields.go:109`）。★ / 斜体下划线标注会全部漏掉。**这一层不学**。
|
||||
5. **查标学框架、不学判定**：检查项来源分层（预设 / 从解读映射 / 企业规则 / 版式项），致命项逐条、其余按类别批量，检索不到直接给「未找到，需人工确认」不调模型，版式用规则扫描分硬 / 软证据（`bidreview/`）。判定结果的页码和引文不校验，pass 不要求证据，违反红线 2。
|
||||
|
||||
### 5.2 值得学的具体做法
|
||||
|
||||
- **固定字段逐项表态**：漏答、found 却无值、证据定位不到一律降为待核验并记原因；所有分块都答完才允许定 not_found；最终 not_found 再分「文件本身没写」（info）和「抽取异常」（warning）（`bidanalysisv3/fixed_field_service.go:183-217`）。
|
||||
- **占位符不算值**：`___`、`××`、待填、TBD 等匹配为占位符（`extraction.go:29, 796-800`）。
|
||||
- **标准化由服务端做**：金额、日期、单位在服务端解析，提示词禁止模型输出标准化值。
|
||||
- **重复候选合并取证据并集**；多值冲突交模型裁决但只能缩减，没表态的默认全保留，不同标段 / 主体的值必须保留多个（`bidanalysisv3/consolidation.go`）。
|
||||
- **每页质量指标**：字数、是否 OCR，平均不到 40 字 / 页判扫描页并 OCR 重跑，页数核对不符判失败（`bidanalysisv3/document.go:410-473`）。
|
||||
- **告警三级**：critical（基础设施）/ warning（内容质量）/ info（文件本身缺），同类合并计数，基础设施错误直接停整个阶段。
|
||||
|
||||
### 5.3 提示词亮点
|
||||
|
||||
- 安全规则编号放在最前，声明输入是不可信数据并列举注入形式；用户消息只放数据标签 + JSON，能不给的原文就不给（章节消歧只给标题、页码、编号）。
|
||||
- **否定清单具体、每条对应一条服务端校验**：not_found 不得带证据；占位符不算值；不同主体、标段、预算与限价不能混成一个值；不要为凑数编造；不得输出标准化值。
|
||||
- JSON Schema 锁 enum、条数上限、引用编号格式；固定字段的条数下限 = 上限 = 字段数。
|
||||
- 裁决类提示词「只能缩减」。
|
||||
- 查标直抽：「quote 必须是该页文本中的连续原文……找不到逐字引文就不要输出」（`bidreview/tender_direct.go:23-25`），是全仓库最接近我们红线的一条。
|
||||
- 没有正反例、没有版本号、没有评测集。
|
||||
|
||||
### 5.4 对标博士的取舍
|
||||
|
||||
顾问的 13 条建议里，「引文对不上时在同一块里找到原句、改挂出处」不采纳：它是在迁就模型的错误输出（2026-11-03 用户定的原则：规则只修真正的缺陷，模型输出不合理的改提示词）。只采纳其中「记原因码」的部分。
|
||||
|
||||
- **S01–S10 标注集评测之前做**（只改抽取、分块和提示词，不动数据结构）：
|
||||
1. 待确认条目记原因码，按原因计数；
|
||||
2. 分块加重叠，检测输出截断并对半重跑；
|
||||
3. 项目基本信息逐项表态，区分「文件本身没写」和「抽取出错」；
|
||||
4. 识别占位符；
|
||||
5. 提示词的禁止事项和服务端校验一一对应。
|
||||
- **评测之后做**（涉及文字层数据结构）：顶级章节识别并按章节类型分派任务；每页质量指标和扫描件判定；表格按行生成证据单元、带表头（解决两栏表、竖排文字串行）。
|
||||
- **留到 M3 设计**：检查项来源分层、判定分层、检索不到不调模型、版式规则扫描；必须补投标侧引文逐字校验，pass 必须有校验通过的证据。检索用 PostgreSQL 的 pg_trgm / 全文检索，不自建倒排。
|
||||
|
||||
Reference in New Issue
Block a user