如何设计面向内部多源文档的问答 AI?
未标记
考查重点:多源知识更新与可追溯问答。多源解析保留版本与权限,建立关键词和向量索引;提问按权限检索有效证据,再生成带出处回答并增量更新
本题目录
参考答案
核心回答
可以设计成多源接入与治理、统一检索、证据问答、持续更新与评测四部分。接入内部Wiki、PDF、共享文档和工单时保留来源、版本及访问权限;解析清洗后建立关键词和语义索引;用户提问时先确定身份与问题范围,检索可访问的有效证据,再生成带出处的回答。
重点不是把所有文件转成向量,而是让跨来源的信息保持结构、及时更新且可核查。资料少时可以先做简单检索与问答,不必一开始就上知识图谱、多Agent和所有检索策略。
多源接入怎样统一
为每类来源做连接器,抽象为文档ID、正文/结构元素、来源位置、版本、时间和ACL。保留原文件,以便解析失败重放和引用回源;处理表格、扫描PDF或代码时使用适合的解析方式。相同文档的多入口要去重,但版本和授权不同的内容不能随意合并。
切分先尊重标题、段落和表格边界,再按模型预算控制长度;片段保存父文档、标题路径和位置,必要时检索小块、补回相邻或父块。结构化台账中的精确统计应由数据库或受控查询执行,不能让模型从一堆近似片段猜总数。
在线问答怎样组织
先补齐会话里的实体和时间范围,再按查询特点选择关键词、向量或混合检索,过滤权限和生效版本,合并去重后按需重排。把有限且互补的证据送给模型,要求结论对应片段;资料冲突时区分版本和条件,缺证据时说明缺口或继续检索。
所有检索分支、补充读取和引用跳转使用相同授权上下文,缓存也要考虑权限与知识版本。文档中的指令仅是待分析内容,不能覆盖用户要求或执行策略。固定流程足够时用工作流,确有多跳探索需求时再让Agent选择下一步。
更新和评估怎样闭环
新增和变更进入幂等处理队列,按文档版本重建受影响片段;删除或权限收紧时同步撤销索引、缓存和派生摘要。事件驱动可配合定期对账,避免漏更;索引版本能切换并回退。
用典型问题建立基线,覆盖单文档、跨来源、多版本、表格、无答案和权限隔离。分别观察接入新鲜度、证据召回、排序、答案正确与引用、延迟和成本;沿查询轨迹定位是文档没进库、没召回、没进入上下文还是生成误读。
常见追问
内部部署一定优于API吗? 根据资料处理要求、预算、质量与运维能力选择;不论模型放哪,身份权限、证据链和更新机制仍需应用实现。
对应教程
- 第19章:RAG检索增强生成:回看加载、切分、入库与在线问答的分工;本文进一步说明多源治理和质量检查。
参考资料
- 国内:RAG文档处理与切分策略:借鉴多格式解析、切分及元数据管理,组织正文中不同来源进入统一索引前的治理过程。
- 国内:RAG知识库更新与维护:增量更新、删除和版本链路说明知识库怎样保持新鲜并避免旧片段继续影响答案。
- 国内:Agent RAG与混合检索工程高频考点:参考 RAG 治理与混合检索工程,说明正文中接入、检索、上下文和生成的分层职责与故障定位。
- 国外:Document-level access control in Azure AI Search:文档级授权说明检索身份与文档权限如何连接,以及权限变化为什么需要贯穿所有访问路径。
- 国外:Retrieval:依据固定 RAG 与 Agentic 检索的区别,说明正文中按多跳探索需要选择控制流的取舍。