项目处理的数据来自哪里,具体是什么内容?
未标记
考查重点:数据内容、来源与计算用途。逐类说明业务表/文档/外部材料的内容、时间和获取方式,取一条数据解释它怎样参与计算
本题目录
参考答案
核心回答
以电商问数和深度研搜为参考示例,项目主要接入结构化业务数据、业务知识和任务过程中获取的外部材料。
电商问数查询订单、商品、客户、地区和日期等结构化电商数据,配套 SQL 提供 2025 年 1 至 3 月的模拟订单。项目还整理表字段、指标口径与字段取值,建立元数据及检索索引,帮助模型生成 SQL;最终金额和数量由数仓查询得到。
深度研搜按任务接入公开网页搜索结果、已配置 MySQL 中的数据、RAGFlow 知识库及用户上传的会话附件。配套材料包括药品、库存和销售模拟数据,以及可供导入的示例 PDF。介绍自己的部署时,再说明实际接入方、业务内容、时间范围与更新方式。
原始来源、检索索引和最终查询结果各有职责。数据存在哪个数据库,是存储方案;由谁提供、代表什么业务事实、怎样更新,才解释了数据来源。
把一种数据讲具体
可以挑一类核心数据,沿着来源到结果讲清楚:
- 来源与接入方式: 上游业务库、数据仓库、埋点日志、用户上传、公开网页或第三方接口;是直接查询、定期同步,还是人工导入。
- 内容与粒度: 一行是订单、订单明细还是每日汇总;文档是制度、产品说明还是研究报告。主键、关联关系、金额单位和状态含义会影响后续计算。
- 时间与更新: 数据覆盖哪个业务时间段,最新同步到什么时候,迟到数据或文档修订如何处理。网页采集时间、文档发布时间和订单发生时间分别记录。
- 处理与用途: 怎样清洗、去重、解析或聚合,哪些内容进入索引,哪些在查询时按需获取,以及它们支持什么问题。
例如回答销售额问题,需要说清“订单金额”是否含取消、退款或重复明细。知道表名还不够,业务口径决定 SQL 算出的数是否符合需求。
数据规模也按对象分别说明:原始文件数、解析成功数、切片数、索引条目数和业务表行数不是同一个数。一份文件可能切出很多块,一个字段也可能因名称、描述和别名形成多个向量点,因此索引条目数不能当成原始数据量。
电商问数:业务数据与元数据怎样分工
问数时,订单事实表提供数量、金额及关联维度,维度表补充商品类别、地区等分析条件;元数据则帮助模型找到正确的字段、取值和指标口径。
配套源码的构建流程会从配置取得表、字段描述和指标定义,再查询数仓补齐字段类型与示例值。字段和指标文本经过 Embedding 后建立向量索引,需要同步的字段取值进入全文索引。这里同步的是用于理解和检索的数据,不是把整张订单事实表全部转成向量。
以“华东地区某类商品的销售额”为例,检索过程帮助确认地区值、商品类别字段和销售额定义,生成的 SQL 再到结构化数据中筛选、关联和聚合。最终金额来自查询结果,不来自相似度分数或模型自行估算。
字段示例值和同步取值的查询带有数量上限。描述索引覆盖范围时,可以结合实际行数、同步水位和同步记录,说明哪些字段值已经进入索引、哪些仍需回源查询。
深度研搜:文件上传、知识库与搜索有什么不同
会话附件来自用户这次上传的材料。配套接口先保存文件,再由读取工具按格式提取文本或表格摘要。这条链路并不等于“附件已自动进入长期知识库”;PDF 提取也不保证扫描图片中的文字都已识别。
RAGFlow 知识库在外部服务中准备文档并配置助手绑定关系,研搜项目通过工具查询这些助手。仓库中的示例 PDF 可作为导入材料;介绍实际知识库时,可以进一步说明文档提供方、导入方式、更新频率与可追溯的版本。
网页搜索返回标题、URL 和内容摘要,按需请求更完整的解析正文。配套工具默认没有开启原文返回,因此搜索命中摘要不等于已经取得网页全文。网页可变,还应保留查询与抓取时间;来源自己的发布时间可另行记录,不能与抓取时间混用。
MySQL 查询访问连接配置指定的数据库。配套模拟表演示药品、库存和销售查询;实际接入业务库后,再结合数据字典说明表的粒度、主要字段、时间范围和当前数据量。
追问:数据已经变了,怎样知道回答用了哪一版
业务查询可以关联查询时间、筛选条件、数据快照或同步水位;文档保留来源 ID、文档版本、更新时间、解析与索引版本;网页保留原始 URL 和抓取时间。检索结果还要带上来源定位,例如文档页码或章节,才能从答案追到原始材料。
更新时处理新增、修改和删除,并检查原文、元数据和索引是否一致。权限变化也要同步到检索和上下文构建过程。这样发现旧答案时,才能区分是源数据未更新、索引滞后,还是生成阶段没有采用新证据。
对应教程
- 《AI Agents 从零到一》:元数据知识库总览与构建入口:说明表、字段、取值、指标以及不同存储的职责,可结合配套 shopkeeper-agent 源码理解数据如何变成问数上下文。
- 《AI Agents 从零到一》:深度研搜项目总览与工程初始化:区分网络、数据库、知识库和会话文件等信息入口;本文进一步说明原始数据、示例数据和实际部署数据的范围。
参考资料
- 国内:Guide / JavaGuide:RAG 知识库文档如何更新:参考元数据设计与更新问题的讨论,解释正文中保留来源、文档版本、切片和权限以追查答案数据版本的做法。
- 国内:Datawhale:Hello Agents 第八章“记忆与检索”:采用文档转换与加载的示例,说明正文中原文件进入解析、分块、索引的过程,并区分文件数与索引条目数。
- 国内:阿里云百炼:数据集:参考文件、表格与数据库数据集的接入方式,区分正文中的本地上传、外部同步和直接查询原数据库;连接能力仍以对应数据源条件为准。
- 国外:Tavily:Search API:依据请求参数和返回字段,说明正文中网页搜索摘要、URL、解析正文与日期信息的获取范围。
- 国外:LangChain:Unstructured integration:文件加载结果中的 source、页码和修改时间示例,说明解析后的文本怎样保留可回溯的来源位置。
相关面经
13 篇字节跳动
Agent文档来源是哪、是不是网上找的
水滴
AI全栈上传的数据是什么格式?单个文件的数据量大概有多大?
中科曙光
AI Agent数据来源,测试过程,整个流程讲一下
广电数科
Java 开发工程师你们知识库的来源在哪里
吉利
大数据开发工程师你们处理的数据是什么?
展开剩余 8 篇面经
OPPO
数据开发工程师智元创新
数据引擎研发工程师介绍一下数据来源?
字节跳动
Agent 全栈开发工程师文档是自己全量捞取,还是有人上传?
阶跃星辰
大模型基础设施工程师(数据管道)数据源存储在哪,数据之前是存储到哪里
小红书
后端开发工程师rag的数据哪里来
字节跳动
Agent 算法实习介绍你项目的数据获取渠道、训练硬件资源配置、奖励函数的设计思路与调优逻辑。
公司未注明
AI 应用开发工程师你的知识库数据来源,数据量大概多少?
淘天
AI 应用 / Agent 开发具体怎么做的?数据啥样?现在准确度在什么水位?





