项目处理的数据来自哪里,具体是什么内容?

考查重点:数据内容、来源与计算用途。逐类说明业务表/文档/外部材料的内容、时间和获取方式,取一条数据解释它怎样参与计算

本题目录

参考答案

核心回答

以电商问数和深度研搜为参考示例,项目主要接入结构化业务数据、业务知识和任务过程中获取的外部材料。

电商问数查询订单、商品、客户、地区和日期等结构化电商数据,配套 SQL 提供 2025 年 1 至 3 月的模拟订单。项目还整理表字段、指标口径与字段取值,建立元数据及检索索引,帮助模型生成 SQL;最终金额和数量由数仓查询得到。

深度研搜按任务接入公开网页搜索结果、已配置 MySQL 中的数据、RAGFlow 知识库及用户上传的会话附件。配套材料包括药品、库存和销售模拟数据,以及可供导入的示例 PDF。介绍自己的部署时,再说明实际接入方、业务内容、时间范围与更新方式。

原始来源、检索索引和最终查询结果各有职责。数据存在哪个数据库,是存储方案;由谁提供、代表什么业务事实、怎样更新,才解释了数据来源。

把一种数据讲具体

可以挑一类核心数据,沿着来源到结果讲清楚:

  • 来源与接入方式: 上游业务库、数据仓库、埋点日志、用户上传、公开网页或第三方接口;是直接查询、定期同步,还是人工导入。
  • 内容与粒度: 一行是订单、订单明细还是每日汇总;文档是制度、产品说明还是研究报告。主键、关联关系、金额单位和状态含义会影响后续计算。
  • 时间与更新: 数据覆盖哪个业务时间段,最新同步到什么时候,迟到数据或文档修订如何处理。网页采集时间、文档发布时间和订单发生时间分别记录。
  • 处理与用途: 怎样清洗、去重、解析或聚合,哪些内容进入索引,哪些在查询时按需获取,以及它们支持什么问题。

例如回答销售额问题,需要说清“订单金额”是否含取消、退款或重复明细。知道表名还不够,业务口径决定 SQL 算出的数是否符合需求。

数据规模也按对象分别说明:原始文件数、解析成功数、切片数、索引条目数和业务表行数不是同一个数。一份文件可能切出很多块,一个字段也可能因名称、描述和别名形成多个向量点,因此索引条目数不能当成原始数据量。

电商问数:业务数据与元数据怎样分工

问数时,订单事实表提供数量、金额及关联维度,维度表补充商品类别、地区等分析条件;元数据则帮助模型找到正确的字段、取值和指标口径。

配套源码的构建流程会从配置取得表、字段描述和指标定义,再查询数仓补齐字段类型与示例值。字段和指标文本经过 Embedding 后建立向量索引,需要同步的字段取值进入全文索引。这里同步的是用于理解和检索的数据,不是把整张订单事实表全部转成向量。

以“华东地区某类商品的销售额”为例,检索过程帮助确认地区值、商品类别字段和销售额定义,生成的 SQL 再到结构化数据中筛选、关联和聚合。最终金额来自查询结果,不来自相似度分数或模型自行估算。

字段示例值和同步取值的查询带有数量上限。描述索引覆盖范围时,可以结合实际行数、同步水位和同步记录,说明哪些字段值已经进入索引、哪些仍需回源查询。

深度研搜:文件上传、知识库与搜索有什么不同

会话附件来自用户这次上传的材料。配套接口先保存文件,再由读取工具按格式提取文本或表格摘要。这条链路并不等于“附件已自动进入长期知识库”;PDF 提取也不保证扫描图片中的文字都已识别。

RAGFlow 知识库在外部服务中准备文档并配置助手绑定关系,研搜项目通过工具查询这些助手。仓库中的示例 PDF 可作为导入材料;介绍实际知识库时,可以进一步说明文档提供方、导入方式、更新频率与可追溯的版本。

网页搜索返回标题、URL 和内容摘要,按需请求更完整的解析正文。配套工具默认没有开启原文返回,因此搜索命中摘要不等于已经取得网页全文。网页可变,还应保留查询与抓取时间;来源自己的发布时间可另行记录,不能与抓取时间混用。

MySQL 查询访问连接配置指定的数据库。配套模拟表演示药品、库存和销售查询;实际接入业务库后,再结合数据字典说明表的粒度、主要字段、时间范围和当前数据量。

追问:数据已经变了,怎样知道回答用了哪一版

业务查询可以关联查询时间、筛选条件、数据快照或同步水位;文档保留来源 ID、文档版本、更新时间、解析与索引版本;网页保留原始 URL 和抓取时间。检索结果还要带上来源定位,例如文档页码或章节,才能从答案追到原始材料。

更新时处理新增、修改和删除,并检查原文、元数据和索引是否一致。权限变化也要同步到检索和上下文构建过程。这样发现旧答案时,才能区分是源数据未更新、索引滞后,还是生成阶段没有采用新证据。

对应教程

参考资料

  • 国内:Guide / JavaGuide:RAG 知识库文档如何更新:参考元数据设计与更新问题的讨论,解释正文中保留来源、文档版本、切片和权限以追查答案数据版本的做法。
  • 国内:Datawhale:Hello Agents 第八章“记忆与检索”:采用文档转换与加载的示例,说明正文中原文件进入解析、分块、索引的过程,并区分文件数与索引条目数。
  • 国内:阿里云百炼:数据集:参考文件、表格与数据库数据集的接入方式,区分正文中的本地上传、外部同步和直接查询原数据库;连接能力仍以对应数据源条件为准。
  • 国外:Tavily:Search API:依据请求参数和返回字段,说明正文中网页搜索摘要、URL、解析正文与日期信息的获取范围。
  • 国外:LangChain:Unstructured integration:文件加载结果中的 source、页码和修改时间示例,说明解析后的文本怎样保留可回溯的来源位置。

相关面经

13 篇

字节跳动

Agent
日常实习一面
查看原面经 →
文档来源是哪、是不是网上找的

水滴

AI全栈
校招一面
查看原面经 →
上传的数据是什么格式?单个文件的数据量大概有多大?

中科曙光

AI Agent
查看原面经 →
数据来源,测试过程,整个流程讲一下

广电数科

Java 开发工程师
实习
查看原面经 →
你们知识库的来源在哪里

吉利

大数据开发工程师
秋招一面
查看原面经 →
你们处理的数据是什么?
展开剩余 8 篇面经

OPPO

数据开发工程师
秋招一面
查看原面经 →
数据来源是什么?
数据量级、数据时间范围?

智元创新

数据引擎研发工程师
校招秋招一面
查看原面经 →
介绍一下数据来源?

字节跳动

Agent 全栈开发工程师
一面
查看原面经 →
文档是自己全量捞取,还是有人上传?

阶跃星辰

大模型基础设施工程师(数据管道)
实习秋招一面、二面
查看原面经 →
数据源存储在哪,数据之前是存储到哪里

小红书

后端开发工程师
实习一面
查看原面经 →
rag的数据哪里来

字节跳动

Agent 算法实习
实习
查看原面经 →
介绍你项目的数据获取渠道、训练硬件资源配置、奖励函数的设计思路与调优逻辑。

公司未注明

AI 应用开发工程师
查看原面经 →
你的知识库数据来源,数据量大概多少?

淘天

AI 应用 / Agent 开发
实习二面
查看原面经 →
具体怎么做的?数据啥样?现在准确度在什么水位?

收录题集

1 个来源,共2 份题集

数据与评测

阿东玩 AI · AgentGuide · 7 条原题

查看题集 →
展开其余 4 条原题

项目论文与经历

阿东玩 AI · AgentGuide · 6 条原题

查看题集 →
展开其余 3 条原题

相关题目

4 题