研究文章 · 专业科普

AI 语料是什么?它和训练数据、数据集有什么区别

先说结论:这三个词不在一个层级上。训练数据是总称,指覆盖整个训练流程的一切数据资产与服务;它下面有几种形态:语料是原料形态,即原始内容集合;数据集是商品形态,即打包好、有边界、可以按份报价的一批数据;此外还有按人时交付的标注与专家产出、以及可运行的环境。本文按交易形态观察:语料强调内容,数据集强调有边界的组织形式,两者可以重叠,数据集也可以免费公开;在交易分析里,叫法还要看交付形态与计价方式。三者混用,是市场规模数字打架的根源。

先说结论:这三个词不在一个层级上。训练数据是总称,指覆盖整个训练流程的一切数据资产与服务;它下面有几种形态:语料是原料形态,即原始内容集合;数据集是商品形态,即打包好、有边界、可以按份报价的一批数据;此外还有按人时交付的标注与专家产出、以及可运行的环境。本文按交易形态观察:语料强调内容,数据集强调有边界的组织形式,两者可以重叠,数据集也可以免费公开;在交易分析里,叫法还要看交付形态与计价方式。三者混用,是市场规模数字打架的根源。

一、语料:预训练的原料

语料指用来训练模型的原始内容集合:网页、图书、新闻、代码、图片、音视频。它通常不能拿来直接用,中间要经过清洗、过滤、去重。

最典型的底料是 Common Crawl:非营利组织从 2008 年起持续抓取公开网页,按月发布快照,几乎所有预训练语料都从它开始。Hugging Face 2024 年 5 月发布的 FineWeb,从 96 个快照(2013–2024)中提取约 15 万亿英文 token;教育版 FineWeb-Edu 只保留教育性内容,规模降到约 1.3 万亿 token,但在知识与推理基准上更好。

15 万亿到 1.3 万亿这个比例,是理解「数据稀缺」的钥匙:在当前预训练规模下,瓶颈更多在密度,而不是原始字节总量。这与「数据耗尽」讨论的总量约束并不矛盾:后者说的是可用总量的上限,前者说的是其中高质量子集的占比。这两个公开数据集的标示体积不同:FineWeb-2 全部语言合计约 20TB,单一英文 FineWeb 约 44TB;最多只能说明这两个样本的量级有差别,不能据此判断多语种语料的总体供给。两个数据集的过滤规则不同,TB 是压缩后体积还是原始文本也未说明,不能直接换算 token;这个对照只能看量级,不能当作严格的同口径比较。

语料层绝大多数不直接卖:公开抓取的卖方赚的是代理、CDN 通行费等基础设施的钱,这一层分散、毛利偏低。

二、训练数据:全流程的总称

本文界定的训练数据,是用于训练、微调、对齐、评测 AI 模型的一切数据资产与相关服务,不含企业内部数据治理与算力、芯片、模型本身。

它下面有五条互为替代的供给通路:公开抓取、版权授权、人类数据服务、合成数据、强化学习环境。五条路争抢同一份预算——一个实验室今年多花 10 亿美元在 RL 环境上,这 10 亿大概率不是新增预算,而是从人类偏好标注的预算里挪过来的。这是本文的机制判断,没有实验室预算表可以核对,10 亿美元是举例量级,不是某家实验室的实际预算。

采购形态也不同。预训练语料是脉冲式:训一个新模型时集中买,训完就停。后训练数据是流量式:只要产品还在迭代,就要持续买人时。所以「训练数据」不是一种商品,是一组采购行为的总称。

三、数据集:打包好的商品

数据集是把语料按某个任务、格式、规模切好、打包、可交付的一批数据。它有明确边界,能按「套」或「份」报价,也能按项目定制。

公开市场里三个口径说明它的位置:成品数据集 2025 年 35.9 亿美元、2026 年 44.4 亿美元(第三方汇总,机构未披露),只统计成品采购,不含定制;「采集+标注」服务 2026 年 63 亿美元;「标注解决方案与服务」2025 年 229 亿美元,含企业内部人力折算与软件许可。三者不能直接比较。

一家上市样本能说明「成品」与「定制」的差别。海天瑞声 2025 年营收 3.77 亿元、同比 +59%,增量主要来自计算机视觉(+217.66%);公司披露里最接近大模型语料的自然语言业务收入 0.51 亿元(+112.29%);综合毛利率 48.08%、下降 18.38 个百分点,公司归因于定制服务占比提升。卖成品可复制,接项目按人时,毛利和增长质量不同。

四、总称下面的几种形态怎么对号入座

训练数据是总称;下表比的是它下面几种形态的差别。

维度语料(原料形态)数据集(商品形态)人时产出/环境(服务与软件形态)
是什么原始内容集合打包好、有边界的一批数据按人时交付的标注与专家产出;可运行的环境
训练位置主要在预训练视任务而定主要在后训练与强化学习
典型供给方公开抓取、内容方数据服务商、成品数据集销售商标注公司、专家平台、环境开发者
交付物原始或清洗后的内容一套可复用的数据人时产出、代码环境
怎么计价多数不直接卖;授权按年费或一次性按套或按份,或按项目定制按小时、按项目、按订阅
买卖的是什么内容本身或使用权使用权或所有权,看合同服务与软件许可

五、为什么这个区分值钱

第一,市场规模数字打架。公开数字相差六倍,不是谁算错,是算的东西不同。229 亿美元含企业内部人力折算,这部分不构成外部数据服务商的收入,对判断谁赚钱几乎没用。本文自下而上估 2026 年真实外部交易:逐笔可核下限约 55–59 亿美元(net 口径);含未披露交易的方向性区间约 60–75 亿美元。

第二,语料一旦进入授权,价格差得极远。News Corp 与 OpenAI 超 2.5 亿美元/5 年(约 5,000 万美元/年);Reddit 与 OpenAI 媒体估算约 7,000 万美元/年,与 Google 为 6,000 万;Amazon 与纽约时报 2,000–2,500 万;Axel Springer 约 1,300 万。年费口径从约 1,300 万到 7,000 万美元,跨度约五倍(本文计算);多年总额口径最大一笔是 News Corp 的 2.5 亿美元/5 年。两个口径不能直接比。Shutterstock 数据、分销与服务业务收入(含 AI 授权,不等于纯授权收入)2023 年 1.04 亿、2024 年约 1.38 亿美元。

第三,同一个词罩住三门生意。语料授权是版权生意:边际成本近零、价格靠谈判、卖方分散。人类数据服务是人力外包:项目制毛利 30–45%、净利个位数,抽成市场净收入口径毛利约 70%。RL 环境是软件生意:可复用,但客户最容易自建。三者的利润率、壁垒、终局都不同。

六、看到一个「AI 语料」的说法,先问三件事

第一,是原料、成品,还是服务? 说「语料」通常指原始内容,说「数据集」通常指打包商品,说「标注」「环境」指的是人时产出与软件。三者的供给方、计价方式、可复制性都不同。

第二,权利干不干净? 公开可抓不等于可以合法使用。Anthropic 15 亿美元和解后,实验室对来源不明数据的容忍度大幅下降;一份法律地位不明的语料,对准备融资或上市的公司,价值可能是负的。

第三,按什么计价? 一次性买断、年费、按人时、按项目、按使用,五种计价对应的收入可预测性和毛利完全不同。看到「收入」先问是 gross 还是 net,看到「单价」先问按件还是按小时。

把这三问问清,「AI 语料」就不会被读成一个行业。

资料来源

  1. Hugging Face. FineWeb、FineWeb-Edu、FineWeb-2 数据集文档[EB/OL]. 2024-05/2024-12.
  2. Grand View Research. 数据采集与标注、标注解决方案与服务市场规模报告[R]. 2025–2026.(题名待替换)
  3. 海天瑞声. 2025 年年度报告与 2025 年度业绩快报[R]. 2026-04/2026-02.
  4. Shutterstock. 数据、分销与服务分部收入披露[R]. 2025.
  5. Anthropic. Bartz v. Anthropic 案和解与终局批准文件[EB/OL]. 2025-08/2026-07.
  6. 诺辉投资研究部. AI 训练数据与语料 · 行业认知研究报告[R]. 2026-09.

数据截止 2026-09 | 相关:AI 训练数据是什么 · 数据授权和版权授权,AI 公司到底买的是什么 · AI 训练数据与语料 · 行业认知研究报告

编写依据

本文依据本赛道研究报告及用户授权的成品库 Markdown 摘编,素材获取于 2026-10-30。原文所列资料时点、出处及核验边界按提供稿保留;本轮未逐条回溯外部来源。

资料来源

  1. AI 训练数据与语料 · 行业认知研究报告(原文其他出处见正文) ↗
    资料时点:2026-09-05;获取于 2026-10-30。
关联研究报告

AI 训练数据与语料 · 行业认知研究报告

训练数据是三门生意 —— 结构最好的环节规模最小,结构最差的人力外包反而拿到最高估值

NH-000004 · 57 页 · 完整目录公开
查看报告与试读
01

数据标注怎么选?众包、专家市场和 BPO 三种交付模式

先看任务,不看平台名气。承接数据标注的服务模式分三种:众包、专家市场、BPO 交付中心。前两种是平台,第三种是自建团队的服务商,不是平台;本文比较的是三种「交付模式」,不是平台名单或平台功能。它们不是同一门生意的三个品牌,而是三种计价单位、三种质量责任和三种成本结构。选错的代价不是贵一点,是把风险和成本算错:众包按件买的是产量,专家市场按小时买的是判断,BPO 按项目买的是交付确定性。下面不讨论本地部署的标注工具;只讲三种模式的经济性与适用场景,不排名,也不推荐具体平台。

02

海天瑞声:营收涨 59%、毛利率降 18 个点说明什么

2025 年海天瑞声营收 3.77 亿元、同比 +59.00%,综合毛利率 48.08%、同比降 18.38 个百分点,归母净利润约 0.141 亿元(同比约 +25%,东方财富口径),净利率约 3.7%;同期经营活动现金流净额同比下降 94%,绝对额未披露。这几个数放在一起说明的是:这家公司的增长伴随定制服务占比上升,高毛利的标准化数据集占比在被稀释;收入增长快,利润很薄,经营活动现金流净额明显下降。它是一个样本,不能代表整个行业。

03

Scale AI 是什么公司?143 亿美元交易后发生了什么

先说结论:Scale AI 是人类数据服务里的项目制头部公司,客户是前沿实验室。2025 年 6 月,Meta 以 143 亿美元取得约 49% 的无表决权股权、不进入董事会,公司估值约 290 亿美元。同期,创始人及核心高管整体加入 Meta,主导其超级智能团队。交易后 Google 终止合作、Microsoft 缩减;OpenAI 在此前已减少合作,不能归因于这笔交易。收入没有腰斩:2024 年 8.7 亿美元、2025 年接近 10 亿美元、2026 年指引约 10 亿美元;腰斩的是市场预