HuggingFace Daily Papers·2026-09-30 08:00· 2 天前AI 评分59

研究量化野生 AI 生成网页文本对预训练的价值，提出新缩放律并开源 WildAI 语料

How Much Is an AI Token Worth? Scaling Laws for Wild AI-Generated Web Text

AI 导读

论文研究野生 AI 生成网页文本对语言模型预训练的影响，发现 FineWeb 过滤后 2026 年 6 月网页数据中 27.5% 的 token 被 Pangram 标为 AI 生成，8 月升至 31.1%。