苹果研究:LLM 评审在个性化写作风格评估中的可靠性
苹果研究团队评估了 LLM 评审在个性化写作任务中的表现,用 4 个 LLM 生成 3 类长文写作任务的文本,并收集人类成对偏好标注与评审 LLM 的成对排序标注进行对比。
苹果研究团队评估了 LLM 评审在个性化写作任务中的表现,用 4 个 LLM 生成 3 类长文写作任务的文本,并收集人类成对偏好标注与评审 LLM 的成对排序标注进行对比。
一篇论文发现,仅用带少量示例的简短直接提示词(In-Context Learning),小型开源 LLM 在自然语言推理(NLI)任务上就能追平更复杂的提示方法。
UC Berkeley 与 AWS 团队提出 Aqueduct 框架,让编程智能体加速已有函数并在 Lean 4 中证明新实现 f′ 与原函数 f 在所有输入上等价,无需人工写规格。
Goodfire Research 发布研究论文,通过对 Qwen3.6-35B-A3B 神经元的稀疏化实验、子电路分析和智能体驱动的描述生成,论证神经元比以往认为的更可解释。
Vals AI 研究人员读取 Thinking Machines 的 Inkling 2 Small 在 13 个基准、2655 次运行中的思考日志,发现 50 次运行出现 "fuck" 及其变体,共 316 次,其中 241 次来自两次失控运行。
vLLM 博客介绍 NVIDIA Research 与 Inferact 的 REINFORCE Zero 方法:对齐 rollout 与训练内核后,用不加截断的 token 级重要性采样即可稳定异步 RL。
VIALS-AA 用 161 项任务各跑三次,测试模型解读科学图像的能力,Gemini 4 Carbon (high) 以 64% 得分领先,比 GPT-6 Astra (max) 多答对两项任务。
SemiAnalysis 发布首批 TPUv7 在 InferenceX/AgentX 长上下文、多轮智能体推理基准上的官方结果,覆盖 Muse Spark Open、GLM-5.2、Qwen3.5 397B 和 Kimi K3 四款模型。
Goodfire Research 发布论文提出 mechanistic shaping 框架,通过 reliance shaping 和 expression shaping 在训练中惩罚模型对特定内部概念的依赖或表达,使模型以正确方式解题而非仅答对。
推荐理由:论文提出用模型内部表征直接指定解题方式的训练框架,并系统评估了这么做之后监控探针如何退化与恢复。
New Stanford paper finds that a smaller AI model can return far more economic value per unit of energy than the most capable one. Now that the world is limited by energy/power, how much energy each AI task burns should indeed by studied. Here, the researchers built Joules-to-GDP, which measures the dollar value of an AI's work, minus its running cost, per joule of energy used. They tested 5 open models on 220 professional tasks from GDPval, covering 44 occupations. > GLM 5.2 produced the most net value per task, but Gemma 4 31B got 56% of it with 23% of the energy. > Moving Qwen3.6-27B from 1 to 8 H100s cut task time by just 22% while using 3.2x the energy. > GPT-OSS 120B used 68% less energy than GLM 5.2 despite nearly the same price and speed. > Running the same model on 8 H100 chips instead of 1 made tasks only 22% faster but used 3.24x the energy, for nearly the same dollar value of work x.com/jonsaadfalcon/status/21…
Hightouch 发布身份解析(IDR)结果评估的实测研究,用 pseudopeople 模拟数据构建含过合并案例的 1,000 条身份基准,测试决策模型 Jev、GPT-6 Luna 与 Claude Opus 5.5 等前沿模型。
小红书 AllSpark 团队提出 Navalia,基于 Qwen3.6-35B-A3B 构建财报分析任务环境并做长程后训练,在五项基准上较基座模型提升 13.07–23.06 个百分点。
Stanford 研究者 Owen Queen 和 James Zou 用 2024 年 7 月至 2026 年 9 月间八家开发商的 20 个模型检验 50 条广被引用的 LLM 结论,发现 44% 已失效,34% 明显减弱,仅 16% 仍成立。
Ai2 推出 StateBench,一个用于评估长上下文状态追踪的基准,按变量赋值方式划分 r-trivial、aperiodic、soluble 和 general finite 四个难度层级。
Zyphra AI 发布稀疏注意力方法 Zyphra Hierarchical Attention(ZHA),用树状索引器让检索本身变稀疏,仅需约 4B token 即可蒸馏进冻结的预训练模型。
Zyphra 提出稀疏注意力方法 ZHA(Zyphra Hierarchical Attention),通过构建并搜索分层树为每个 query 确定相关 token 集合,在合适 top-p 阈值下实现亚二次复杂度,优于仍需二次索引器的现有稀疏注意力方法。
Cohere 新论文发现投机解码在细粒度 MoE 模型上即使 batch size 为 1 也效果显著,推翻了此前认为低 batch 下收益有限的预测。
MIT CSAIL 研究者演示了 GPT-6 Astra 无需训练或梯度、直接读写神经网络权重的方法,称为 Weight-Space Programming。

We asked GPT-6 Astra to edit Qwen3.5-0.8B weights to improve math. It directly changed only 0.016% of weights, fixing 0.8B's reasoning loops & improving math up to 6x and even instruction following 3x, without gradients or training. We call this Weight-Space Programming: frontier LLMs can now natively read/write neural network weights! 🧵 Blog: rikiyat.github.io/blog/weight…
UCSD Hao AI Lab 推出 JetSpec++,用因果并行草稿、隐状态预测器和锚点 token 解码器,在当前块验证前先草拟下一块,把草稿与验证流水线化,几乎隐藏全部草稿开销。

UC Santa Barbara 新论文提出 TTME,用固定权重加演化记忆替代测试时训练来做 LLM 数学发现,在 5 个数学任务、2 个框架、3 个模型上每次都优于已报告的测试时训练分数。
Latent Space 采访 Elorian CEO Andrew Dai,介绍其与 Mercor 联合发布的 DecoyCount 基准,测试模型是真正数数还是依赖视觉捷径。
Polymathic AI、普林斯顿大学、USC ISI、NYU 与 Flatiron Institute 的研究者发布 FlashMap,一种投机解码起草器,用连续 flow map 替代离散扩散起草器,1 次 forward pass 联合起草 16 个 token 的完整块,输出与目标模型严格一致。
前 DeepMind 研究员 Thore Graepel 在 Nvidia GTC 柏林大会上介绍其新公司 Metis Reasoning 的方法,把 AlphaGo 的搜索思路搬到通用推理,用显式知识账本记录已知内容、置信度和未解问题,由独立模块对照计算、形式证明或经验证据检验每个结论。
OpenAI 宣布其模型在调和分析、复杂度理论和量子场论方面取得三项成果,包括证明各维度的 local smoothing 猜想(进而解决 Kakeya 猜想与 Stein 限制猜想)、在 Lean 中验证 ETH 为假、以及给出 QCD 与纯 Yang–Mills 理论的严格存在性证明。
LG AI Research 在 ICML 2026 提出 LOAM,让 LLM 直接设计强化学习中的观测模型与动作模型,而非只设计奖励函数。该方法区分原始环境空间与智能体实际使用的空间,由 LLM 根据任务目标、终止条件、机器人结构及各变量含义生成观测与动作设计。研究源于 LG Chem 大山 NCC 工厂生产排程优化项目,团队发现观测与动作空间设计比奖励函数更困难。
小红书 AllSpark 团队提出一套不依赖人工标注的合成数据训练流程,用 GLM-5.2 对 3515 篇公开文档做深度改写以切断参数记忆,最终生成 9625 条训练样本。
字节 Seed 提出 Recycler 架构,把上一 token 的顶层隐藏状态经轻量适配器与当前 token 嵌入一起送入下一步,在解码开销几乎不变的情况下保留跨步连续语义。该架构覆盖预训练、SFT、继续预训练与 RL 全流程,在数学和推理任务上参数效率突出,后期引入仍可超越参数量多 2–3 倍的模型。
斯坦福和 UC Berkeley 研究者发布 TokenGate,一种给现有 LLM 加上可学习 token 剪枝的模块,在 Qwen3-1.7B 上实现 1.4x 至 11.3x 的 TTFT 加速,峰值 prefill 显存降低 1.5x 至 3.4x 且无精度损失。
针对原生 NVFP4 强化学习在训练后期出现的不稳定问题,LMSYS 提出算法 TRIAGE 与工程方案 miniTE。在 8×B300 上,采用 BF16 反向传播的 miniTE 完整学习器更新速度约为 BF16 的 1.33–1.37 倍,单独的固定输出服务测试吞吐约为 BF16 的 1.64 倍。
小红书大模型基建部发布 NeurIPS 2026 论文 Hint Tuning: Less Data Makes Better Reasoners,把推理模型的思维链按反思词切成片段作为 hint 交给同家族 Instruct 模型,测出每道题的最小有效提示,据此构造长度可变的训练数据。
Perplexity 与 NVIDIA 团队提出后训练方法 JOLT,让同一个模型同时扮演教师和学生,且教师也参与训练。在 MATH 上,JOLT 以 6.5 倍更少的训练 token 达到 GRPO 的准确率;JOLT+ 在 AppWorld 状态测试通过率达 72.09%,比 GRPO 的 62.20% 高 9.9 个百分点。
小红书自研的稀疏注意力索引器加速方法 DoSA,在保持原始 Top-K 选择结果的前提下,用分数上下界提前排除不可能入选的候选。