跳到正文
今天11月12日周四1 条
11月11日周三
11月10日周二
11月9日周一
11月8日周日
11月6日周五
11月5日周四
  1. Goodfire Research64

    Goodfire 提出 mechanistic shaping 框架 用内部表征抑制模型走捷径

    Goodfire Research 发布论文提出 mechanistic shaping 框架,通过 reliance shaping 和 expression shaping 在训练中惩罚模型对特定内部概念的依赖或表达,使模型以正确方式解题而非仅答对。

    推荐理由:论文提出用模型内部表征直接指定解题方式的训练框架,并系统评估了这么做之后监控探针如何退化与恢复。

  2. Rohan Paul51

    Stanford 研究者在 220 个真实专业任务上用同一模型 Qwen3.6-27B 测试 4 种单颗 AI 芯片,衡量每单位能量产生的有用工作。结果显示 NVIDIA B200 相比 AMD MI350X 每单位能量带来超过 4 倍的美元价值和超过 9 倍的专家时间节省,即模型不变、仅换芯片也会显著改变同样电力预算下的经济回报。作者引用的论文还构建了 Joules-to-GDP 指标,测试 5 个开源模型,其中 Gemma 4 31B 用 23% 的能量达到 GLM 5.2 每任务净价值的 56%,Qwen3.6-27B 从 1 卡 H100 扩到 8 卡仅快 22% 却耗能 3.2 倍。

    引用Rohan Paul@rohanpaul_ai

    New Stanford paper finds that a smaller AI model can return far more economic value per unit of energy than the most capable one. Now that the world is limited by energy/power, how much energy each AI task burns should indeed by studied. Here, the researchers built Joules-to-GDP, which measures the dollar value of an AI's work, minus its running cost, per joule of energy used. They tested 5 open models on 220 professional tasks from GDPval, covering 44 occupations. > GLM 5.2 produced the most net value per task, but Gemma 4 31B got 56% of it with 23% of the energy. > Moving Qwen3.6-27B from 1 to 8 H100s cut task time by just 22% while using 3.2x the energy. > GPT-OSS 120B used 68% less energy than GLM 5.2 despite nearly the same price and speed. > Running the same model on 8 H100 chips instead of 1 made tasks only 22% faster but used 3.24x the energy, for nearly the same dollar value of work x.com/jonsaadfalcon/status/21…

11月4日周三
11月3日周二
  1. Rohan Paul63

    MIT CSAIL 研究者演示了 GPT-6 Astra 无需训练或梯度、直接读写神经网络权重的方法,称为 Weight-Space Programming。

    引用Rikiya Takehi@rikiyatakehi

    We asked GPT-6 Astra to edit Qwen3.5-0.8B weights to improve math. It directly changed only 0.016% of weights, fixing 0.8B's reasoning loops & improving math up to 6x and even instruction following 3x, without gradients or training. We call this Weight-Space Programming: frontier LLMs can now natively read/write neural network weights! 🧵 Blog: rikiyat.github.io/blog/weight…

11月2日周一
10月31日周六
10月29日周四
10月28日周三
10月27日周二
10月26日周一
  1. LG AI Research:官方研究博客45

    LG AI Research 在 ICML 2026 提出 LOAM:用 LLM 设计强化学习的观测与动作空间

    LG AI Research 在 ICML 2026 提出 LOAM,让 LLM 直接设计强化学习中的观测模型与动作模型,而非只设计奖励函数。该方法区分原始环境空间与智能体实际使用的空间,由 LLM 根据任务目标、终止条件、机器人结构及各变量含义生成观测与动作设计。研究源于 LG Chem 大山 NCC 工厂生产排程优化项目,团队发现观测与动作空间设计比奖励函数更困难。

10月25日周日
  1. 字节 Seed:Research Papers45

    字节 Seed 提出 Recycler:通过隐藏状态回收实现无额外成本的潜在推理

    字节 Seed 提出 Recycler 架构,把上一 token 的顶层隐藏状态经轻量适配器与当前 token 嵌入一起送入下一步,在解码开销几乎不变的情况下保留跨步连续语义。该架构覆盖预训练、SFT、继续预训练与 RL 全流程,在数学和推理任务上参数效率突出,后期引入仍可超越参数量多 2–3 倍的模型。

10月24日周六
10月22日周四
10月21日周三