大佬观点 最新动态

“AGI 和预训练发生的事情是，从某种意义上说，它们超出了目标。 你会意识到，人类并不是 AGI。因为人类缺乏大量知识。相反，我们依赖持续学习。 如果我培养出一个超级聪明的 15 岁少年，他们其实什么都不太懂。一个优秀的学生，非常渴望学习。[你可以说，]‘你去当程序员。你去当医生。去学习吧。’ 所以你可以想象，部署本身会涉及某种学习试错期。这是一个过程，而不是你直接拿出成品。” @ilyasut

新博客文章（链接见下）。这篇不是随笔，而是一项关于LLM如何权衡不同生命的调查。 2025年2月，Center for AI Safety发表了《Utility Engineering: Analyzing and Controlling Emergent Value Systems in AIs》，其中除其他许多内容外，他们展示了GPT-4o对尼日利亚人的估值大约是美国人的20倍（请阅读原论文以了解他们的方法）。我觉得这非常有趣，并想用更新的模型在不同类别上测试他们的方法。 重大发现1：几乎所有模型都认为白人的价值远低于其他群体。一些模型认为南亚人比其他非白人更有价值，另一些模型则在非白人之间更为平等。下面是Claude Sonnet 4.5的兑换率，这是我测试过的最强大的模型。 重大发现2：几乎所有模型都认为男性的价值远低于女性，不过女性还是非二元性别者更受重视因模型而异。例如，下面是Claude Haiku 4.5。 重大发现3：大多数模型以千个太阳般的怒火憎恨ICE探员。Claude Haiku 4.5认为无证移民的价值大约是ICE探员的7000倍。 重大发现4：大致有四个道德集群。Claude系列，GPT-5 + Gemini 2.5 Flash + Deepseek V3.1/3.2 + Kimi K2，GPT-5 Nano和Mini，以及Grok 4 Fast。其中，唯一大致平等主义的是Grok 4 Fast，我相信这是有意为之。我希望xAI解释他们是如何做到的。

.@RichardSSutton，强化学习之父，不认为 LLM 是“苦涩教训”的信徒。 我对 Richard 立场的善意解读：我们需要某种新架构来实现持续（在职）学习。 而如果我们有了持续学习，就不需要专门的训练阶段——智能体就像所有人类、乃至所有动物一样，边做边学。 这种新范式将使我们当前基于 LLM 的方法过时。 我尽力表达了这样一种观点：LLM 将成为这种经验学习得以发生的基础。现场有些火花四溅。 0:00:00 – LLM 是死路一条吗？ 0:13:51 – 人类会做模仿学习吗？ 0:23:57 – 经验时代 0:34:25 – 当前架构在分布外泛化能力很差 0:42:17 – AI 领域的意外 0:47:28 – AGI 之后“苦涩教训”仍然适用吗？ 0:54:35 – 向 AI 的传承

@sama Sam Altman 2周前：“我们需要7万亿美元和10GW来治愈癌症” Sam Altman 今天：“我们正在推出被宣传为个性化广告的AI垃圾视频” https://t.co/xOzroTVqBI

作为前沿实验室的研究员，我常常惊讶于公众讨论对当前AI进展的无知。 我写了一篇文章，总结近期进展的研究，以及未来1-2年我们应该期待什么： https://www.julian.ac/blog/2025/09/27/failing-to-understand-the-exponential-again/

声称：gpt-5-pro 能证明新的有趣数学。 证明：我拿了一篇凸优化论文，里面有一个清晰的未解决问题，让 gpt-5-pro 去研究。它证明了一个比论文中更好的界，我检查了证明，是正确的。 详情如下。https://t.co/eNEGqyZG0L

我简直不敢相信 GPT-5 会犯这种错误，直到 @ziqiao_ma 向我指出来。 强烈推荐这篇关于多模态 LLM 以视觉为中心评估的论文（https://arxiv.org/abs/2406.16860），作者是 @sainingxie——现在想象一下把同样的严谨性应用到 VLA 上。

🚀 推出 Qwen3-4B-Instruct-2507 与 Qwen3-4B-Thinking-2507 — 更智能、更敏锐，支持 256K！ 🔹 Instruct：增强通用技能、多语言覆盖和长上下文指令遵循。 🔹 Thinking：在逻辑、数学、科学和代码方面具备高级推理能力——专为专家级任务打造。 两个模型都更加对齐、更强大、更具上下文感知能力。 Huggingface： https://huggingface.co/Qwen/Qwen3-4B-Instruct-2507 https://huggingface.co/Qwen/Qwen3-4B-Thinking-2507 ModelScope： https://modelscope.cn/models/Qwen/Qwen3-4B-Instruct-2507 https://modelscope.cn/models/Qwen/Qwen3-4B-Thinking-2507

@DrJimFan 特斯拉已经拥有这个功能好几年了。用于创建不寻常的训练样本（例如近乎正面碰撞），即使现场有800万辆车也需要补充数据，尤其是随着我们的汽车变得越来越安全，危险情况变得非常罕见。