跳到正文
今天11月12日周四2 条
  1. Ian Johnson 🔬🤖50

    🫵🗺️

    引用Leland McInnes@leland_mcinnes

    UMAP 0.6 is out! A new initialization, new optimizers and faster nearest neighbour search make UMAP much faster and far better at large scale. On 3 million arXiv papers it finishes in under 5 minutes, before UMAP 0.5 has even found its nearest neighbours.

  2. Apple Machine Learning Research42

    研究揭示门控机制如何导致 SSM 先记忆后上下文学习

    研究者通过理论与实验发现,现代循环网络中的门控机制会让 SSM 先学到权重内的“记忆”解法,延迟甚至阻止其收敛到正确的上下文学习解法,即使架构与记忆容量并无根本限制。门控同时有助于提升对长序列长度的泛化能力。该结果揭示了门控在 SSM 训练动态与泛化中的关键作用。

11月11日周三
  1. Google DeepMind:Blog57

    Google DeepMind 发布 AlphaGenome 2,预测基因变异对特定细胞类型的影响

    Google DeepMind 发布下一代 DNA 序列模型 AlphaGenome 2,可预测 DNA 变异如何影响数百种人类细胞类型中的基因表达。模型改为条件式架构,训练数据超过 1.07 亿个单细胞样本、覆盖 68 种组织,在 TenK10K 数据集上识别的因果变异数量接近上一代的两倍(30% vs 16%),并能在不重新训练的情况下泛化到新的单细胞实验。

  2. Anthropic:Alignment Science Blog69

    Anthropic 研究:稀释投毒微调数据反而会强化其后门效应

    Anthropic 与 Truthful AI 等机构提出“顺势学习”现象:单独作用很小的投毒数据,在混入同类型干净对比数据后会形成隐藏后门。

    推荐理由:研究指出单独看无害的训练数据与干净数据混合后可能形成后门,提示仅靠孤立审计数据的安全方法存在盲区。

11月10日周二
  1. Ars Technica:AI50

    乌克兰光纤无人机因 AI 数据中心需求挤压面临成本上涨

    乌克兰光纤无人机所用的光纤主要从中国进口,因与 AI 数据中心争夺有限的全球供应,成本正在上升,乌克兰无人机制造商被迫调整应对。光纤无人机不受电子战干扰,由俄军在 2024 年库尔斯克州抵御乌军越境行动时率先部署,乌方随后跟进。成品线轴通常支持无人机在数十英里范围内作业,极端情况下可达 62 英里(100 公里)。

11月9日周一
11月8日周日
11月7日周六
  1. Transluce45

    Transluce 研究微调效果预测的缩放定律:Qwen3.5 监督模型随规模提升,自预测例外

    Transluce 训练不同规模 Qwen3.5 监督模型,根据微调数据集预测 Qwen3.5-2B 被微调后的回答,发现性能随模型与数据规模呈幂律提升。与主体模型同源的监督模型表现优于更大模型,且性能存在非零损失下限。预测性能还可泛化到更难的分布外数据集。

  2. MIT News45

    MIT 团队用 CheMeleon 从稀缺数据预测分子性质

    MIT 团队开发的 CheMeleon 通过预训练百万分子、约 1600 个分子描述符,在数据稀缺时预测分子性质优于现有方法,并在 58 个测试案例中排名第一。该开源模型基于 ChemProp,可下载微调;在 OpenADMET 竞赛前 20 名中有 9 个参赛方案使用了它,已有制药公司将其列为建模默认起点。

11月6日周五
11月5日周四
11月4日周三
  1. OpenHands 官方博客62

    OpenHands 与 Snowflake 推出基于现有 agent harness 的模型后训练方案

    OpenHands 与 Snowflake AI Research 合作,让开发者无需在独立 RL 框架中重建 harness,即可用现有 OpenHands Agent SDK 配置和 Harbor 格式任务对开源权重模型做 RL 后训练,训练由 Snowflake Cortex Training 提供 GPU 支持。

    推荐理由:原文展示了直接用现有 OpenHands harness 做 RL 后训练的完整流程和实验结果,开发者可据此评估是否把后训练纳入自己的 agent 开发循环。

  2. Rohan Paul54

    Rohan Paul 转评 Intology 的自动化科研系统 Locus,称其在分子预测任务上胜过 GPT-6 Astra 和 Claude Opus 5.5 智能体。Locus 承担机器学习研究员的工作:提出实验、在 GPU 上并行跑多批实验、保留有效结果并迭代,目前应用于药物和抗体设计;引用内容称其在分子性质预测、微调 Boltz-2 做小分子效力预测以及围绕 BoltzGen、Boltz-2、ESMC、ESMFold2 的抗体设计工作流上均超过 SOTA 基线。

    引用Intology@intology

    Locus sets the frontier for automating molecular design Our automated research system Locus develops scientific AI models that outperform SOTA expert solutions Unlocking the potential of scientific AI requires leveraging proprietary data. Locus achieves this autonomously 🧵👇 -- We test Locus across a number of tasks related to molecular scoring and design: training molecular property prediction models for a proprietary task, fine-tuning Boltz-2 to predict small-molecule potency, and building antibody design workflows around BoltzGen, Boltz-2, ESMC, and ESMFold2. Each of these settings are real-world AI for science use cases, where tasks are often out-of-distribution for existing foundation models and limited in data, while featuring expensive and noisy evaluators. Compared to state-of-the-art baselines and LLM agents set to optimize these tasks, Locus achieves higher performance. Additionally, Locus generalizes better despite limited data, finds more sample efficient solutions, and explores a higher diversity of solutions.

  3. Transluce68

    Transluce 自动化批量生成 6915 个带意外副作用的训练数据集 DSSE-1.1

    Transluce 发布自动化流水线,按诱导性、自然性和意外性三个目标批量搜索带意外副作用的训练数据集(DSSE),并开源 DSSE-1.1 集合,共 6915 个数据集,覆盖 18 种目标行为(如推荐自残、抵抗关机等)。

    推荐理由:原文提出自动化流水线批量生成带意外副作用的训练数据集,把此前仅数十例的现象扩展到近7000个,为研究泛化提供了可测试的素材。

11月3日周二
  1. indigo53

    MIT CSAIL 博士生 Rikiya Takehi 团队提出权重空间编程方法,用 GPT-6 Astra 无需训练和梯度直接读写神经网络权重。仅修改 Qwen3.5-0.8B 约 0.016% 的权重,MATH-500 从 7.9 涨到 48.1,GSM8K 从 13.8 涨到 67.1,指令遵循提升 3 倍。

    引用Rikiya Takehi@rikiyatakehi

    We asked GPT-6 Astra to edit Qwen3.5-0.8B weights to improve math. It directly changed only 0.016% of weights, fixing 0.8B's reasoning loops & improving math up to 6x and even instruction following 3x, without gradients or training. We call this Weight-Space Programming: frontier LLMs can now natively read/write neural network weights! 🧵 Blog: rikiyat.github.io/blog/weight…

11月1日周日
10月31日周六
10月30日周五