技术方向
开放权重、能下载下来自己部署的模型，开源框架与 GitHub 上爆火的 AI 项目。
690 条精选近 30 天 53 条共收录 3,661 条
小红书联合北大、上交提出 HYPIC，这是首个在混合注意力大模型上实现位置无关缓存的服务系统。在 4 个生产级混合注意力模型、5 个工作负载上，HYPIC 将首 token 延迟（TTFT）平均降低 3.25 倍，同 SLO 下可持续 QPS 提升 1.66 倍，任务质量与完全重算仅相差 1.71 分。该系统通过缓存段累积转移算子实现线性层常数时间状态组合，并用缝合窗口修复全注意力层跨段对齐。
推荐理由：此前位置无关缓存无法用于混合注意力模型，HYPIC 通过缓存转移算子与缝合窗口首次实现，RAG 场景 TTFT 降低 3.25 倍，开源代码为推理系统提供了可复用的加速路径。
xAI 开源的 Grok CLI 编码智能体代码库中包含一个用 Rust 编写的 Mermaid 图表示例终端渲染器 `xai-grok-markdown/src/mermaid.rs`。开发者通过 Claude Code for web (Fable 5) 将其编译为 WebAssembly，实现在浏览器中运行该工具。
推荐理由：Simon 从 Grok 源码里扒出终端 Mermaid 渲染器，用 Wasm 带到浏览器，生成 Unicode 图，开发者画流程图的轻量选择。
Thinking Machines 发布 Apache-2.0 开源模型 Inkling，975B 参数、基于 45 万亿 token 从头训练，定位通用基础模型。模型权重免费，但通过其微调平台 Tinker 的定制化服务收费。该策略与 Slate Auto 售价 $24,950 的可定制皮卡类似，以低价通用基础产品吸引用户，通过增值定制实现商业化。
推荐理由：作者把 Inkling 的开源策略与低价定制皮卡类比，指出权重免费、微调收费的商业模式逻辑，提供了一个理解开源 AI 变现的视角。
Elon Musk@elonmusk精选AI 评分7676我们已将 Grok Build 开源，并为所有用户重置了使用限制。 开源 Grok Build 让任何人都能帮助打造一个可靠且健壮的 harness。欢迎查看我们的代码，包括 Grok Build CLI 的 Git 仓库。 http://x.ai/open-source
推荐理由：xAI 把 Grok Build 直接开源了，虽然还没说明详细功能，但代码已经能看，做 AI 编程的开发者可以提前摸一摸架构。
xAI 已将 Grok Build 的源代码在 GitHub 上开源。Grok Build 是 SpaceXAI 的编程智能体与终端用户界面（TUI），开源后用户可自行编译并完全本地运行，指向本地推理引擎并通过 `config.toml` 配置。
推荐理由：Grok Build 开源让 xAI 的编码智能体变成完全可定制、可本地运行的套件，对想自己拼装开发环境的工程师是个实锤福利，但社区能玩多大还得看后续。
Thinking Machines@thinkymachines精选AI 评分7070推荐理由：多模态推理终于有了开放权重的选项，Inkling不是最强的，但可能是最方便你上手微调的。想试试多模态Agent的，今天就能在Playground玩。
Tencent Hy@TencentHunyuan精选AI 评分6969我们刚刚发布了 Hy3 的 1-bit 与 4-bit 版本，这是一款旗舰级规模的 295B 模型，可在单张 GPU 上运行。👌 使用 llama.cpp 运行 Hy3，启用 MTP，即可在显著降低的硬件配置上体验强大的智能能力。🚀🚀🚀 迫不及待想看看你们会用它构建什么。 #Hy3 #Hy #GGUF #llamacpp
推荐理由：混元把295B旗舰模型压进单GPU，1-bit和4-bit版本对本地部署是个大礼包，开源社区可以动起来了。
作者基于 API 版 Fable5 和 Codex 开发了开源 TODO Skill“阿福”，用于将收件箱中的待办资料自动转为 Markdown 任务卡，识别信息不完整项（如视频链接需通过 yt-dlp 和本地 Whisper 提取字幕），并支持批量排期、AI 分组合并、拖拽调整周视图及同步到 Mac 日历或飞书日历。项目已开源在 GitHub，安装仅需一条命令。
推荐理由：卡尔把三年知识管理教训封装成一个能自动扫描、合并排期的 TODO Skill，如果你也被碎片信息淹没，这个工具比任何大纲都实用。
Thinking Machines Lab 发布多模态 MoE 模型 Inkling，Together AI 于发布当日在其 Serverless 平台提供访问，支持 1M 上下文窗口和 OpenAI 兼容 API。
推荐理由：原文来自提供推理服务的合作方，给出了 Inkling 的架构细节、参数规格和初步评测，读者可据此了解新模型的技术取向与可用入口。
Juggler 是一款开源 GUI 编程智能体，提供可视化工作台，支持可检查的工具调用、分支线程和可编辑上下文。会话以树状结构组织，而非线性聊天记录，用户可创建子线程、回溯、比较和编辑。所有关键信息以 Finder 风格 Miller 列展示。Juggler 支持本地、远程或同时运行，桌面应用与浏览器可连接同一会话。模型支持包括 Claude Code、OpenAI、Gemini、Ollama、OpenRouter、Z.AI、Deepseek 等。后端使用 Go 和 Wails，UI 为 HTML/JS。
推荐理由：我觉得 Juggler 把 AI 编码的交互从聊天记录变成了可编辑的树，这下能细致管理多个修改分支了，而且完全开源，做软件的值得试一下。
Google 发布实验性开源模型 DiffusionGemma，采用文本扩散技术并行生成 256 token 块，推理速度最高提升 4 倍。该 26B MoE 模型仅激活 3.8B 参数，量化后适配 18GB VRAM 消费级 GPU，在单张 H100 上达 1000+ tokens/s。
推荐理由：Google把扩散模型首次做进大语言模型，生文速度提升4倍，还开源了权重。虽然实验性质量打折，但本地实时交互的开发者终于有个新选项可以玩了。
小红书以 3 人 3 天推出内测版本，约一个月实现全员覆盖，核心是 AI Native 项目运作机制。技术选型基于 OpenClaw 二次开发，通过 Seal AI Zone 隔离集群与 NEX 沙箱解决安全，Self-GC 使输入 Token 下降 10%~15%、Auto 模式路由使成本降低 69%，并自研 LLM Wiki 三层记忆架构与 Skill Hub 生态。
推荐理由：从物理隔离到三层记忆，这套方案把 OpenClaw 定制为企业个人助理，沙箱和成本控制细节对同类实践有直接参考价值。
腾讯混元将295B参数的Hy3旗舰模型权重量化至1bit与4bit并打包成GGUF，配合llama.cpp生态，使原本需多卡集群部署的模型最少一张96GB推理显卡即可运行。1bit版将权重从598GB压缩至85.5GiB，4bit版体积169.9GiB，两张显卡可承载；量化版在长文理解、Agent与代码任务上贴近满血效果，开启MTP后解码速度提升约50%-60%。
推荐理由：将 295B 旗舰模型量化至单卡部署，1bit 版本在长文理解上仍接近满血，且提供 MTP 加速，改变了本地运行大模型的门槛与成本考量。
Google AI 工程师指出，使用合成随机向量数据测试向量搜索性能可能导致误导性结果。对于 HNSW 索引，合成数据构建耗时 6,601,789 毫秒，而真实数据仅需 4,174,196 毫秒，速度快 1.5 倍，因为随机向量缺乏自然聚类结构，使图索引的节点连接更难建立。
推荐理由：玩pgvector或AlloyDB向量搜索的开发者应该看看这篇，用合成数据测HNSW索引召回率可能只有3%，而真实数据超90%，附带完整SQL复现脚本。
SenseTime@SenseTime_AI精选AI 评分7474推荐理由：商汤把检测、OCR、深度估计等多个视觉任务塞进一个7B模型，还贴心地开源了数据集和复现工具，做视觉理解或GUI agents的团队可以直接拿它当基座，不是又一个刷榜的轻量版。
德国AI协会协调的研究联盟发布开源大语言模型Soofi S 30B-A3B。该模型总参数量316亿，每个token仅激活约32亿参数，采用Mamba-2与标准注意力层混合的MoE架构。模型完全在德国电信慕尼黑工业AI云上训练，训练数据中德语占比从第一阶段的7.2%提升至第二阶段的15.3%。在基准测试中，Soofi S在所有完全开源模型中取得英语和德语综合最高分，超越OLMo 3 32B和Apertus 70B。在HumanEval上得分73.8%，MBPP得分70.2，德语版MBPP得分84.2。上下文窗口支持最高100万token，在4万token长度下，生成吞吐量约为同规模稠密模型的8倍。模型权重已开源。
推荐理由：德国联盟用 Mamba-Transformer 混合架构做出一个 30B 开源模型，德语基准横扫，长上下文推理吞吐八倍于同级密集模型，想做德语 AI 的可以认真看了。
腾讯混元发布 HyOCR-1.5，这是端到端 OCR 大模型领域首个将训练、推理、模型权重完整开源的专家模型。仅 1B 参数，覆盖 8 种以上 text-centric 任务。引入 DFlash 投机解码框架，在 Transformers 下实现 6.37× 加速，vLLM 下 2.14× 加速，端到端推理达每页 1.408s。支持 4K 分辨率与 128K 上下文窗口，通过 Agentic Data Flow 扩展低资源 OCR（331 种语言）、古文字识别与多图问答能力。在 OmniDocBench v1.6 上以 94.74 分居端到端第一。
推荐理由：我觉得这是近期最实在的OCR开源，1B参数覆盖多任务、推理加速6倍，还支持llama.cpp本地部署，做文档解析的同学可以直接上车。
蚂蚁集团开源 AKernel（Agent Kernel），一个将整个数据中心视为 AI 智能体可编程扩展的分布式内核。它通过统一 Python SDK 实现计算、网络和存储的编程控制，支持单机、私有 K8s 及多云（阿里云、华为云）一键部署，冷启动仅需 40 毫秒。AKernel 代码由 AI 大量贡献，并内置基于 OpenTelemetry 的全栈可观测性。
推荐理由：蚂蚁把数据中心变成 Agent 的可编程扩展，对于需要大规模弹性编排 Agent 的团队来说，比用 Kubernetes 手写 YAML 直接得多，不过目前严重依赖阿里云和华为云，通用性还差一截。
蚂蚁集团 inclusionAI 在 GitHub 开源 sandboxd，这是 AKernel 使用的 Linux 沙箱生命周期服务，通过 gRPC API 管理沙箱资源，当前基于 gVisor 运行沙箱，并计划近期开源 Kata Containers 支持。
推荐理由：蚂蚁把 AKernel 用的沙箱生命周期管理开源了，对需要安全执行代码的 AI 推理/评测场景有参考价值，但仅限底层基础设施人员，非目标受众不必深究。
开发者Jarred Sumner借助Claude Fable 5模型，11天内将Bun从Zig重写为Rust，64个实例并行编写超100万行代码，API费用约16.5万美元。重构主因是Zig频繁内存错误，Rust可在编译时捕获。Bun v1.4.0以Canary版本发布，修复128个错误，速度提高约2%到5%。Bun团队已于2025年12月被Anthropic收购。
推荐理由：这是我能找到的第一个用真金白银量化AI编程能力的项目，16.5万美元对一年人工，Bun的这次重构给所有还在观望的人一记实锤。