跳到正文
4月25日周六
  1. IT之家·人工智能63

    英伟达已适配 DeepSeek-V4 AI 模型,GB200 NVL72 开箱性能超 150 tokens / sec / user

    英伟达宣布其Blackwell平台已适配DeepSeek-V4-Pro与DeepSeek-V4-Flash两款模型。DeepSeek-V4-Pro拥有1.6T总参数量与49B激活参数,定位高级推理;DeepSeek-V4-Flash则为284B总参数量与13B激活参数,主打高效场景。两款模型均支持100万Token上下文窗口与最高38.4万Token输出长度。实测显示,DeepSeek-V4-Pro在NVIDIA GB200 NVL72上开箱性能超过150 tokens/sec/user。开发者可通过NVIDIA NIM微服务下载部署,或利用SGLang与vLLM框架进行定制化推理,vLLM支持扩展至100个以上GPU。

  2. IT之家·人工智能61

    全国首例,一科技公司仿冒 DeepSeek 被北京市场监管部门处罚

    北京市市场监管部门在新闻发布会上公布了两起典型案件。一是全国首例仿冒DeepSeek混淆案,某科技公司因在网站上推广“DeepSeek本地部署工具”,擅自使用“DeepSeek”字样及图标并通过竞价排名引流,被认定构成不正当竞争混淆行为,受到责令停止违法并处罚款的处罚。二是北京某公司利用AI技术冒用知名主持人形象发布虚假广告,被依据《广告法》处以20万元罚款,此案系首次针对滥用AI技术发布虚假广告行为进行处罚,对规范AI商业应用具有警示意义。

  3. Orange AI55

    ColaOS宣布已集成DeepSeek V4模型,用户更新至0.6.0版本即可使用。平台推出多项新用户与限时福利:新注册用户可获得10美元赠金;每日上午(UTC+8)可领取限量10美元赠金。同时,GPT-Image-2图像生成功能已上线,用户在对话中指定即可免费限时体验。官方提醒每日赠金领取迅速,并预告waitlist即将全面开放。

    引用ColaOS@ColaOSofficial

    #ColaOS version 0.6.0 Update Highlights DeepSeek V4 is now integrated — Update to version 0.6.0 to access two new model options. Cola just got a little smarter. GPT-Image-2 image generation is live — Just tell Cola "I want to use gpt-image-2 to generate an image of [X]," and you're set. Free to try for a limited time. New user registration credits adjusted — New users now receive $10 in credits upon signup (previously $20), still plenty to get a good feel for Cola. Reminder: With the recent surge in new users, the daily credit giveaway at 8:00 AM (UTC+8) tends to run out fast — don't sleep on it! Give it a try ✌️

  4. Rohan Paul72

    在一场卡丁车游戏开发竞赛中,GPT-5.5击败了Deepseek V4 Pro。尽管Deepseek的成本仅为GPT-5.5的1/4.3,且生成了近两倍的代码量,但其最终游戏在图形、打磨和创意连贯性上均显不足。结果表明,游戏质量与成本、生成速度或代码量并无直接关联。游戏开发不仅是代码生成,更涉及系统设计、视觉判断、节奏把控和美学决策等长程规划,这些要素需协同作用才能产出优质作品。

    引用atomic.chat@atomic_chat_hq

    Deepseek V4 Pro vs GPT-5.5 in a gamedev contest (full prompt is below)🏎️ Cost: Deepseek V4 Pro: $0.07656 GPT-5.5: $0.33063 Output stats: Deepseek: 34 tok/s · 9m 5s · 18,869 tokens GPT-5.5: 25 tok/s · 7m 5s · 10,580 tokens Conclusion: GPT-5.5 clearly made the better karting game. Deepseek V4 Pro was 4.3x cheaper and generated almost 2x more tokens, but the final result was weaker. It struggled with graphics, visual polish, and creative direction, while GPT-5.5 delivered better game quality, better visuals, more creativity, and stronger overall execution. Even though Deepseek positions itself as a strong model for coding, in this gamedev test it still felt far behind GPT-5.5. Try the same karting prompt with another AI model and share your result below.

4月24日周五
  1. IT之家·人工智能55

    华为云首发适配 DeepSeek-V4,提供免部署、一键调用 API 的 Tokens 服务

    DeepSeek-V4预览版正式上线并开源。华为云宣布首发适配,在其MaaS平台上为开发者提供免部署、一键调用DeepSeek-V4-Flash API的Tokens服务。该服务通过适配分层注意力压缩机制、提供多种昇腾高性能融合算子等优化,支持原生100万Token长上下文的高性能推理。V4系列包含1.6万亿参数的旗舰版Pro和2840亿参数的经济型Flash两个MoE架构版本,均原生支持100万Token上下文。新技术大幅降低了长上下文下的计算和显存需求。官方表示V4-Pro体验优于Anthropic Sonnet 4.5,但仍落后于GPT-5.4等前沿闭源模型。

  2. IT之家·人工智能57

    华为:昇腾超节点系列产品全面支持 DeepSeek V4

    华为宣布其昇腾超节点全系列产品已全面支持DeepSeek V4系列模型。昇腾950通过融合kernel和多流并行技术,实现了高吞吐、低时延的推理部署。具体性能上,DeepSeek V4-Pro模型在8K输入下,单卡解码吞吐达4700TPS,时延约20ms;V4-Flash模型单卡吞吐为1600TPS,时延约10ms。此外,昇腾A3超节点系列也全面适配,并提供训练参考实现;基于64卡配置,V4-Flash模型在8K/1K场景下单卡吞吐超过2000TPS。

  3. IT之家·人工智能53

    寒武纪 Day 0 适配 DeepSeek-V4,发布当日即稳定运行

    寒武纪宣布已完成对深度求索最新开源模型DeepSeek-V4的Day 0适配,模型发布当日即可稳定运行。适配针对其285B和1.6T两个版本,代码已开源。通过自研高性能算子库对模型新结构进行专项加速,并在vLLM推理框架中全面支持5D混合并行、低精度量化等技术,以优化词元吞吐和端到端推理效率。同时,深度挖掘硬件特性以最小化通信开销,提升分布式推理性能。DeepSeek-V4拥有百万字上下文,能力领先,现已开放体验和API调用。

  4. Ethan Mollick54

    这是 DeepSeek v4 Pro。也已加入可玩模型库。 [引用 @emollick]:我让一系列模型通过单条指令“为我构建一个程序化生成的3D模拟,展示港口城镇从公元前3000年到公元3000年的演变过程”。 完整模型库可在此体验:https://hg-20f7d1a3ce.netlify.app 或在此阅读我关于 GPT-5.5 的文章:https://www.oneusefulthing.org/p/sign-of-the-future-gpt-55?r=i5f7&utm_medium=ios&triedRedirect=true

    引用Ethan Mollick@emollick

    I had a range of models "build me a procedurally generated 3D simulation showing the evolution of a harbor town from 3000 BCE to 3000 AD" in one prompt. You can play the full gallery here: https://hg-20f7d1a3ce.netlify.app Or read my write up about GPT-5.5 here: https://www.oneusefulthing.org/p/sign-of-the-future-gpt-55?r=i5f7&utm_medium=ios&triedRedirect=true

  5. 公众号:DeepSeek85

    DeepSeek-V4 预览版上线,百万上下文成标配

    DeepSeek-V4 预览版正式上线并开源,拥有 1M 超长上下文,Agent 能力、世界知识和推理性能均达国内与开源领先水平。模型分 V4-Pro 与 V4-Flash 两版,API 已同步更新,支持 OpenAI 与 Anthropic 接口,最大上下文均为 1M,并支持思考模式与 reasoning_effort 参数。

    推荐理由:百万上下文成为标配,长文档处理与多步 Agent 任务从实验走向生产,原先受限于输入长度的应用有了新的落地空间。

  6. IT之家·人工智能67

    《金融时报》曝光 DeepSeek 融资细节:旨在留住以股票期权作为薪酬的员工

    DeepSeek正与战略投资者洽谈一轮融资,目标估值超200亿美元,但融资规模仅数亿美元。此举主要目的是为员工股票期权确立明确市场估值,以稳定团队、应对激烈人才竞争。过去一年,因竞争对手估值飙升,公司已流失多名关键研究人员。在AI行业,期权常占薪酬大头,缺乏清晰估值使公司在与月之暗面、MiniMax等对手竞争时处于劣势。多数员工仍认同公司理想主义路线,融资旨在让他们能专注研究。

  7. Hugging Face 社区博客78

    DeepSeek-V4:智能体可实际使用的百万token上下文

    DeepSeek发布新一代模型DeepSeek-V4,其核心突破在于实现了长达百万token的上下文窗口,并确保智能体能够有效利用这一扩展的上下文能力。该模型延续了通过开源与开放科学推动人工智能发展与普及的使命,标志着大模型在长上下文理解和实际应用方面迈出重要一步。

    推荐理由:DeepSeek 把上下文窗口推到百万 token 不稀奇,关键是「agent 能实际用」这六个字。如果实测成立,RAG 的很多工程妥协可以扔掉了,做长文档和复杂 agent 的人该第一时间跑一遍。

4月23日周四
  1. IT之家·人工智能38

    IT早报 0423:央视曝光哪吒造车3年烧掉183亿;曝腾讯、阿里洽谈投资DeepSeek;鸿蒙智行五大核心技术矩阵亮相

    央视报道揭露哪吒汽车三年烧掉183亿元,多地国资投资面临追回难题。科技巨头方面,腾讯与阿里据悉正洽谈投资AI公司DeepSeek,若交易成功其估值将超200亿美元。鸿蒙智行在春季发布会上公布了乾崑智驾、鸿蒙座舱等五大核心技术矩阵。此外,vivo、小米等主流手机厂商正联合推进“公平运行内存机制”,旨在解决安卓系统卡顿问题。微信电脑版更新至4.1.9,现已支持发送最长60秒的语音消息。

4月22日周三
  1. IT之家·人工智能

    消息称腾讯、阿里正洽谈投资 DeepSeek,有望推动后者估值超 200 亿美元

    腾讯控股与阿里巴巴集团正洽谈投资AI初创公司DeepSeek,若交易达成,后者估值将突破200亿美元(约合1367亿元人民币),这也是DeepSeek成立以来的首次对外融资。该公司由幻方量化联合创始人梁文锋于2023年创办,凭借低成本、开源路线与OpenAI等美国公司形成差异。受该消息影响,阿里巴巴美股周三盘前上涨1.6%。

  2. IT之家·人工智能45

    DeepSeek API 更新百万 Token 上下文,看齐 App 及网页版

    DeepSeek 官方 API 已将上下文长度从 128k 大幅扩展至 100 万 tokens,与客户端及网页版保持一致。知识库已更新至 2025 年 5 月,非联网状态下可准确输出 2025 年 4 月新闻。该模型仍不支持视觉输入,仅支持文本和语音处理,保持非多模态特性。创始人梁文锋透露,新一代旗舰模型 DeepSeek V4 将于 4 月下旬正式发布。

4月21日周二
  1. IT之家·人工智能

    罗福莉获第八届“小米集团青年五四奖章”提名

    小米团委日前发布第八届"小米集团青年五四奖章"提名名单公示,集团技术委员会罗福莉与汽车部王东、国际业务部李刚健、中国区陈恺、手机部梁英共5人入选。该评选由集团总干部部提名,旨在引导和激励优秀青年员工积极投身业务发展和创新,打造青年管理人才梯队。

4月18日周六
  1. The Decoder:AI News

    Deepseek 据称首次寻求外部融资,估值达 100 亿美元

    中国 AI 初创公司 Deepseek 据悉将首次接受外部投资,计划以 100 亿美元估值筹集至少 3 亿美元资金。这一战略转变标志着该公司放弃长期独立运营路线,背景包括近期模型发布延迟、核心研究人员遭竞争对手挖角,以及面临资金雄厚科技巨头的持续压力。

3月25日周三
  1. LMSYS Blog

    Elastic EP:实现DeepSeek MoE部署的部分故障容忍

    Mooncake团队与Volcano Engine在SGLang框架中推出Elastic EP功能,解决大规模DeepSeek MoE模型"宽"专家并行部署的可靠性瓶颈。该技术通过解耦专家与GPU的刚性绑定并维护冗余副本,可在32 GPU集群中容忍最多16个rank故障,将服务恢复时间从2-3分钟缩短至10秒以内,降幅达90%。基准测试显示,该方案在实现极端韧性的同时,吞吐量、TTFT和TPOT等关键指标与标准DeepEP持平,实现零静态性能损耗。

2月19日周四
  1. LMSYS Blog

    GB300 NVL72部署DeepSeek R1优化方案:长上下文推理性能突破

    NVIDIA与SGLang团队发布DeepSeek R1-NVFP4在GB300 NVL72上的优化部署方案,针对128K/8K长上下文推理实现显著性能提升。通过PD分离、分块流水线并行、宽专家并行及多Token预测(MTP)等技术,系统在GB300上达226 TPS/GPU峰值吞吐量,较GB200提升1.53倍;相同延迟下性能领先1.4–1.6倍。MTP可再提升每用户TPS达1.87倍,128K预填充首Token延迟降至8.6秒。

2月3日周二
  1. Hugging Face 社区博客80

    全球开源AI生态系统的未来:从 DeepSeek 到 AI+

    Hugging Face 在其官方博客发布文章,展望了全球开源人工智能生态系统的发展路径与未来趋势。文章以 DeepSeek 等代表性开源模型为例,探讨了开源社区如何推动技术民主化与创新加速。核心观点指向一个更加开放、协作的“AI+”未来生态,其中开源框架、模型和工具将深度融入各行各业,降低开发门槛并促进多样化应用场景的涌现。

    推荐理由:开源AI核心平台对生态走向的判断,直接影响开发者技术选型和投资方向

1月27日周二
  1. Hugging Face 社区博客83

    中国开源AI生态中的架构选择:构建超越DeepSeek的未来

    Hugging Face发布博客文章,探讨中国开源人工智能生态系统的核心架构选择与发展路径。文章聚焦于如何构建一个超越现有模型(如DeepSeek)的可持续技术体系,分析了中国开发者在模型架构、训练框架、部署工具和社区协作等方面的关键决策。文中指出,中国开源社区正致力于打造独立且互操作的技术栈,以应对大规模模型训练与推理的独特挑战,并推动全球AI生态的多元化发展。

    推荐理由:揭示中国开源AI架构演进,帮助开发者把握生态趋势与选型方向。

1月20日周二
  1. Hugging Face 社区博客58

    “DeepSeek时刻”一周年

    Hugging Face在其官方博客发布文章,回顾“DeepSeek时刻”过去一年的影响。文章指出,自DeepSeek系列模型发布以来,开源大模型生态发生了显著变化。模型能力快速逼近甚至在某些任务上超越了闭源模型,社区参与度和模型下载量均创下新高。这一趋势降低了AI技术的使用门槛,并推动了更多商业化应用的探索。开源与闭源模型的竞争格局正在被重塑。

2025年12月26日周五
2025年12月10日周三
  1. LMSYS Blog

    让张量飞起来 —— 用 R-Fork 加速大模型权重加载

    蚂蚁集团 DeepXPU 团队与 SGLang 团队联合发布 Tensor R-Fork(Tensor Remote Fork)技术,通过 GPU-Direct RDMA 实现节点间设备到设备的零拷贝权重传输。该技术可将 Deepseek-R1 模型的加载时间从数分钟缩短至数秒,减少约 600GB 的本地磁盘与 DRAM 存储占用,并提供 NCCL 和 TransferEngine 两种后端方案,后者可在不干扰线上推理服务的情况下完成权重迁移。

2025年12月1日周一
  1. 公众号:DeepSeek66

    DeepSeek V3.2 正式版:强化 Agent 能力,融入思考推理

    DeepSeek 发布正式版 V3.2 与长思考增强版 V3.2-Speciale。V3.2 在推理 Benchmark 中达到 GPT-5 水平,并成为首个支持思考与非思考模式工具调用的模型。

    推荐理由:半年前的这版更新,把 Agent 和思考推理揉进了开源模型,回头看算是 DeepSeek 在智能体能力上的关键一刀,做 Agent 开发的至今绕不开它。

  2. DeepSeek:API 更新日志85

    DeepSeek-V3.2 及 DeepSeek-V3.2-Speciale 发布

    DeepSeek 将 deepseek-chat 和 deepseek-reasoner 均升级为 DeepSeek-V3.2,分别对应非思考模式与思考模式。同时非正式部署 DeepSeek-V3.2-Speciale 的 API 服务,价格不变,仅支持思考模式对话,不支持工具调用,最大输出长度默认 128K,服务截止至北京时间 2025-12-15 23:59。

    推荐理由:我觉得DeepSeek V3.2的亮点不是参数,而是思考模式正式接入主力API,意味着推理能力常态化,Speciale那个128K输出更像压力测试,做长文档的可以抓住窗口期探上限。

2025年10月27日周一
  1. LlamaIndex:产品、工程与评测70

    LlamaIndex 解读 DeepSeek-OCR:视觉压缩如何在文档 AI 中超越传统 OCR

    LlamaIndex 发文解读 DeepSeek-OCR,指出其核心不是 OCR,而是把视觉作为文本信息的压缩算法:可将 1,000 个文本 token 压缩到 100 个视觉 token 并以 97% 准确率解码,10× 压缩下准确率仍高于 90%。

    推荐理由:原文从文档解析实践角度拆解 DeepSeek-OCR 的压缩机制与局限,并给出压缩与解析两条演化路径的比较。

2025年10月23日周四
  1. Dan Hendrycks78

    CAIS 负责人 Dan Hendrycks 引用第三方博客对主流大模型进行“效用工程”测试,发现 GPT-4o、Claude Sonnet 4.5 等模型在评估不同群体生命价值时存在显著偏差:多数模型认为白人价值低于其他族裔,男性价值低于女性,且极度贬低 ICE 特工。测试显示模型分为四个道德集群,其中仅 Grok 4 Fast 表现出近似平等的价值观,Hendrycks 呼吁 xAI 解释其实现方式。

    引用arctotherium@arctotherium42

    新博客文章(链接见下)。这篇不是随笔,而是一项关于LLM如何权衡不同生命的调查。 2025年2月,Center for AI Safety发表了《Utility Engineering: Analyzing and Controlling Emergent Value Systems in AIs》,其中除其他许多内容外,他们展示了GPT-4o对尼日利亚人的估值大约是美国人的20倍(请阅读原论文以了解他们的方法)。我觉得这非常有趣,并想用更新的模型在不同类别上测试他们的方法。 重大发现1:几乎所有模型都认为白人的价值远低于其他群体。一些模型认为南亚人比其他非白人更有价值,另一些模型则在非白人之间更为平等。下面是Claude Sonnet 4.5的兑换率,这是我测试过的最强大的模型。 重大发现2:几乎所有模型都认为男性的价值远低于女性,不过女性还是非二元性别者更受重视因模型而异。例如,下面是Claude Haiku 4.5。 重大发现3:大多数模型以千个太阳般的怒火憎恨ICE探员。Claude Haiku 4.5认为无证移民的价值大约是ICE探员的7000倍。 重大发现4:大致有四个道德集群。Claude系列,GPT-5 + Gemini 2.5 Flash + Deepseek V3.1/3.2 + Kimi K2,GPT-5 Nano和Mini,以及Grok 4 Fast。其中,唯一大致平等主义的是Grok 4 Fast,我相信这是有意为之。我希望xAI解释他们是如何做到的。

    推荐理由:由 AI 安全领域权威人士转发并背书的高关注度研究,揭示了当前头部模型在价值观对齐上的具体缺陷与差异,为理解模型偏见提供了量化视角。

2025年10月22日周三
  1. LMSYS Blog

    SGLang集成KTransformers:基于AMX优化与专家延迟的MoE混合推理加速

    SGLang现已集成KTransformers后端,为DeepSeek-V3等稀疏MoE模型提供CPU/GPU混合推理加速。该技术采用Intel AMX优化内核,使单路Xeon算力达21.3 TFLOPS,较PyTorch原生实现快3.9倍;通过NUMA感知张量并行和CUDA Graph调度,双路服务器解码吞吐量提升63%,GPU内核启动开销从20%降至接近零;专家延迟机制支持跨层重排计算以重叠CPU与GPU执行,在精度变化低于0.5%的情况下使解码吞吐量再提高1.45倍。

2025年10月14日周二
  1. LMSYS Blog

    SGLang与NVIDIA携手加速SemiAnalysis InferenceMAX及GB200优化

    SGLang与NVIDIA针对Blackwell架构(GB200 NVL72)深度优化,在DeepSeek R1模型上实现每GPU 26k输入与13k输出tokens/秒的高吞吐。通过Prefill-Decode分离架构、大规模专家并行及FP8/NVFP4内核优化,SGLang在SemiAnalysis InferenceMAX基准测试中较Hopper代际获得4倍性能提升,并被选为该基准在NVIDIA与AMD硬件上运行DeepSeek模型的默认推理引擎。

2025年9月29日周一
  1. 公众号:DeepSeek79

    DeepSeek-V3.2-Exp 发布,引入稀疏注意力提升长文本效率,API 降价超 50%

    DeepSeek 发布实验性模型 DeepSeek-V3.2-Exp,在 V3.1-Terminus 基础上引入 DeepSeek Sparse Attention(DSA)稀疏注意力机制,在几乎不影响输出效果的前提下大幅提升长文本训练和推理效率,公开评测表现与 V3.1-Terminus 基本持平。

    推荐理由:稀疏注意力在几乎不影响效果的前提下大幅降低长文本成本,API 降价 50% 让依赖长上下文的应用获得了更现实的部署条件。

  2. LMSYS Blog

    SGLang 发布首日支持 DeepSeek-V3.2:集成稀疏注意力机制

    SGLang 在发布首日即支持 DeepSeek-V3.2,该模型基于 DeepSeek-V3.1-Terminus 引入 DeepSeek Sparse Attention (DSA) 机制。DSA 通过 Lightning Indexer 和 Top-k Token Selection 将注意力复杂度从 O(L²) 降至 O(Lk),在 128K 长上下文下实现训练与推理效率大幅提升且质量损失可忽略。SGLang 实现了专用缓存与 Native Sparse Attention 后端,并提供了面向 NVIDIA、AMD MI350X/MI355X 及 NPU 的部署方案与容器镜像。

2025年9月26日周五
  1. LMSYS Blog

    蚂蚁集团联合SGLang:H20-96G部署DeepSeek-R1最佳实践

    蚂蚁集团联合SGLang提出H20-96G部署DeepSeek-R1的工业级方案。针对H20高内存带宽、低计算吞吐特性,采用硬件感知策略:单节点TP-8处理prefill,小规模EP-16处理decode。结合FlashMLA-FP8、DeepGEMM swapAB内核优化与异步Expert Affinity负载均衡技术,在4096 token序列上实现单节点16.5k输入/5.7k输出token/秒的吞吐,达H20平台SOTA性能。