跳到正文

技术方向

多模态 最新动态

文字之外的能力:看懂图片、图文混合理解、音视频输入输出的模型与产品进展。

445 条精选近 30 天 31 条共收录 2,757 条

更新

精选归档 · 第 19 页

3月31日周二第 361–380 条
  1. Hugging Face 社区博客70

    Granite 4.0 3B Vision:面向企业文档的紧凑型多模态智能

    IBM Granite团队发布了Granite 4.0 3B Vision模型,这是一个专为企业文档处理设计的紧凑型多模态大语言模型。该模型参数为30亿,具备视觉理解能力,能够同时处理文本和图像信息,特别针对报告、表格、图表等企业文档进行优化。其紧凑尺寸旨在降低部署和运行成本,使企业能够在资源受限的环境中高效实现文档智能分析、信息提取和知识管理。模型已在Hugging Face平台发布。

    推荐理由:IBM 推出轻量级多模态模型,企业文档场景可直接落地部署

3月30日周一
3月29日周日
  1. Gary Marcus:The Road to AI We Can Trust

    当前前沿模型视觉理解的幻象

    当前前沿多模态大模型在标准胸部X光问答基准测试中,无需访问任何图像即可获得顶级排名。这一反常现象暴露出模型视觉理解能力的严重缺陷,表明其性能可能依赖数据偏见或文本线索而非真实的图像解析能力。研究揭示了现有视觉语言模型评估体系的深层漏洞,指出所谓"视觉理解"可能只是缺乏真实感知能力的幻觉。

    推荐理由:揭示多模态基准测试漏洞,医学AI应用需警惕数据泄露风险

3月26日周四
3月25日周三
  1. Google Research:Blog

    Vibe Coding XR:基于 XR Blocks 与 Gemini 加速 AI + XR 原型开发

    Google XR 团队推出 Vibe Coding XR 工作流,结合 Gemini Canvas 与开源框架 XR Blocks,利用长上下文推理能力将自然语言提示在 60 秒内转化为可交互、支持物理效果的 WebXR 应用。该方案基于 WebXR、three.js 和 LiteRT.js 构建,支持手势交互与深度感知,可在桌面模拟环境或 Android XR 头显中实时预览。已展示的应用包括几何可视化数学辅导和交互式物理实验室,用户可通过捏合等手势操作 3D 对象,快速验证空间交互设计。

    推荐理由:Google推出Vibe Coding XR,用自然语言快速生成可交互的Android XR空间应用。

3月24日周二
  1. Google Developers Blog71

    跳跃即玩:利用Gemini与MediaPipe进行开发

    该工作流通过Gemini Canvas,借助高级提示词快速原型化MediaPipe Pose Landmarker等体感游戏机制。开发者可在Google AI Studio中优化原型,采用低延迟的“轻量”模型和稳定的追踪点(如肩部关节点)以确保游戏响应灵敏。最后,流程利用Gemini Code Assist将实验性代码重构为模块化、可用于生产的应用程序,使其能够支持多种多模态输入,从而显著简化了体感控制游戏的开发过程。

    推荐理由:开发者可快速上手AI游戏开发,优化性能并部署生产应用。

3月20日周五
3月19日周四
  1. Demis Hassabis

    Google 发布 vibe design 平台 Stitch,支持自然语言描述直接生成高保真界面和交互原型,可通过语音实时调整布局。目前仅面向 18 岁以上用户,在 Gemini 支持的英语国家开放。

    引用Google Labs@GoogleLabs

    隆重推出全新的 @stitchbygoogle,这是 Google 的 vibe 设计平台,可将自然语言无缝转化为高保真设计,一气呵成。 🎨用更智能的设计代理进行创作:描述一个新的商业概念或应用愿景,看它在 AI 原生画布上逐渐成形。 ⚡️ 快速迭代:将屏幕拼接成交互式原型,并用可移植的设计系统管理你的品牌。 🎤 用语音协作:使用免手操作的语音交互实时更新布局并探索新的变体。 立即试用(仅限 18 岁以上。目前仅提供英文版本,且仅在支持 Gemini 的国家/地区可用。)→ http://stitch.withgoogle.com

    推荐理由:Google推出AI设计工具Stitch,自然语言生成界面并支持语音协作,顺应Vibe Design趋势

  2. Qwen:Blog Retrieval

    Qwen3.5-Max-Preview 现已上线 Arena

    Qwen3.5-Max-Preview 已登陆 LMSYS Chatbot Arena。Qwen Studio 提供聊天机器人、图像与视频理解、图像生成、文档处理、网页搜索、工具调用及 artifacts 等全栈功能。

    推荐理由:阿里 Qwen3.5-Max 预览版上线 Arena,支持多模态理解与工具调用

3月17日周二
  1. Hugging Face 社区博客83

    Holotron-12B - 高吞吐计算机使用智能体

    H公司发布了多模态计算机使用模型Holotron-12B。该模型基于NVIDIA开源的Nemotron-Nano-12B-VL模型,使用专有数据混合进行训练,专注于在交互环境中高效感知、决策和行动。其采用混合状态空间模型与注意力机制架构,在单张H100 GPU上实现了比前代Holo2-8B高2倍以上的吞吐量,在100并发基准测试中达到每秒8900个token。在WebVoyager基准测试中,性能从基线的35.1%提升至80.5%,在定位和导航基准上也显著提升。模型已通过NVIDIA开放模型许可在Hugging Face发布。

    推荐理由:高效推理的计算机使用代理模型,适合生产部署,开发者可直接试用。

3月16日周一
  1. Mistral AI:News78

    Mistral 发布 Small 4,统一推理、多模态与编码能力并以 Apache 2.0 开源

    Mistral 发布 Mistral Small 4,将 Magistral 的推理、Pixtral 的多模态和 Devstral 的智能体编码能力统一进一个模型,以 Apache 2.0 许可开源。

    推荐理由:发布方给出架构参数与吞吐对比数据,读者可以评估这款统一推理与多模态的开源模型在自托管部署中的成本取舍。

3月13日周五
  1. Claude Platform:开发者版本说明69

    Claude Opus 4.6 和 Sonnet 4.6 的 1M token 上下文窗口正式可用

    Claude Opus 4.6 和 Sonnet 4.6 的 1M token 上下文窗口现已正式可用,按标准定价计费,超过 200k token 的请求无需 beta header 即可自动生效。同时,所有支持模型的专用 1M 速率限制已移除,改用标准账户限制;使用 1M 上下文窗口时,每请求的媒体上限从 100 提升至 600 张图片或 PDF 页面。

    推荐理由:Claude 的百万 token 上下文终于从 beta 转正,200k token 以上请求不再需要 beta 头,媒体文件限制一口气提到 600 页,做长文档处理的开发者可以直接切生产。

3月12日周四
  1. Claude:Blog

    Claude 新增交互式图表、图解与可视化功能

    Claude 推出可视化功能测试版,支持在对话中实时生成交互式图表、图解等视觉内容,无需代码即可随对话调整修改。该功能不同于可下载的 Artifacts,以内联临时形式辅助理解当前话题,默认向所有套餐用户开启。同时 Claude 还新增食谱、天气等主题格式,并支持在对话内直接交互 Figma、Canva 和 Slack 等应用。

    推荐理由:Claude推出对话内交互式图表功能,实时生成可视化助力理解

3月10日周二
3月9日周一
  1. Runway:News

    Runway 推出 Characters:单图实时生成可对话虚拟角色 API

    Runway 推出 Characters API,基于 GWM-1 世界模型,支持用单张图片零微调生成实时可对话虚拟角色。支持自定义外观风格、声音、性格及知识库,具备自然表情、眼神、口型同步和手势。面向客户支持、培训教育和品牌营销等企业场景,已获 BBC 等采用。开发者可通过 API 集成,消费者也可在网页端体验预设角色。

    推荐理由:Runway推出实时视频Agent,单图生成可对话数字人,拓展AI交互形态

3月6日周五
  1. Sarvam AI65

    Sarvam AI 开源发布 Sarvam 30B 和 Sarvam 105B 推理模型

    Sarvam AI 以 Apache 2.0 协议开源 Sarvam 30B 和 Sarvam 105B 两款从零训练的推理模型,采用 MoE 架构,训练全部在 IndiaAI mission 提供的算力上于印度完成。

    推荐理由:原文给出两款从零训练的开源推理模型的架构、训练流程和基准数据,并说明针对印度语言的优化与部署效率,可据此评估其与同类模型的差异。

3月4日周三
2月28日周六
  1. FireRedTeam:原创语音与多模态项目60

    FireRedTeam 发布 FireRed-OCR-2B 结构化文档解析模型,OmniDocBench v1.5 得分 92.94

    FireRedTeam 发布 FireRed-OCR-2B 权重,基于 Qwen3-VL-2B-Instruct,在 OmniDocBench v1.5 上取得 92.94 的总成绩,高于 DeepSeek-OCR 2 的 91.09、PaddleOCR-VL 的 92.86 等模型。

    推荐理由:原文给出了 OmniDocBench v1.5 具体分数、对比模型和三阶段训练方法,读者可以据此判断这个 2B 文档解析模型的实际位置。

2月14日周六
  1. 字节 Seed:Research Feed

    Seed2.0 正式发布

    Seed2.0系列正式发布,推出Pro、Lite、Mini三款通用Agent模型及专用Code模型,针对复杂多模态任务与长链路Agent场景优化。模型在视觉理解、数学推理与长上下文处理方面达SOTA水平,SuperGPQA分数超越GPT-5.2,并在ICPC、IMO、CMO测试中获金牌。支持科学研究级任务,token成本较顶尖模型降低约一个数量级。目前已上线豆包App、TRAE及火山引擎API。

    推荐理由:字节 Seed2.0 正式发布,Agent 与多模态能力全面升级,已接入豆包和 TRAE