跳到正文
热点事件持续更新

Liquid AI发布RIPL实时推理引擎

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Liquid AI 发布实时推理管线 RIPL,可在实时请求路径中服务 230M 至 2.6B 参数的 LFM2.5 模型,端到端生成响应低于 50 ms。该引擎仅面向企业客户、闭源,运行于 NVIDIA H100、H200、B200 和 RTX PRO 6000 GPU 的企业部署环境。 Liquid AI 自测称,RIPL 的 p95 延迟比运行在 vLLM 上的 Qwen3.5 低 5.6 至 28.4 倍,其中 LFM2.5-1.2B 为 155.8 ms 对 4,431 ms。上述性能数字均为该公司自行报告。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月23日
  1. MarkTechPost
    Liquid AI 发布 RIPL 实时推理引擎,LFM 端到端延迟低于 50 ms

    Liquid AI 发布实时推理管线 RIPL,可在实时请求路径中服务 230M 至 2.6B 参数的 LFM2.5 模型,端到端生成响应低于 50 ms。按其自测数据,RIPL 的 p95 延迟比 vLLM 上的 Qwen3.5 低 5.6 至 28.4 倍,其中 LFM2.5-1.2B 为 155.8 ms 对 4,431 ms。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。