产品发布 / 更新普通
Liquid AI 发布 RIPL 实时推理引擎,LFM 端到端延迟低于 50 ms
原始标题:Liquid AI Launches RIPL, a Real-Time Inference Engine for Sub-50 ms LFMs
内容摘要
Liquid AI 发布实时推理管线 RIPL,可在实时请求路径中服务 230M 至 2.6B 参数的 LFM2.5 模型,端到端生成响应低于 50 ms。按其自测数据,RIPL 的 p95 延迟比 vLLM 上的 Qwen3.5 低 5.6 至 28.4 倍,其中 LFM2.5-1.2B 为 155.8 ms 对 4,431 ms。
内容分类AI 产品发布与更新
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源MarkTechPost(RSS)
站内情报编号intel-6b0540d0af7f91c231ba910b