产品发布 / 更新普通
Together AI 发布 Together Compiler:智能体持续优化推理,最高提升 2.6x TPS
原始标题:Together AI Releases Together Compiler: Agents Make Inference Up to 2.6x Faster
内容摘要
Together AI 发布 Together Compiler(TKCC),一个由编码智能体驱动的持续编译系统,随生产流量变化不断重写模型 forward pass 以优化推理,已在多个 serverless 端点上运行。
内容分类AI 产品发布与更新
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源MarkTechPost(RSS)
站内情报编号intel-4b6a1c29b258d0d11c1b5d4b