产品发布 / 更新普通
Together AI 发布 Together Compiler 持续编译系统,24 小时内将推理 TPS 提升 1.3-3x
原始标题:Together Compiler: Continuous Compilation for AI inference
内容摘要
Together AI 推出 Together Compiler(TKCC),利用高吞吐 Agent 持续优化多变的推理工作负载。
内容分类AI 产品发布与更新
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源Together AI 研究与产品博客(RSS)
站内情报编号intel-103cde17ff8b6c8c4ed9edd3