AI圈报
产品发布 / 更新精选

vLLM 实现 TML Inkling Day-0 支持并完成推理性能优化

信息来源:vLLM 官方博客(RSS)·
原始标题:TML Inkling on vLLM: Day-0 Support with Optimized Performance

内容摘要

vLLM 宣布对 Thinking Machines Lab 的 1T 参数多模态模型 TML Inkling 提供 Day-0 支持,覆盖 thinkingmachines/Inkling-NVFP4 和 BF16 两个版本,支持文本、图像、音频输入和最长 1M token 上下文。
内容层级精选情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源vLLM 官方博客(RSS)
站内情报编号intel-4694374c5e1fea1817adbc23