论文研究普通
IBM Research 用开源模型与 llm-d 分布式推理降低 AI 芯片设计成本
原始标题:Scaling AI-driven chip design with open agent factories
内容摘要
IBM Research 演示用开源前沿模型结合 llm-d 分布式推理构建 agent factory,对量子纠错解码算法 Relay-BP 做 HLS 硬件优化,在 100 个假设预算下实现约 52 倍加速、推理成本约 26 美元;同预算下全专有模型配置成本 299 美元、加速 204 倍。