观点 / 方法普通
A20 Pro 芯片端侧 AI 实测:iPhone 18 Pro 本地跑 270 亿参数模型,速度较 iPhone 17 Pro 翻倍
原始标题:A20 Pro 芯片端侧 AI 实测:苹果 iPhone 18 Pro 可本地跑 270 亿参数模型,速度较 iPhone 17 Pro 翻倍
内容摘要
苹果 A20 Pro 芯片首次搭载双 16 核神经网络引擎,实测 iPhone 18 Pro 本地运行 270 亿参数的 Bonsai-27B 模型,速度可达 iPhone 17 Pro 的两倍。该机配备 12GB LPDDR5X 内存,带宽达 115.2GB/s,神经网络任务峰值吞吐超过芯片内 7 核 GPU。但 2 比特量化的 Bonsai 2 体积过大,无法完整存入本地内存,会造成性能下降。