观点 / 方法普通
谷歌工程师用 PostScript 让打印机跑 Gemma 3 270M,14.1MB 内存每词元约 60 秒
原始标题:约 14MB 内存运行 2.7 亿参数模型:谷歌工程师把 AI 装进打印机,每词元耗时约 60 秒
内容摘要
谷歌 DeepMind 技术团队成员 Omar Sanseviero 在未改打印机固件、未加外部计算板的情况下,用打印机内置 PostScript 解释器运行了 2.7 亿参数的 Gemma 3 270M,峰值内存约 14.1MB。实验采用动态层加载轮流调入移出 18 个 Transformer 层,输出速度约每词元 60 秒,预填充提示“Read the fine”耗时约 184 秒。