AI圈报
观点 / 方法普通

谷歌工程师用 PostScript 让打印机跑 Gemma 3 270M,14.1MB 内存每词元约 60 秒

信息来源:IT之家·人工智能·
原始标题:约 14MB 内存运行 2.7 亿参数模型:谷歌工程师把 AI 装进打印机,每词元耗时约 60 秒

内容摘要

谷歌 DeepMind 技术团队成员 Omar Sanseviero 在未改打印机固件、未加外部计算板的情况下,用打印机内置 PostScript 解释器运行了 2.7 亿参数的 Gemma 3 270M,峰值内存约 14.1MB。实验采用动态层加载轮流调入移出 18 个 Transformer 层,输出速度约每词元 60 秒,预填充提示“Read the fine”耗时约 184 秒。
内容分类AI 观点与方法
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源IT之家·人工智能
站内情报编号intel-9c7a45ef3ce2b01a673a49f4