AI圈报
模型发布 / 更新普通

Show HN:LLM 注意力可视化

信息来源:Hacker News 热门(buzzing.cc 中文翻译)·
原始标题:Show HN: LLM 注意力可视化

内容摘要

一个基于 Transformers.js 的 React 应用,可点击或悬停生成的 token,查看影响其生成的历史 token 的注意力权重。可视化通过缩放值向量幅度并跨所有注意力头和层聚合实现,能展示模型从原文复制信息及组合多短语语义的过程。应用使用 6 亿参数模型,并预生成提示词以便即时加载。
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源Hacker News 热门(buzzing.cc 中文翻译)
站内情报编号intel-ca8ef84ab587da86399e4f89