论文研究普通
Hermes 8B 内部状态预测与干预
原始标题:You can predict where an LLM's internal state is heading, and that targeted edits can pull it back on course.
内容摘要
你可以预测 LLM 内部状态的走向,并且有针对性的编辑可以将其拉回正轨。 在一个冻结的 Hermes 8B 上,从模型某一层的隐藏状态中取出的 8 个数字,可以预测几层之后发生的 68 项测量结果。 预测误差比简单的平均基线低约 69-76%。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:Rohan Paul (@rohanpaul_ai)
站内情报编号intel-5085a51bdb7cc3b16d6df821