观点 / 方法普通
OpenAI Astra 据报采用循环深度架构,推理可读性下降引发安全担忧
原始标题:The information reports Astra reportedly uses "recurrent depth," or a "looped transformer," which he…
内容摘要
The Information 报道 OpenAI 的 Astra 模型采用 recurrent depth(looped transformer)架构,同一信息可多次经过相同 transformer 层后再生成下一个 token,在不按比例增加参数量的情况下提升每 token 计算量。
内容分类AI 观点与方法
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:Rohan Paul (@rohanpaul_ai)
站内情报编号intel-bbaafa641eaaba2d1b9bd08c