AI圈报
观点 / 方法精选

从"下一个词预测"到"世界建模":AI预训练的第二范式

信息来源:X:Jim Fan (@DrJimFan)·
原始标题:http://x.com/i/article/2018744045779238912

内容摘要

作者指出,AI预训练正经历从"下一个词预测"到"世界建模"的根本性范式转变。世界模型的核心是预测给定行动后的下一个物理状态序列,本质上是可学习的物理模拟器,并将视觉置于首位。相比之下,当前主流的视觉语言模型本质是语言优先,视觉是次要输入。生物智能中视觉处理占据皮层计算的主导地位,是连接大脑、动作与物理世界的高带宽通道。作者以猿类为例,证明强大的物理智能可独立于高级语言存在。他预测,2026年大型世界模型将为机器人技术和多模态AI奠定真正基础,而YouTube等平台的海量视觉数据将远超文本规模,推动这一新范式发展。
内容分类AI 观点与方法
内容层级精选情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:Jim Fan (@DrJimFan)
站内情报编号intel-1c7a091137f4ee3265791831