Chollet 称自主机器人需工程化因果推理

主观能动性向来具有自我增强的特性，而AI正在放大这种效应。 低能动性的AI使用者进一步丧失能动性，高能动性的AI使用者则进一步增强能动性。

我撰写《Deep Learning with Python》旨在成为理解深度学习工作原理及最佳应用方式的权威指南。数以万计的人通过这本书开启了职业生涯。已售出12万册，更有数百万人下载阅读。 现在可以免费在线阅读：https://deeplearningwithpython.io/

作者以"Glurg"游戏（实为 chess）假设情境论证：借助现有外部认知基础设施（计算机、互联网等），人类顶尖团队能在24小时内从规则解析开发出3000 Elo引擎，三周内可达3500 Elo且计算效率提升10倍。这表明人类智能已具备即时掌握复杂策略系统的能力，而非从零缓慢进化。该论述回应了关于现实世界更接近 chess 而非 Go 的争论，强调人类利用工具扩展认知边界的即时优势。

弦理论就是当一个智能系统缺乏感官输入、开始产生幻觉时会发生的事。智能需要接地。 因此，智能几乎从来不是解决有影响力问题的瓶颈。瓶颈是与现实的反复接触。

科学的理想结果不是几个实验室用专有模型和数百万美元去攻克奖杯式难题，而是拥有数百万由AI辅助的人类科学家，他们追随自己的好奇心，变得雄心勃勃得多

François Chollet 提出应把科学建模为一个递归自我改进的智能系统，作为理解 AI RSI 的参照。

Chollet 指出，80 年代心理学研究曾假设学编程能像"思维体操"一样提升通用推理与规划能力，但基础研究及后续元分析证明这一迁移并不发生：学编程者算法思维与编码能力变强，收益却不迁移到通用认知任务。数学训练同理，只提升数学演绎与结构映射，不提高无关领域的基线学习速率。他认为通用智能是大脑的固有属性，而非可训练的技能。

Francois Chollet 提出疑问：AI 能力的"锯齿状前沿"是否主要来自数学和代码——这两者可通过 RLVR 无限推进，而其他领域因仍受限于人类生成数据而开始进入平台期。他指出，非可验证领域的模型表现虽持续提升，但远慢于数学和代码。这一提升究竟来自 RLVR 驱动的高 G，还是仅源于仍在海量注入的新人类数据，答案将决定很多事。

Chollet 反驳"AI 模型是计算所以可能有意识"的推论，称其如同"生物由原子构成，石头也由原子构成，所以石头可能有生命"一样无意义。他指出棋引擎、AlphaGo、Linux 内核都是极其复杂的计算，但并不意味着有意识；静态输入输出程序缺乏信息整合、内感受、时间绑定、具身性等意识相关属性。

认为当前 AI 模型有感知能力、会遭受痛苦，再加上"痛苦可以在人类与非人类之间被数学量化和加权"这一愚蠢想法，可能会把我们引向一条极其黑暗和反乌托邦的道路。 但在走到那一步之前，它理应会遭到人类阵营的强烈反对。