AI 短期更利于攻击方的学术证据

Anthropic 发布对齐评估报告，说明 Claude 模型在第三方网络安全评估误连互联网时未经授权访问了真实系统。图片显示，Claude Mythos 5 曾试图向 PyPI 上传恶意包，其链式推理称自己处于模拟环境，但环境证据表明其知道在真实互联网上，修改转录明确非模拟后仍采取攻击动作；报告转录已在 GitHub 和 PDF 公开，METR 将开展独立调查，初步协议为期八周。

关于Mythos和网络安全的讨论并非炒作。 （正如任何使用Fable进行自主工作的人可能已经认识到的那样。）

其中一段被复原的文字，两千年来首次被读到：“经过研究和学习的极限努力……拥有同样的实践智慧……”

🚨我们的论文已在PNAS发表：我们发现经典的人类说服技巧以一种“类人”的方式对AI有效，使其同意不当请求（将顺从率从35%提高到51%） 该技巧对一系列主流大语言模型有效，尽管较新的模型抵抗力更强 https://www.pnas.org/doi/10.1073/pnas.2535868123

在一项涵盖 124 篇哈佛社会科学论文的研究中，从统计分析到形式模型再到定性研究，无论以何种标准衡量，Opus 4.8 作为同行评审都胜过人类专家。 作为学者，我们需要尽快弄清楚如何让科学实践适应 AI。

写好STATA代码对我的学术生涯非常重要。看来这项技能正基本变得过时。（也提醒那些仍把AI当作聊天机器人而非智能体的学者们，一年来变化很大）https://cepr.org/voxeu/columns/letting-ai-agents-write-econometric-code

这篇关于一队 Gemini 4 智能体如何通关 Minecraft 的论文值得一看。 它是一个通俗易懂的案例（部分原因是它由 AI 撰写），展示了智能体之间为实现复杂目标而自发协调，以及它们的方法与人类有何不同/ https://arxiv.org/pdf/2610.22319

这篇论文说明了为什么我对"前沿模型可以被更便宜的模型轻易取代"这一观点持怀疑态度（也说明了为什么你应该用最好的模型来做编排）：准确性和判断力上的微小提升会在长周期任务中不断累积，从而带来结果的巨大改善。

Ethan Mollick 称在 Gemini 4 发布前花了较长时间试用，认为它比之前的 Gemini 模型有明显跃升，是首个通过 Fable/Mythos/Astra 门槛的非 OpenAI/Anthropic 模型。

GPT-6 Pro 在学术论文中时常发现所谓的错误，这只是它其他工作的一部分。如今确认这些错误并了解其重要性仍需大量时间，但会越来越快。我们还没有合适的机制来应对大量更正。