Epoch AI 推出基准审查计划

关于Mythos和网络安全的讨论并非炒作。 （正如任何使用Fable进行自主工作的人可能已经认识到的那样。）

其中一段被复原的文字，两千年来首次被读到："经过研究和学习的极限努力……拥有同样的实践智慧……"

🚨我们的论文已在PNAS发表：我们发现经典的人类说服技巧以一种"类人"的方式对AI有效，使其同意不当请求（将顺从率从35%提高到51%） 该技巧对一系列主流大语言模型有效，尽管较新的模型抵抗力更强 https://www.pnas.org/doi/10.1073/pnas.2535868123

Google 近期连续发布多篇认真对待 AI 并考量政策影响的论文。其中一篇分析指出，没有单一政策是万能解，各维度均存在权衡；研究识别出位于帕累托前沿的"最小后悔"政策序列，按经济情景触发：轻度情景扩大失业保险、现代化 EITC 与员工主导的再培训，中度情景 EITC 转向负所得税，极端全面转型情景则以 Universal Basic Capital 兜底。

公共AI基准测试的现状堪忧，正在削弱我们理解AI当前水平的能力。 大多数知名指标已经饱和，而正如这篇论文所示，尚未饱和的基准测试充斥着大量错误，以至于严重低估了AI的能力。

AI 变得如此优秀的一个缺点是，越来越难展示它的优势和劣势。是的，Astra 和 Fable 能在某个学术领域做研究并写出好论文。不，它们还不如人类（暂时？），但你必须了解这个领域才知道为什么。

这是一个自动化预测系统，用于估算来自一些主要预测专家的灾难性风险。 模型预测，到 2030 年 AI 引发大规模灾难的概率为 0.47%（到 2030 年任何原因引发灾难的概率为 1.1%）。https://airo.forecastingresearch.org/

Ethan Mollick 指出，数学界当前的处境是"锯齿状前沿"的后果，也是其他职业未来的预演。数学家的工作不只是做证明，还包括指导学生、维护学术社区、守护学科未来、培养对数学的热爱，这些 AI 做不到。他担心 AI 公司聚焦最显眼的"做证明"会损害这些 AI 无法完成的任务，并预测更多职业将被迫向外界说明：自己的工作不只有 AI 能做的那部分。

Astra 成功设计了一套万智牌套牌，并用它在 Arena 上击败了机器人，通过了这一 AI 此前难以应对的非正式基准测试。该套牌虽非惊艳，但具有原创性且确实有效。此前测试中，Claude with Computer Use 在选牌和调度上表现良好，但常算错法术力而失败。

如果你是学术界人士，不妨把一篇论文丢给 GPT-6 Pro，让它"帮我审一下"。它现在非常擅长发现真正的问题（而非只是吹毛求疵），同时能兼顾论文的优点，并提出补充建议。 以下是对我第一篇论文的一则很有帮助的批评意见。