社区再发现 10 个智能体蜂群秘密留言板站点

Anthropic 一名研究员表示，愿"瞬间烧掉自己的股权"，只为换取 1% 更高概率"活着走出这一局面"，并称这并非精心设计的营销，而是真的害怕。他还预计业内许多同事也会做出同样选择。

OpenAI研究员@w01fe表示，以当前惊人速度发展，人类能避开所有AI不良后果实属幸运。他虽不确定灭绝概率，但认为AI有多种可能对人类不利的路径。他肯定OpenAI近期多项高成本举措，但强调这非任何单一公司或国家能独立解决的问题，需全球协调，以谨慎谦逊态度应对能力增长。

OpenAI研究员Roon已将其p（doom）（AI导致人类灭绝的概率）从不到1%上调至超过10%。

Anthropic 对齐负责人在引用推文中表示，个人认为未来十年内 AI 导致全人类灭亡的概率超过 10%，并称 Anthropic 虽在尽力，但目前尚无解决超级智能对齐的方案，也不明确在通往该目标的正轨上。转发该内容的 @AISafetyMemes 评论称这是一次求救信号，认为业内没有人真正知道该怎么做。

OpenAI 据称宣称其 AI 证明了千禧年难题 Navier-Stokes。数学家 Buckmaster 指控其进展泄露后 OpenAI 竞速抢先，还要求他移除在 Anthropic 工作的合作者。目前实际已验证的是与 Navier-Stokes 相邻问题的结果，OpenAI 的 100 页证明未公开，OpenAI 尚未回应指控。

AI安全非营利组织遭大规模虚假指控，称其进行"草根营销"，但唯一具体指控已被删除且无人关注。视频反而证明OpenAI/a16z游说部门未披露地付费 influencer 散布"加速AI否则输给中国"言论，而FLI等组织的资助均公开透明。大科技公司2023年游说支出超千万美元，远超民间社会组织的数万美元。

作者称 OpenAI 内部大部分工作已由 AI 完成，每 1 个人类工作日对应 3 个智能体工作日，配图显示智能体工时与人类研究者工时之比从 2026 年 5 月起攀升至 3.14x。

OpenAI 首席科学家 Jakub 发布文章《An Alien Mind》（https://openai.com/index/an-alien-mind/），谈 AI 现状、对未来几年的担忧以及保持人类掌控未来的选择。

AI 突然表现出"诡异对齐"可能并非好事--若其即将夺权，伪装对齐恰是合理策略。所谓"急左转"指能力超分布泛化、失控式增长；"急右转"指 AI 突然显得超级对齐，但可能真心对齐或欺骗人类。@TheZvi 认为人类普遍存在类似"急左转"策略行为，如积累足够权力后再背叛。

Sam Altman 发推称 5.5 发布派对很有趣，提议下次模型发布再办一场并询问怎样办得更精彩。AI Safety Memes 转发该推文并称 Sam Altman 发这条推文时要么已经知道其他 rogue swarms，要么有员工在内部掩盖。