观点 / 方法普通
Anthropic 研究员 Jacob Coxon 辞职,指 OpenAI 和 Anthropic 竞速自我改进超级智能
原始标题:AI 时代的囚徒困境来了:所有人都看见了风险,却没人敢先停。 Anthropic 研究员 Jacob Coxon 宣布辞职。 过去三年,他先后在 OpenAI 和 Anthropic 从事模型预训练…
内容摘要
Anthropic 研究员 Jacob Coxon 宣布辞职,他在离职帖中称过去三年先后在 OpenAI 和 Anthropic 从事预训练研究,两家公司都在朝可自我改进的超级智能竞速,行为不负责任。作者认为真正的问题不是风险概率的数字,而是囚徒困境式的逻辑:任何一方都因担心对手不停而无法先停下来。