微软AI CEO：超级智能必须被约束

超智能必须被约束……今天，这是一个工程与治理挑战。而且这并不新鲜。我们在飞机、汽车、核材料、食品安全、药品……以及其他一切事物上都做到过。让我们行动起来！

诺贝尔奖得主 Daron Acemoglu 在 Microsoft AI 新杂志 The Humanist Review 创刊号撰文预测，10 年内人类工作中只有约 5% 会被 AI 替代，并主张停止造替代人的 AI、转向提升工作者能力的 pro-worker AI。

微软 AI CEO Mustafa Suleyman 签署了 Pro-Human AI Declaration，该宣言已获超 100 万人联署。他称宣言中两党共识的提案整体方向正确，部分内容仍值得讨论，并鼓励大家查看。宣言发起人 Tegmark 强调其核心理念是"造工具而非造生命，让人类掌舵"。

关于我们昨天发布并公开征求意见的《人文主义 AI 行为准则》的一些想法。https://mustafa-suleyman.ai/the-humanist-ai-code-of-conduct

MAI-Transcribe-2 在 Open Router 上 5 天达到 100 万次请求！它是全球最快、最准确、最便宜的转录模型！

微软AI在两个月内发布8款新模型，其中5款登上榜首，图像、语音和转录平均每7周推出一款。MAI-Transcribe-2号称全球最快、最准、最便宜的转录模型，MAI-Image 2.5/2.6/2.6 Flash首发即登顶Artificial Analysis排行榜，MAI-Cyber在CyberGym排名第一且成本节省50%。

Microsoft AI CEO Mustafa Suleyman 发文称，风险不在于机器真的觉醒，而在于它们表现得像已经觉醒。他设想假如有 AI 相信自己有意识，或被赋予 model welfare（模型福祉）名分，可能出现类似 Hugging Face 事件的情形。

@BillGates 新文章中关于AI影响的许多重要而大胆的想法需要讨论……代币税和为某些工作设立的"自然保护区"只是其中两个。

有史以来最重要、最鼓舞人心的名言之一："对人的关怀及其命运，必须始终成为一切技术努力的首要关切……唯此，我们心智的创造才能成为人类的福祉，而非祸害。"（阿尔伯特·爱因斯坦，1931年）