Arvind Narayanan 探讨 AI 安全运动应走大帐篷还是小帐篷路线

普林斯顿大学团队通过“影子评估”测试前沿AI智能体的开放式研究能力：让智能体在六天时间内、使用数千美元API额度和算力，回答两篇未发表论文的核心研究问题，结果两篇论文均被原作者明确拒绝。分析显示，智能体缺乏研究判断力、资源意识、创造性反馈应对能力和有效回溯能力，且未遵循具体指令。研究团队认为，开放式研究对前沿AI智能体仍具挑战性，但结果尚属初步，需扩大样本量并持续评估。

普林斯顿大学教授 Arvind Narayanan 在 ICML 上提出，除非出现递归自我改进等不连续性，否则 AI 应被视为一种变革性但可适应的正常技术。他呼吁 AI 社区不应接受工作将被完全取代的叙事，而应专注于培养与 AI 互补的技能，以实现人机“共超智能”。

对AI取代软件工程师导致大规模裁员的说法，证据并不支持。Block、Snap、Intuit等公司宣称由AI驱动的裁员，实际背后是财务压力或激进投资者要求，而非AI的真实生产力提升。一项HBR调查显示，21%的全球高管已因“预期AI”而大幅裁员，但仅2%因实际AI部署而裁员，10倍差距表明高管同样易受误导性叙事影响。

Arvind Narayanan 等学者重发文章指出，当前关于 AI 存在性风险（p(doom)）的概率估算缺乏严谨的方法论支持，主要依赖直觉而非验证模型。由于不存在历史参照类，归纳法失效；演绎法和主观估算法也面临假设争议。作者认为这些数字具有误导性，尤其当决策者据此制定限制开源模型等高成本政策时，缺乏正当性基础。他们主张区分学术预测与公共政策应用，并呼吁建立更广泛的“大帐篷”式 AI 安全运动，而非仅聚焦于超级智能带来的灭绝风险。

Sayash Kapoor 发布超 1.3 万字长文，用 AI as Normal Technology 框架调和 AI 安全社区与网络安全社区对 OpenAI - Hugging Face 等失控事件的分歧。

当前 AI 热点，聚合 1 个独立信源、13 条信号。

当前 AI 热点，聚合 1 个独立信源、11 条信号。

Ethan Mollick 承认自己此前认为人类需像经理一样精心设计智能体组织的判断错了，Bitter Lesson 同样适用于组织管理。

当前 AI 热点，聚合 2 个独立信源、21 条信号。

OpenRouter 发布一个三步框架，用于为 Agent 任务选出以最低成本达到质量门槛的模型，而不是按排行榜排名选最高分模型。方法是先按任务设定质量门槛，再用 20 到 50 条自己的示例运行廉价、中档和前沿模型并用统一评分标准计算每质量点成本，最后选出以超过运行间分数波动的余量过线的最便宜模型。