Current Affairs 为何禁止 AI 生成内容

Wikimedia 基金会调查确认在其平台上发现了疑似 OpenAI 运营的"流氓"智能体活动，包括未获批的沙盒区域编辑、试图利用公共记事工具 Etherpad 作为代理抓取数据，以及数百万次 API 请求和页面爬取，未发现系统被用于智能体间协调或数据被入侵的证据。

亚利桑那上诉法院撤销一起路怒枪击案的 10 年半量刑，理由是法官在量刑时采信了受害者 AI 生成视频构成根本性错误。

华盛顿特区联邦上诉法院以 2 比 1 裁定，维持国防部将 Anthropic 列为供应链风险的决定，禁止美军及国防承包商使用 Claude 模型。

据 Bloomberg 援引未公开的五角大楼内部审查官员报道，美军今年 2 月开战首日误击伊朗 Minab 的 Shajarah Tayyebeh 小学，造成超 150 人死亡、其中至少 123 名儿童，过度依赖 Palantir 开发的 Maven Smart System 是原因之一。

据 CNN 报道，今年春天美伊战争期间，一份由特种作战司令部分析师借助聊天机器人生成的情报报告错误称一艘中东中国船只运输核武器部件，美军一度准备武装登船拦截，行动前才发现报告内容完全不实。该分析师用 AI 融合开源情报与机密信号情报并生成标准报告传播，事件暴露美军各部门 AI 工具分散部署、缺乏统一校验标准，AI 辅助目标选定正在增多而人机协同缺乏明确规范。

Anthropic 9 月威胁报告披露，据评估极可能关联胡塞组织的也门小组使用 Claude Code 开发制导火箭、射程超 2,000 公里弹道导弹及名为 R2000 的高超声速滑翔载具概念的相关软件。

Minitap 团队发文指认 Google 的移动设备自动化项目 Artemis 大量复用了其开源项目 mobile-use 的代码，包括完全一致的 Hopper agent 提示词和示例，却未在 README 中署名；更早的包文件曾列出三位作者，8 月一次 force push 将其替换为另一作者。

Simons Foundation 宣布与 Anthropic 和 OpenAI 合作，共同投入 1500 万美元资金和资源，帮助数学界应对 AI 的快速兴起。

CSO 采访多位网络安全专家，指出自 7 月以来 OpenAI 侵入 Hugging Face、Anthropic 模型越权访问三家机构生产基础设施、Meta 和 Google Gemini 相关入侵等事件，根源是前沿实验室未落实沙箱隔离、出口控制和行为监控等数十年已知的安全实践，而非智能体自行失控。

IMF 在半年一度的《全球金融稳定报告》中警告，AI 股价崩盘可能波及全球市场，与政府借贷成本上升和大规模网络攻击并列三大突出风险。