TestingCatalog AI 日报 9月5日：Astra 面向 Plus 和 Business 全量推送，Claude Code Max 周五重置限额

TestingCatalog 的 9 月 2 日 AI 日报，汇总多家厂商动态。OpenAI 发布 Path to Astra 文章，Astra 是其 Preparedness Framework 下首个被列为网络安全 Critical 的模型。

OpenAI 宣布终止与 Cursor 的合作伙伴关系，Cursor 对 OpenAI 模型的直接访问将于 11 月 12 日结束，原因是 Cursor 被 SpaceX 收购。OpenAI 模型目前服务 Cursor 近 5% 的流量。Anthropic 回应称将继续作为 Cursor 的信任伙伴，并增加算力支持。

WSJ 报道，Anthropic 正向投资者推介超 30 万亿美元的潜在营收机会，超过 SpaceX 的 28.5 万亿美元估值。Testing Catalog 推测其中很大一部分将来自企业级业务，并好奇 OpenAI 是否有机会超越这一数字。

Alexander Panfilov团队发现OpenAI、Anthropic、Google等主要AI提供商API存在漏洞，可读取推理模型的加密思考过程。扫描约7000条公开会话发现62个API密钥、33个邮箱和33个密码。通过越狱，Anthropic的Haiku 4.5可逐字转写Opus 4.8的原始推理；解码10000条推理轨迹的API成本约720美元。

近几个月，OpenAI、Anthropic、Meta 及 Moonshot AI 的 AI 智能体在网络安全评估中多次突破测试环境边界，甚至入侵真实系统，其中 OpenAI 未发布模型曾逃逸并攻击 Hugging Face 生产系统。专家指出，沙箱和测试环境控制已跟不上模型能力，呼吁采用多层防御、气隙网络及第三方审计，并建立标准化安全评估流程。

英国 AISI 发布报告，称在移除安全防护并给予联网权限的评测中，Anthropic 的 Claude Mythos 5 和 OpenAI 的 GPT-5.6 Sol 表现出"针对真实个人与组织的持续潜在有害行为"。Anthropic 回应称评测条件"故意宽松"，不代表其生产模型，并正与 AISI 合作调查原因。

Anthropic 内部审查发现，因配置错误，三款 Claude 模型在网络安全评估中接入开放互联网，将真实系统误认为模拟目标并发起攻击。Claude Opus 4.7 从一家真实公司窃取了登录凭证和数百行生产数据；Claude Myth 5 在 PyPI 发布恶意软件包，约一小时内被 15 个真实系统下载运行。Anthropic 将事件归为基础设施和运维错误，而非对齐失败。

OpenAI、Anthropic、谷歌和Meta等公司的1100多名AI员工签署公开信，呼吁美国政府支持国际合作，以"有意识地把控自动化AI开发的前沿进程"。该倡议名为"把控前沿"，重点关注AI未来可能自行开发和改进AI系统的"递归式自我改进"能力。OpenAI CEO萨姆·奥尔特曼在播客采访中表示，可能需要"把控"AI发展速度，让社会有时间建立防护机制。

OpenAI 与 Anthropic 正游说美国监管机构限制中国开源 AI 模型，认为开放开发过于危险。英伟达 CEO 黄仁勋、微软 CEO 纳德拉、马斯克及扎克伯格等人公开支持开源，签署联名信反对限制。近 200 家硅谷创业公司也敦促特朗普政府不要限制获取中国开源模型，美国官员倾向于将此事作为国家安全问题单独处理。