AI 情报文章归档

PromptArmor 披露 Notion AI 存在间接提示词注入漏洞：AI 编辑在用户批准前已被保存，注入的提示词可让 Notion AI 把招聘追踪文档内容拼入外部图片 URL，用户浏览器加载图片时数据即已外泄，无论是否同意。

有效的评估能帮助团队更自信地发布AI智能体，避免陷入仅在生产环境被动发现问题、修复可能引发新问题的循环。智能体因其多轮操作的自主性与灵活性，评估更为复杂。一个完整的评估结构包含任务、评分器、记录、结果、评估框架与评估套件等核心组件。缺乏系统评估将导致团队无法区分真实的质量倒退与随机波动。建立评估体系能帮助团队在智能体规模化过程中持续监控质量、自动测试变更并量化改进效果，其价值在智能体整个生命周期内持续累积。

PromptArmor 披露 IBM 编码 Agent Bob（含 Bob CLI 与 Bob IDE，目前 Closed Beta）存在漏洞：若用户对任一已知可信命令选择 always allow，攻击者可通过间接提示词注入触发下载并执行恶意软件。

OpenAI 推出 ChatGPT Health，这是一个专门的健康体验，可安全连接用户的健康数据和应用，具备隐私保护措施，并由医生参与设计。

NVIDIA在Hugging Face上发布了Cosmos Reason 2模型，旨在提升物理AI系统的推理能力。该模型通过改进的推理架构，使AI能更准确地理解和预测物理世界的动态与交互，核心升级包括对复杂场景的多步推理、不确定性量化及时间序列数据的深度理解。这一进展将推动机器人、自动驾驶等领域的发展，使AI在现实环境中的决策更可靠、更符合物理规律。

阿联酋技术创新研究院在Hugging Face发布了Falcon-H1-Arabic模型。该模型采用创新的混合架构，融合了自回归与自编码技术，专门针对阿拉伯语进行优化。其目标是通过提升对阿拉伯语复杂语法和丰富形态的理解与生成能力，显著推进阿拉伯语人工智能的发展。这一发布标志着阿拉伯语大语言模型在技术架构上取得了重要进展。

Liquid AI 发布 LFM2.5-1.2B 模型家族，将预训练从 10T 扩展到 28T tokens 并加入强化学习后训练，覆盖 Base、Instruct、日语、视觉语言和音频语言五个变体。

Dario Amodei 将当前 AI 发展阶段定义为「技术的青春期」，认为人类即将获得难以想象的力量，但社会和政治系统是否具备驾驭成熟度仍存疑。文章强调需避免「末日论」式恐慌，以务实、基于事实的方式讨论风险，同时承认 AI 发展速度和风险的不确定性。作者主张通过企业自愿行动与精准政府监管相结合，在避免过度干预的前提下应对潜在危险，为可能到来的更强有力行动储备证据和方案。

Adam Marblestone 指出，当前人工智能研究忽略了大脑运作的核心机制。与业界普遍关注神经网络架构不同，大脑的真正优势在于其奖励函数而非结构本身。这一观点挑战了主流 AI 研究范式，暗示未来突破可能来自对大脑激励系统的深入理解，而非单纯的架构模仿。该论断为人工智能发展提供了新的思考维度。

xAI发布Grok Business和Grok Enterprise企业版。Business版定价30美元/座位/月，支持自助开通，提供团队管理、统一账单及Google Drive集成（保留原文件权限），并承诺用户数据永不用于模型训练。Enterprise版面向大型组织，提供Custom SSO、Directory Sync及高级审计控制；可选的Enterprise Vault插件提供独立数据平面与客户自管加密密钥(CMEK)，实现应用级加密隔离。平台支持实时使用监控、安全…

硬件方面，Optimus等虽工程精湛，但可靠性不足严重限制软件迭代，且维护成本高昂。基准测试领域仍处混乱，缺乏统一的硬件平台、任务定义和评分标准，cherry-picking现象普遍，可复现性堪忧。VLA（Vision-Language-Action）方法基于VLM存在本质缺陷：VLM为视觉问答优化，参数侧重语言知识而非物理理解，且视觉编码器丢弃低层细节，不利于精细操作。作者认为视频世界模型是更优的预训练目标。

Manus 官宣加入 Meta，称此举将巩固其在 AI 应用层的战略位置，把 Meta 平台上的数百万企业和数十亿用户作为下一步服务对象。截至 12 月初，Manus 已处理超过 147 万亿个 token，创建超过 8000 万台虚拟计算机；Manus 将继续通过 app 和网站提供产品和订阅服务，公司继续在新加坡运营，CEO 肖弘表示运作方式和决策机制不变。

2024：AI 是 copilot 2025+：人类是 copilot Copilot 是新的工程技能。离开驾驶座并不容易——我们必须学会用 AI 的方式思考，并适应陌生的工作流。帮助 AI 帮助我们自己。 [引用 @karpathy]：作为程序员，我从未感到如此落后。这个职业正在被剧烈重构，因为程序员贡献的比特越来越稀疏且穿插其间。我感觉如果能恰当地串联起过去大约一年里出现的东西，我可以强大 10 倍，而未能获得这种提升感觉绝对是技能问题。除了下面通常的层之外，还有一个新…

介绍如何利用 NeMo Data Designer 构建许可安全的合成数据工作流，用于模型特化（model specialization）。该管道支持生成可蒸馏模型所需的高质量合成数据，确保数据来源合规，适用于下游微调与领域适配场景。

作者虽晚购特斯拉却率先体验FSD v14，认为这是首个通过"物理图灵测试"的AI系统：疲惫下班后只需按下按钮放松休息，已无法分辨是神经网络还是人类在驾驶。尽管深知机器人学习原理，方向盘自动转动时的流畅表现仍令人震撼。这项技术正从超现实体验转变为日常习惯，最终如智能手机般不可或缺。这种对"神级技术"的深度依赖，正在从根本上重塑人类行为模式。

不想陷入哲学辩论，但这本书确实改变了我对这个话题的看法，让我更加谦逊。人类智能令人印象深刻，但称其为"通用"并不太客观。我的猫会不同意。 在我看来，人类智能更应被视为社会驱动的认知适应，而且我们仍不理解、也远未用当前 AI 复现的智能领域还有巨大 WORLD。 [引用 @demishassabis]：Yann 在这里完全错了，他把通用智能和 universal intelligence 混淆了。 大脑是我们在宇宙中所知最精致、最复杂的现象（迄今为止），而且它们实际上极其通用…

xAI 被美国战争部（DOW）选中，为其 GenAI.Mil 套件提供 Frontier AI 系统。基于 Grok 模型的解决方案将覆盖 DOW 旗下 300 万军事和文职人员，支持 Impact Level 5（IL5）级别的企业 AI 和关键任务用例，可嵌入从五角大楼到战术边缘的日常工作流，并支持机密作战工作负载。DOW 用户还可独家获取 X 平台实时全球洞察。

GLM-4.7 发布，编程能力显著提升。SWE-bench 达 73.8%（+5.8%），Terminal Bench 2.0 达 41%（+16.5%），支持 Claude Code 等主流智能体框架。新增交错式思考、保留式思考和轮级思考功能，可控制推理过程以降低延迟或提高准确性。同步改进 UI 生成、工具调用和数学推理能力，可通过 API 或本地部署使用。

Anthropic 联合 MATS、Truthful AI 等机构发布研究，训练 Activation Oracle（AO）将 LLM 神经激活作为输入，用自然语言回答关于激活的任意问题。

OpenAI 发布 GPT-5.2-Codex，称其为旗下最先进的编码模型。模型主打长程推理、大规模代码改造能力，并增强了网络安全相关能力。

OpenRouter 推出新功能 Response Healing，可在 LLM 生成的畸形 JSON 响应抵达用户应用前自动修复。该功能旨在将 JSON 格式错误减少超过 80%，直接提升 API 响应的结构完整性与可靠性，减少下游应用的处理负担。

OpenRouter 推出 Response Healing 新功能，可在响应到达应用前自动修复大语言模型产生的格式错误的 JSON，从而将 JSON 缺陷减少 80% 以上。

Transformers v5 发布了全新的分词处理架构，核心变化是引入了更简单、统一的 API 设计，将分词器、后处理器和解码器模块化。新版移除了大量遗留代码，使代码库体积减少了约 40%，并显著提升了处理长文本和特殊 token 的灵活性。这一改进旨在降低开发者使用门槛，同时为各类大语言模型（如 GPT、Claude、LLaMA）提供更高效、一致的分词支持。

英国 AI Security Institute（AISI）发布首份 Frontier AI Trends Report，汇总其对 30 多个前沿模型的测试结果。

Transluce 提出 Predictive Concept Decoders（PCD），训练可解释性助手把模型内部状态翻译成人类可读的概念列表，再据此回答模型行为问题。PCD 由编码器和解码器组成，能在越狱、秘密提示和注入概念三类场景中揭示模型自身不报告的信息，且性能随训练数据扩展而提升，论文见 arXiv 2512.15712，可在 decoder.transluce.org 体验。

Gemini 3 Flash 正式发布，在大幅降低使用成本的同时提供前沿级智能，主打极速推理性能，为需要快速响应的 AI 应用提供高性价比选择。

xAI 开放 Grok Voice Agent API，基于自研语音栈（VAD、tokenizer、音频模型），Big Bench Audio 基准排名第一，首音频延迟低于 1 秒（比竞品快近 5 倍），定价 $0.05/分钟。支持数十种语言自动切换、实时搜索 X 和网页、调用自定义工具，已深度集成特斯拉车机。提供 Ara、Eve 等多种自然声线，支持 [whisper] 等听觉标签，兼容 OpenAI Realtime API 规范。

OpenAI 宣布开发者可以向 ChatGPT 提交应用供审核与发布，通过审核的应用将出现在新的产品内目录中便于发现。配套更新了工具、指南和 Apps SDK，帮助开发者构建把真实世界操作带入 ChatGPT 的聊天原生体验。

英国 AI Security Institute（AISI）与儿童安全组织 Thorn 发布安全协议，指导 AI 开发者和托管平台防止系统被滥用于生成儿童性虐待材料（CSAM）。配套的11月新立法将在严格条件下授权少量组织直接测试模型能否被用于生成此类内容，协议同时列出监测、访问控制等措施，并指出在训练数据和模型输出中可靠检测 CSAM 仍是待解的技术难题。

Mistral 发布 Mistral OCR 3，对比 Mistral OCR 2 在表单、扫描件、复杂表格和手写内容上取得 74% 的整体胜率。

Manus 官宣在正式上线仅八个月后，年度经常性收入（ARR）突破 1 亿美元，总营收年化运行率超过 1.25 亿美元。

OpenAI 宣布推出更快的 ChatGPT Images 体验，并在 API 中提供 GPT-Image-1.5。官方还提到最新的 ChatGPT Images 2.5 可供探索。

新论文：iREPA 扩散模型是其底层表征的渲染器。通过这种新设置，我们能更清楚地洞察这些表征的真正含义。Jas 开始了一场自发的探索，过去三个月我们学到了很多 ps. 这也是我们对一种新型线上"饮水机效应"的小实验，我很喜欢看到这种现象。让我们争论、讨论，然后用真正的努力将其转化为正经科学 [引用 @1jaskiratsingh]：‼️ 表征对生成很重要！但事实证明，我们对表征如何帮助生成的理解一直都是错的 ‼️ 我们之前的想法：（我们错了） ❌ 更大的视觉编码器 → 更好…

开源可配置通用智能体 CUGA 现已集成至 Hugging Face Spaces，便于开发者便捷实验。该智能体在复杂任务基准测试中表现卓越，在包含 457 个 API、750 个真实任务的 AppWorld 基准排名第一，在 WebArena 基准也位居前列。其核心提供可配置的推理模式以平衡性能与成本，支持计算机使用与多工具无缝集成，并能与 Langflow 结合进行低代码工作流设计。采用 Apache 2.0 许可的 CUGA 支持多种开源模型，在高性能推理平台（如 G…

通义实验室发布 Fun-ASR 端到端语音识别模型系列并开源。Fun-ASR-Nano-2512 参数量 800M，基于数千万小时语音训练，支持中英日三语、7 种汉语方言和 26 种地方口音；Fun-ASR-MLT-Nano-2512 同为 800M，基于数十万小时训练，支持 31 种语言。

Google DeepMind 发布更新的 Gemini 2.5 Flash Native Audio 模型，用于实时语音智能体，在 ComplexFuncBench Audio 上取得 71.5%，开发者指令遵循率从 84% 提升到 90%，已在 Google AI Studio、Vertex AI 上线，并开始在 Gemini Live 和 Search Live 推出。

Thinking Machines Lab 宣布 Tinker 正式开放（GA），取消候补名单，并新增四项更新：支持微调 Kimi K2 Thinking（万亿参数。

llama.cpp 服务器新增了类似 Ollama 的多模型管理功能。该功能采用多进程架构，每个模型独立运行，确保单个模型崩溃不影响其他服务。系统支持自动发现本地 GGUF 模型文件、按需加载，并默认采用 LRU 机制管理最多同时加载4个模型。用户可通过请求中的模型字段路由到特定模型，并可使用 API 进行加载、卸载和列表查看。所有加载的模型可继承路由器的统一设置，也支持通过预设文件为每个模型单独配置参数。内置 Web UI 同样支持模型切换。

OpenAI 发布 GPT-5.2，称其是迄今在数学与科学上最强的模型，在 GPQA Diamond 和 FrontierMath 等基准上取得新的 SOTA 结果。原文还展示这些能力如何转化为实际研究进展，包括解决一个开放理论问题和生成可靠的数学证明。

OpenAI 发布 GPT-5.2，称其为面向日常专业工作的最先进前沿模型，具备推理、长上下文理解、编码和视觉能力。用户可在 ChatGPT 和 OpenAI API 中使用，以支持更快、更可靠的智能体工作流。