AI 情报文章归档

2023 年 11 月 2 日，首届 AI Safety Summit 在 Bletchley Park 举行，英国首相办公室及科学、创新和技术部发布总结。世界领导人与头部公司一致认同先进 AI 风险的重要性以及测试的意义。

OpenAI 宣布 DALL·E 3 正式在 ChatGPT Plus 和 Enterprise 中可用。官方表示已为更广泛发布构建了安全缓解措施堆栈，并同步分享了来源（provenance）研究的最新进展。

LlamaIndex 发布教程，介绍 LayoutPDFReader 如何结合层级布局信息解析 PDF，实现章节识别、段落合并、表格与列表处理等内容感知分块。文章给出接入 llmsherpa API 和构建 LlamaIndex 向量查询引擎的示例代码，并说明该工具仅支持带文本层的 PDF，暂不支持 OCR。

Rubric Labs 团队在 LangChain 博客发布指南，讲解为 Cal.com 构建的 AI 邮件调度助手 Cal.ai 的生产架构。

云函数平台 Modal 正式全面开放，任何人可注册并在几分钟内于云端运行代码，同时宣布完成由 Redpoint Ventures 领投的 1600 万美元 A 轮融资。

LlamaIndex 演示如何用 Response Evaluation 模块评测 RAG 系统的最佳 chunk size，以 Uber 2021 10K 文件为数据。

Mistral AI 发布 7.3B 参数开源模型 Mistral 7B，采用 Apache 2.0 许可证。官方重跑评测显示其在所有基准上超过 Llama 2 13B，在多项基准上超过 Llama 1 34B，代码性能接近 CodeLlama 7B。

Mistral AI 发布公司宣言并开源首个 7B 参数模型 Mistral 7B，采用 Apache 2.0 协议，在标准英文和代码基准上超越所有现有 13B 以下开源模型。官方称三个月内组建团队并从零搭建 MLOps 栈与数据处理管线，同时开设 GitHub 仓库和 Discord 频道，未来将陆续发布更大模型。

OpenAI 宣布 ChatGPT 新增看、听、说能力。用户可向 ChatGPT 展示图像并进行对话讨论，也可用语音与它交流。

OpenAI 发布 GPT-4V(ision) 系统卡，说明该多模态模型的相关信息。

Falcon 180B 模型发布，该内容来自 Hugging Face 官方博客，正文未能抓取，仅有标题信息可用。

OpenAI 发布面向教师的 ChatGPT 课堂使用指南。内容包含建议提示词、ChatGPT 工作原理及其局限性说明、AI 检测器的有效性，以及偏见问题。

OpenAI 发布 ChatGPT Enterprise，提供企业级安全与隐私保障，并称这是迄今最强大的 ChatGPT 版本。

LlamaIndex 发布端到端指南，教你在无标注的非结构化语料上用 LLM 生成合成问题对来微调开源嵌入模型 BAAI/bge-small-en。

LangChain 发布微调与评测指南，用 LangSmith 做数据集管理和评测，在 CoLab 上以 qLoRA 微调 LLaMA2-7b-chat，并用 50 条样本微调 OpenAI 的 gpt-3.5-turbo，测试任务是知识图谱三元组抽取。

OpenAI 宣布开发者可使用自有数据对 GPT-3.5 Turbo 进行微调，以适配各自的使用场景。此次更新同时包含若干 API 更新。

LlamaIndex 发布教程，展示如何用 text-to-SQL 数据集微调 Llama 2 并接入 LlamaIndex 对任意 SQL 数据库做结构化分析。

OpenAI 推出 ChatGPT 自定义指令功能，让用户对 ChatGPT 的回复方式有更多控制。用户设置偏好后，ChatGPT 会在之后的所有对话中记住并遵循这些偏好。

Llama 2 发布，可在 Hugging Face 上获取。

LlamaIndex 工程师在发布 LlamaHub Tools（含 Gmail、Google Calendar、Wolfram Alpha 等 15 个工具）后，总结编写 LLM Agent 工具的技巧。

LlamaIndex 发布 Data Agents，LLM 驱动的知识工作者可对非结构化、半结构化和结构化数据执行读取与写入任务。

OpenAI 宣布 API 更新，包括可控性更强的模型、函数调用（function calling）能力、更长的上下文以及更低的价格。

OpenAI 训练模型在数学问题求解上取得新的 state-of-the-art，方法是对每个正确的推理步骤给予奖励（过程监督），而非只奖励最终正确答案（结果监督）。除提升性能外，过程监督还有对齐收益：它直接训练模型产生人类认可的思维链。

LlamaIndex 在博客中展示新查询引擎 SQLAutoVectorQueryEngine，可同时利用 SQL 数据库和向量数据库回答同时涉及结构化与非结构化数据的自然语言查询。

OpenAI 推出 ChatGPT iOS 应用。应用支持跨设备同步对话记录和语音输入，并将最新模型改进带给用户。

LlamaIndex 在 UBER 2019-2022 年 SEC 10-K 文件上测试 Anthropic 新推出的 100K token 上下文窗口。由于单份 10-K 约 160k token 仍超出窗口，作者用 list index 切成约 100k token 大块并测试响应合成策略。

LangChain 发布名为 Plan-and-Execute 的新型智能体执行器，先由 planner 规划步骤，再由执行器逐步完成，与此前基于 ReAct 的 Action Agent 形成对比。该设计将规划与执行分离以提升可靠性，代价是更多 LLM 调用，灵感来自 BabyAGI 和 Plan-and-Solve 论文，首版放在实验模块，提供 Python 和 JS/TS 文档。

LangChain 发布技术博客，对比近两周流行的 AutoGPT、BabyAGI、CAMEL 和 Generative Agents 四个 Agent 项目，将其分为自主智能体与智能体模拟两类。

Hugging Face 发布 StackLLaMA 教程，手把手讲解如何用 RLHF 方法训练 LLaMA 模型，覆盖完整训练流程。

LangChain 宣布获得 1000 万美元种子轮融资，由 Benchmark 领投。上线六个月来该项目在 GitHub 获超 20K stars、拥有 350+ 贡献者。

OpenAI 发布 3 月 20 日 ChatGPT 故障的事后说明，介绍了调查发现、已采取的措施以及该 bug 的技术细节。

OpenAI 宣布在 ChatGPT 中实现对 plugins 的初步支持。插件是以安全为核心原则、专为语言模型设计的工具，可帮助 ChatGPT 获取最新信息、运行计算或使用第三方服务。

OpenAI 发布论文 GPTs are GPTs: An early look at the labor market impact potential of large language models，对大语言模型的劳动力市场影响潜力进行早期分析。材料抓取失败，仅标题可用，论文具体方法与结论暂无法核验。

ARC 作为第三方评估方与 Anthropic、OpenAI 等实验室合作，在受控环境中测试前沿模型自主获取资源、逃避人工监督的危险能力。结论是被测的 Claude 和 GPT-4 版本均未能产出可信的完整自主复制计划，执行中易出错、有幻觉、难以在多副本间分派任务，但能部分完成浏览网页、雇佣人类代办、制定长期计划等子任务。

研究发现Transformer模型的残差流中存在“特权基向量”现象，即某些坐标方向持续出现异常大的激活值，这与“无特权基”的理论预期相悖。通过实验，研究者将根源指向Adam优化器中的逐维度归一化器，而非层归一化或浮点精度问题。在2亿参数模型中，典型层有20至60个维度的激活绝对值超过6。研究还提出使用峰度作为检测指标，发现激活分布峰度普遍大于3，进一步证实了基向量对称性被破坏。

OpenAI 发布 GPT-4，称其为扩展深度学习的最新里程碑。GPT-4 是接受图像和文本输入、输出文本的大型多模态模型，在多项专业和学术基准上达到人类水平表现，但在许多现实场景中仍不及人类。

OpenAI 发布 GPT-4。官方介绍其可生成、编辑并与用户迭代创意和技术写作任务，如创作歌曲、编写剧本或学习用户的写作风格。

LangChain 与社区成员 Francisco Ingham、Jon Luo 发布 LLM 与 SQL 结合的实践指南，并宣布 3 月 22 日举行一小时网络研讨会。

Hugging Face 发布博客，讲解如何在 24GB 消费级 GPU 上用 RLHF 微调 20B 参数大语言模型，文中涉及 TRL 与 PEFT（见原文链接 https://huggingface.co/blog/trl-peft）。正文抓取失败，仅标题可用，更多细节以原文为准。

Hugging Face 发布博客，介绍 ControlNet 在 Diffusers 库中的支持。