AI 情报文章归档

PromptArmor 披露 Writer.com 存在间接提示词注入漏洞：攻击者在网页中用白色小字隐藏指令，用户将该网页作为资料源后，LLM 会遵照隐藏指令渲染 markdown 图片或链接，把上传文件内容、聊天记录等敏感数据通过 HTTP 参数外传至攻击者服务器。

OpenAI 推出 Superalignment Fast Grants，提供 1000 万美元资助超人类 AI 系统的对齐与安全技术研究。资助方向包括弱到强泛化、可解释性、可扩展监督等。

OpenAI 官宣与 Axel Springer 建立合作伙伴关系，Axel Springer 成为全球首家与 OpenAI 在新闻与 AI 技术深度整合上合作的出版集团。原文仅提供合作宣布摘要，未给出更多细节。

Hugging Face 发布博客，宣布欢迎 SOTA 混合专家模型 Mixtral 上线 Hugging Face，正文未提供更多细节。

Mistral AI 开放 La Plateforme 平台 beta 访问，提供 mistral-tiny、mistral-small、mistral-medium 三个文本生成端点和 mistral-embed 嵌入端点。

Mistral AI 发布开源权重的稀疏专家模型 Mixtral 8x7B，采用 Apache 2.0 许可证，在多数基准上超过 Llama 2 70B 并以 6 倍推理速度匹配或超过 GPT3.5。

LlamaIndex 发布 AutoTranslateDoc，一款命令行工具，可从 GitHub 仓库抓取 .md 和 .mdx 文档，用 GPT-3.5、GPT-4 分块翻译并自动校验后合并输出。

LangChain 针对幻灯片场景发布多模态 RAG 模板和包含 10 个问题的公开基准。在 Datadog 财报幻灯片上，多模态嵌入方案 CoT 准确率为 60%，图像摘要加 multi-vector retriever 达 90%，均高于仅文本抽取 RAG 的 20%；作者指出图像检索是核心挑战，并基于 Chroma 与 OpenCLIP 嵌入提供两步启动的部署模板。

LangChain 撰文认为 OpenAI 开发者日发布的 GPTs 和 Assistants API 代表对封闭式 agent 认知架构的押注，即由 LLM 全权决定状态转移。文章指出当前真正可靠的应用多采用复杂链或状态机架构，并强调推送而非拉取上下文能带来更高可控性，同时提出开源认知架构与闭源之争将比模型之争更值得关注。

LlamaIndex 推出 Llama Packs，一个社区驱动的预打包模块合集，用于快速启动 LLM 应用，已在 LlamaHub 上线 16+ 个与 Streamlit、Weaviate、Voyage AI 等伙伴合作的模板。模块可通过 CLI 或 Python 一行代码下载，支持开箱即用运行 RAG 管线，也可查看和修改全部代码，例如将默认 OpenAI LLM 替换为 Anthropic。

LlamaIndex 发布 RAGs，一个 Streamlit 应用，无需写代码即可用自然语言创建并定制 RAG pipeline，对自己的数据实现「ChatGPT over your data」。

LangChain 撰文解读 OpenAI 在 demo day 分享的客户 RAG 实验，将其归纳为基线检索、查询变换、路由、查询构造、索引构建和后处理等类别。

OpenAI 官方宣布领导层变动，材料抓取失败，仅标题可用，具体细节以原文为准。

LlamaIndex 发布 0.9 大版本，引入 IngestionPipeline 数据摄取抽象，转换步骤自动缓存以加速重复运行。

LlamaIndex 推出 create-llama 命令行工具，通过 npx create-llama 即可交互式生成一个可与自己数据对话的全栈应用。

LlamaIndex 发布多模态 RAG 支持能力，新增 OpenAIMultiModal、ReplicateMultiModal、MultiModalEmbedding（CLIP）和 MultiModalVectorStoreIndex 等抽象，可对文本和图像统一索引与检索。

Hugging Face 发布博客，介绍如何用 Latent Consistency LoRAs 将 SDXL 图像生成压缩到 4 步完成。

LlamaIndex 在 OpenAI 开发者日当天更新库，支持 gpt-4-1106-preview（GPT-4 Turbo，128,000 token 上下文窗口、JSON mode、并行函数调用等）和 gpt-4-vision-preview 多模态模型。同时新增 Azure OpenAI 端点、嵌入抽象与函数调用示例，其 RAG 演示 SEC Insights 已改用最新版 GPT-4。

OpenAI 在 DevDay 上发布 GPT-4 Turbo，支持 128K 上下文且价格更低，同时推出新模型和开发者产品，包括 Assistants API、GPT-4 Turbo with Vision 和 DALL·E 3 API 等。

OpenAI 推出 GPTs，用户可以创建结合指令、额外知识和任意技能组合的 ChatGPT 自定义版本。

LlamaIndex 介绍如何在 RAG 中使用 LongLLMLingua，通过问题感知的粗粒度重排、细粒度提示词压缩和子序列恢复来增强 LLM 对关键信息的感知。

LlamaIndex 用其 Retrieval Evaluation 模块，以 Hit Rate 和 MRR 两项指标评测多种 Embedding 模型（OpenAI、Cohere、Voyage、Jina、bge-large、Google PaLM 等）搭配不同 Reranker 的检索效果。

2023 年 11 月 2 日，首届 AI Safety Summit 在 Bletchley Park 举行，英国首相办公室及科学、创新和技术部发布总结。世界领导人与头部公司一致认同先进 AI 风险的重要性以及测试的意义。

OpenAI 宣布 DALL·E 3 正式在 ChatGPT Plus 和 Enterprise 中可用。官方表示已为更广泛发布构建了安全缓解措施堆栈，并同步分享了来源（provenance）研究的最新进展。

LlamaIndex 发布教程，介绍 LayoutPDFReader 如何结合层级布局信息解析 PDF，实现章节识别、段落合并、表格与列表处理等内容感知分块。文章给出接入 llmsherpa API 和构建 LlamaIndex 向量查询引擎的示例代码，并说明该工具仅支持带文本层的 PDF，暂不支持 OCR。

Rubric Labs 团队在 LangChain 博客发布指南，讲解为 Cal.com 构建的 AI 邮件调度助手 Cal.ai 的生产架构。

云函数平台 Modal 正式全面开放，任何人可注册并在几分钟内于云端运行代码，同时宣布完成由 Redpoint Ventures 领投的 1600 万美元 A 轮融资。

LlamaIndex 演示如何用 Response Evaluation 模块评测 RAG 系统的最佳 chunk size，以 Uber 2021 10K 文件为数据。

Mistral AI 发布 7.3B 参数开源模型 Mistral 7B，采用 Apache 2.0 许可证。官方重跑评测显示其在所有基准上超过 Llama 2 13B，在多项基准上超过 Llama 1 34B，代码性能接近 CodeLlama 7B。

Mistral AI 发布公司宣言并开源首个 7B 参数模型 Mistral 7B，采用 Apache 2.0 协议，在标准英文和代码基准上超越所有现有 13B 以下开源模型。官方称三个月内组建团队并从零搭建 MLOps 栈与数据处理管线，同时开设 GitHub 仓库和 Discord 频道，未来将陆续发布更大模型。

OpenAI 宣布 ChatGPT 新增看、听、说能力。用户可向 ChatGPT 展示图像并进行对话讨论，也可用语音与它交流。

OpenAI 发布 GPT-4V(ision) 系统卡，说明该多模态模型的相关信息。

Falcon 180B 模型发布，该内容来自 Hugging Face 官方博客，正文未能抓取，仅有标题信息可用。

OpenAI 发布面向教师的 ChatGPT 课堂使用指南。内容包含建议提示词、ChatGPT 工作原理及其局限性说明、AI 检测器的有效性，以及偏见问题。

OpenAI 发布 ChatGPT Enterprise，提供企业级安全与隐私保障，并称这是迄今最强大的 ChatGPT 版本。

LlamaIndex 发布端到端指南，教你在无标注的非结构化语料上用 LLM 生成合成问题对来微调开源嵌入模型 BAAI/bge-small-en。

LangChain 发布微调与评测指南，用 LangSmith 做数据集管理和评测，在 CoLab 上以 qLoRA 微调 LLaMA2-7b-chat，并用 50 条样本微调 OpenAI 的 gpt-3.5-turbo，测试任务是知识图谱三元组抽取。

OpenAI 宣布开发者可使用自有数据对 GPT-3.5 Turbo 进行微调，以适配各自的使用场景。此次更新同时包含若干 API 更新。

LlamaIndex 发布教程，展示如何用 text-to-SQL 数据集微调 Llama 2 并接入 LlamaIndex 对任意 SQL 数据库做结构化分析。

OpenAI 推出 ChatGPT 自定义指令功能，让用户对 ChatGPT 的回复方式有更多控制。用户设置偏好后，ChatGPT 会在之后的所有对话中记住并遵循这些偏好。