LlamaIndex 工程师分享构建 LLM Agent 工具的实用技巧

LlamaIndex 发文反驳文档 OCR 正被前沿模型商品化的观点，称帕累托前沿仍远高于最新前沿模型。其开源的 ParseBench（约 2,000 个人工核验的企业页面、167,000+ 条测试规则）显示，GPT-4o 到 GPT-5.5 三代模型解析准确率提升约 24 分但每页成本约翻四倍，最新最贵模型仍比专用前沿低 20 分。

LlamaIndex 发布长文分析 LLM OCR 的核心风险：视觉证据弱时语言先验主导，模型会把读不清的数字替换成流畅但错误的值，或静默截断长表格，且没有逐字符置信度可供设阈值。

LlamaIndex 详解其开源 PDF 解析工具 LiteParse 的网格投影算法核心原理。PDF 只存储文本内容和绘制坐标而无阅读顺序，算法通过提取左、右。

LlamaIndex 复盘 LlamaParse 的两类生产故障：LLM 重复循环导致 token 消耗和延迟暴增、资源耗尽，以及 recitation 内容过滤把合法文档抽取误判为版权违规而强行截断输出。

LlamaIndex 发文解释 AI 智能体读 PDF 难的根本原因：PDF 源自 1982 年的 PostScript，只存绘图指令而非字符，文本编码、表格、图表和阅读顺序都需要启发式推断。

LlamaIndex 官方宣布公司使命收窄为构建智能体文档处理基础设施（OCR、抽取与工作流），不再定位为单纯的 RAG 框架。

LlamaIndex 撰文比较 Skills 与 MCP 两种让 Agent 调用工具和获取领域知识的方式，并在构建 LlamaAgents Builder 时做了实测。

LlamaIndex 发文指出，Agent 正越来越多地通过文件和文件系统来读取非结构化上下文，并归纳出三种主要用法：用文件存储和检索长程对话历史、用文件搜索替代朴素 RAG 来获取海量外部上下文、用 Skills 类文件教会 Agent 做事从而绕过 MCP。

LlamaIndex 发布改进的 Memory 组件，为 Agent 提供短长期记忆能力。基础形式将聊天记录按 token 上限存入 SQL 数据库（默认内存 SQLite）。

LlamaIndex 介绍如何在 RAG 中使用 LongLLMLingua，通过问题感知的粗粒度重排、细粒度提示词压缩和子序列恢复来增强 LLM 对关键信息的感知。