LoRA 与 QLoRA 如何用一块 GPU 微调大模型

马东锡认为“Agent +”场景中会搭 Agent 已是最不重要的能力，更关键的是熟悉具体业务场景，AI engineer 这一角色已与 AI 关系不大、也不值钱。他建议 AI 领域的年轻人靠近模型本身，去做训练、量化、推理或参与 AI 基础设施建设。

作者以 InstructGPT 与 GPT-3 对同一请求的不同回答为切入，解释预训练只教模型猜下一个词，基座模型因此存在不听指令、可能造成伤害、不擅长长链条推理三个短板。

Hamel Husain 发布新文章《How To Use Decision Models For Evals》，讲解如何为任务选择决策模型、调优阈值（提醒不要默认 0.5）并解读分数，配有交互式图表。

Anthropic 介绍其 Code Review 实践，Claude 编写了约 90% 的 Claude Code 代码，6 月到 9 月合并 PR 翻倍以上、回退占比下降超过 40%。

Anthropic Applied AI 团队的 Kevin Bai 做 FDE 101 分享，讲清前线部署工程师角色。他指出 Palantir 靠 FDE 模式做到上市 SaaS 公司最高平均合同金额 400 万美元；FDE 成立前提是有可复用平台，仅适用于把复杂产品卖给非技术买家的场景。

我整理了一套最新且经过验证的 DGX Spark 配置方案，适用于后训练等机器学习实验： - aarch64 架构上配备原生 PyTorch 2.13 的 CUDA 13 - 经 GB10 测试的训练内核 - 隔离的 vLLM 环境 - 以 PyTorch SDPA 作为可靠的注意力基线 https://github.com/dxnlp/dgx-spark-dongxi

Anthropic Applied AI 团队发布指南，讲解何时把 orchestrator 下的路由器、规划器和领域子智能体合并进单个主 Agent 循环。文中对比显示，带 skills 的单智能体在质量上常优于一提示全包和子智能体设计，且成本和延迟更低，一家客户改用单循环后运行时间约快 2x。

面壁智能 MiniCPM-V 团队介绍支撑 MiniCPM-V 4.7 端侧运行的前瞻专家调度（LES）技术，称首次实现 35B-A3B 规模 MoE 在端侧实时无损运行，iPhone 18 Pro Max 实测解码超 20 token/s。

英国数字健康公司 Numan 复盘其 AI 健康教练 Nu 的评测体系建设，核心结论是稀缺资产不是提示词而是评测标准。单轮静态数据集和脚本化多轮对话都难以覆盖真实会话，Nu 改为按类别打分的主题数据集、以更廉价模型扮演患者的模拟对话层，并让安全回归自动阻断发布。

n8n 博客发布教程，讲解如何在一台 NVIDIA DGX Spark（128GB 统一内存）上部署七个本地模型，通过 LiteLLM 单一 OpenAI 兼容端点驱动 n8n 工作流，全程不调用云 API。