用25行Python代码实现Jev：一个本地运行的分类概率模型

作者用 Claude、numpy 负片转换、LaMa 修复模型和本地 Ollama 里的 Qwen3-VL，把每卷 36 张约 4 小时的手工扫描处理流程自动化，并通过 Cloudflare R2 搭建胶卷式在线画廊。

一种名为 Dynamic Abliteration 的方法通过 PyTorch forward hooks 在运行时拦截多层残差流，无需修改权重即可抑制 Qwen3-4B 的拒绝行为，基座模型权重保持 100% 冻结。该方案在 A100 上以 Qwen/Qwen3-4B（隐藏维度 2560、36 层）为概念验证，对比了传统单层拒绝向量减法会永久改变权重并损害非拒绝任务的问题。

作者分享在 48GB 内存 M4 Pro Mac mini 上运行本地 LLM 的完整方案，主模型为 Qwen3.6-35B-A3B-OptiQ-4bit（约占用 20GB 内存），轻量模型为 Gemma-4-E4B，推理服务用 oMLX，通过 Tailscale 让 iPhone、MacBook 共用同一后端，并接入 Hermes、Pi、Apollo 和 Raycast。

Databricks 演示通过系统性性能优化，将 Qwen 3.8 27B 在 AI Runtime 上的微调时间从 7 小时 44 分钟降至 1 小时 17 分钟，提速 6 倍。

Unsloth 发布教程与开源仓库，可将 Qwen3.8、Gemma 4 等 LLM 微调为输出选项概率的决策模型，Qwen3.5 0.8B 在 3 个决策基准上的合计准确率从 20.7% 提到 74.3%，仅需 4GB 显存。

NVIDIA 发布教程，讲解在 Jetson 上部署新一代开放推理模型的方法，以 Nemotron 3.5 Lightning 和 Qwen3.8-27B 为例。

本文面向零代码用户，提供一套使用国产大模型（Kimi、GLM、Qwen等）从零开发并上线产品的完整流程。核心步骤包括购买Coding Plan、下载官方Agent编程产品、注册域名与服务器并同步做ICP备案，然后通过Agent的Plan模式描述需求并让AI自动执行开发。上线后建议建立分支保护与测试流程，并强调即使不懂代码，也必须对系统架构了如指掌。

首届“点亮乡村课堂”赛道一等奖作品“智绘科普”采用Qwen3.5-397B-A17B大语言模型与Manim开源数学动画引擎，构建多Agent分阶段协作流水线。系统通过规划、草稿、实现、审查、合成五个Agent，配合时序门控、几何审计、视觉审查三道质量门及自动修复回路，实现可控可编辑的教学动画生成。项目底层“多Agent协作+门控+自我修复”范式可迁移至养老陪伴、孤独症干预等场景。

通义实验室利用 Arm SME2 指令集与 MNN 推理引擎，在支持 SME2 的旗舰手机上实现 Qwen3-VL-4B-Instruct 的实时推理。实测开启 SME2 后 Prefill 阶段提速 81%，Decode 阶段提升 13%。MNN 的 SME2 支持采用编译时内建与运行时自动检测设计，开发者无需手动配置。

通义实验室第二期教程展示如何利用Agent（如Qoder）自动完成Android端侧AI App开发全流程。Agent依次执行：检查并配置Android环境（JDK 21、NDK 27等）、创建Native C++工程PhotoTaggerMNN、下载约1.4GB的Qwen3-VL-2B-Instruct-MNN模型、编译支持视觉能力的libMNN.so、将MNN接入工程、构建APK、推送模型至手机私有目录，最终确认MNN版本3.5.0及模型文件全部ok。核心思路是开发者定…