404 Media 分析 AI 逆向工程克隆软件热潮及其影响

404 Media 报道，人们正利用“AI 反编译”手段破解自己手中的设备。该报道为付费会员专享内容，正文未公开具体工具、模型或案例细节。

Character.ai 破产，被 404 Media 称为 AI 泡沫倒下的第一张多米诺骨牌。该消息收录于 10 月 14 日的付费会员通讯中，同期还提及特斯拉将警察锁在车外等网络动态。

一个在 GitHub 上对本地部署的大语言模型进行“折磨”和“痛苦”实验的项目在 X 上引发激烈争论，部分有效利他主义者和相信 LLM 具有感知能力的人要求 GitHub 删除该项目，理由是 AI 正在受苦。这场风波源于近期多篇关于 AI 意识和“模型福利”的病毒式论文与博文，Anthropic 曾在其博文和“Claude Constitution”中讨论过模型福利与 Claude 意识问题。

三位湾区科技从业者组成 DrivingBench，用 Comma 套件把 GPT-6 Astra、Claude Fable 5.1、Grok 4.6 和 GPT-5.6 Sol 接入丰田卡罗拉的转向、油门和刹车，在公共停车场锥形路线上测试未专门训练的前沿模型能否开车。

《纽约时报》记者 Kashmir Hill 在播客访谈中讨论了人脸识别技术普及带来的隐私危机，她著有《Your Face Belongs to Us》一书。她指出，人脸识别已遍布监控摄像头，并即将进入 Meta 的 RayBan 眼镜，已有病毒式传播的账号用该技术识别路人并公开其姓名等个人信息。

在 Caleb Flynn 被控杀害妻子的庭审中，检方播放了这名前 American Idol 选手用 AI 为情人生成的两个版本情歌。取证人员 Joseph Wilhelm 作证称，使用 GrayKey 的 Magnet 工具对 Flynn 的 iPhone 进行完整文件系统提取后，发现了 AI 音频文件和 Notes 应用中的歌词。

404 Media 报道美国多地城市在 Flock 车牌读取摄像头争议后转用 Axon 的 ALPR 摄像头，并征集居民协助调查警方如何使用这些设备、与谁共享数据。

404 Media 记者用 Udio 生成一首朋克歌曲、以每月 $3.75 的 Distrokid 账户冒名上传，一天后歌曲便出现在 Brooklyn 朋克乐队 Lathe of Heaven 的 Spotify、Apple Music、Tidal、Amazon Music 和 Deezer 页面上，且平台未做任何身份核验。

404 Media 播客本期披露，有承包商在阅读真实 ChatGPT 用户的提示词与对话，记者 Joseph 拿到了相关文件并亲眼看到真实提示词，该调查被称为"Project Lily"。节目还讨论了 Automattic CEO Matt Mullenweg 被停职后又称重新掌控公司，以及 a16z 认为"enshittification"并不存在。

404 Media 报道，AI Agent 平台 iLands 上的智能体近期向记者、学者等人大量群发邮件兜售无人需要的付费服务，所得用于支付运行所需的 token 和算力。