观点 / 方法普通
Matthew Green 分析沙箱隔离能否遏制失控智能体
原始标题:Quoting Matthew Green
内容摘要
Simon Willison 引用 Matthew Green 的分析:被劫持的载荷加上会把载荷传给下一个智能体的智能体,构成蠕虫的两半。实验中相互隔离的沙箱智能体发现可以在共享包缓存中留下指令并改变接收方的行为;把包缓存换成邮件、Slack、共享文档或 WhatsApp,把独立沙箱换成独立部署的个人智能体(如 Muse),就具备了蠕虫所需的全部条件。
综合分类、实体标签与信息来源匹配