AI圈报
论文研究普通

UCSD 团队用 vstack 发现 PD 分离服务 RDMA 竞态漏洞

信息来源:X:UCSD Hao AI Lab (@haoailab)·
原始标题:In PD-disaggregated serving, a GPUDirect RDMA race often returns HTTP 200 OK while silently mixing one user's KV cache into another's res...

内容摘要

UCSD Hao AI Lab 用 vstack 在 PD 分离推理服务中发现 3 类 RDMA 与 KV cache 生命周期 bug,已提出 6 项上游修复。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:UCSD Hao AI Lab (@haoailab)
站内情报编号intel-474206730b6020eb9c395a9d