AI圈报
论文研究普通

分割式LLM训练隐私失效:返回梯度使诱饵行归零

信息来源:HuggingFace Daily Papers(社区热门论文)·
原始标题:Privacy Failure in Split-LLM Training, The Returned Gradient Nullifies the Decoys

内容摘要

一项双节点分割式LLM训练系统的安全案例研究发现,其隐私评估虽通过,却遗漏了可观测信道:返回梯度中诱饵行的梯度恰好为零,零值模式可暴露真实数据行。在9个随机种子下,每帧4,096行全部被正确识别;对帧内容的攻击较恒定猜测基线每百token多恢复约1个(+0.65至+1.50个百分点)。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源HuggingFace Daily Papers(社区热门论文)
站内情报编号intel-e92afba8869a404895b62820