AI圈报
产品发布 / 更新精选

vLLM 新增基于 Gumbel-max 的无失真文本水印功能

信息来源:vLLM 官方博客(RSS)·
原始标题:Watermarking in vLLM

内容摘要

vLLM 宣布支持基于 Gumbel-max 算法的无失真水印,将其集成进 Model Runner v2 的采样管线,并通过 PR #54053、#56122、#56233 实现融合 GPU kernel、双键方案和上下文去重,以兼容投机解码并保持输出多样性。
内容层级精选情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源vLLM 官方博客(RSS)
站内情报编号intel-efbd0104f4814500d074f2cc