论文研究普通
扩展与蒸馏文本嵌入以提升扩散语言模型可扩散性
原始标题:Scaling and Distilling Text Embeddings for Better Diffusibility
内容摘要
研究发现,将嵌入模型从 T5 扩展到 T5Gemma-1、T5Gemma-2 可显著提升扩散语言模型生成性能,但原始 T5Gemma-2 嵌入区分度过高,导致连续扩散易落入无效嵌入。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源HuggingFace Daily Papers(社区热门论文)
站内情报编号intel-789fe2626e81a123793c08c0