AI圈报
论文研究普通

扩展与蒸馏文本嵌入以提升扩散语言模型可扩散性

信息来源:HuggingFace Daily Papers(社区热门论文)·
原始标题:Scaling and Distilling Text Embeddings for Better Diffusibility

内容摘要

研究发现,将嵌入模型从 T5 扩展到 T5Gemma-1、T5Gemma-2 可显著提升扩散语言模型生成性能,但原始 T5Gemma-2 嵌入区分度过高,导致连续扩散易落入无效嵌入。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源HuggingFace Daily Papers(社区热门论文)
站内情报编号intel-789fe2626e81a123793c08c0