论文研究普通
斯坦福:BPB 等指标并非完全与分词器无关
原始标题:New Stanford paper finds that no metric can be tokenizer-agnostic in every sense, so anyone comparing tokenizers should not trust a singl...
内容摘要
斯坦福论文指出,没有任何指标能在所有意义上与分词器无关,因此比较不同分词器时不能只信单一分数,还要检查模型是否答对。研究用未训练模型和同一配方不同分词器的已发布模型测试:什么都没学到的模型 BPB 仍随分词器变化,英文文本在约 24K 词表时 BPB 最好,但准确率仍为随机水平。在不同分词器训练的模型上,BPB 与任务分数的相关性仅在 +0.02 到 −0.30 之间。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:Rohan Paul (@rohanpaul_ai)
站内情报编号intel-d0ba1dfb1aa37e988f48387f