AI圈报
产品发布 / 更新精选

Perplexity开源Unigram分词器降低CPU占用

信息来源:X:Perplexity (@perplexity_ai)·
原始标题:We're open-sourcing the Unigram tokenizer we rebuilt to reduce CPU utilization by 5-6x. Small reran…

内容摘要

我们开源了重新构建的Unigram分词器,可将CPU占用降低5-6倍。 小型重排序器和嵌入模型在GPU上运行时间仅为个位数毫秒,使得CPU分词成为总延迟的重要组成部分。 http://github.com/perplexityai/pplx-garden
内容层级精选情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:Perplexity (@perplexity_ai)
站内情报编号intel-161d087d0ea27fba4760955f