AI圈报
模型发布 / 更新普通

Baseten 发布 3B 以下决策模型 joey-1,2,000-token 请求 P50 延迟 20 ms

信息来源:Baseten 工程博客(网页)·
原始标题:Decisions for a penny: introducing joey-1, our fastest decision model

内容摘要

Baseten Base Labs 发布决策模型 joey-1,直接以单 token 和校准概率返回决策结果,称内部测试中为 3B 及以下参数最强决策模型。2,000-token 请求 P50 端到端延迟 20 ms,约比 elephant-1(49 ms)快 2.5 倍,价格为每百万 token $0.01、是 mammoth-1 的十分之一。
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源Baseten 工程博客(网页)
站内情报编号intel-a63b6a35535c35515dd7c740