模型发布 / 更新普通
Baseten 发布 3B 以下决策模型 joey-1,2,000-token 请求 P50 延迟 20 ms
原始标题:Decisions for a penny: introducing joey-1, our fastest decision model
内容摘要
Baseten Base Labs 发布决策模型 joey-1,直接以单 token 和校准概率返回决策结果,称内部测试中为 3B 及以下参数最强决策模型。2,000-token 请求 P50 端到端延迟 20 ms,约比 elephant-1(49 ms)快 2.5 倍,价格为每百万 token $0.01、是 mammoth-1 的十分之一。
内容分类AI 模型发布与更新
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源Baseten 工程博客(网页)
站内情报编号intel-a63b6a35535c35515dd7c740