AI圈报
产品发布 / 更新普通

Perplexity 发布 Orchestrator API,支持 KV cache 兼容的决策模型路由

信息来源:X:Aravind Srinivas(Perplexity CEO) (@AravSrinivas)·
原始标题:KV-cache compatible decision-model based routing on Perplexity Orchestrator API

内容摘要

Perplexity 推出 Orchestrator API,一个 API 提供 45+ 开源权重和专有模型,带自动 provider 故障切换和统一计费。与通用模型路由不同,该 API 兼容 KV cache,并由用户决定哪些任务使用哪些模型;例如把 fable 5.2 拒答的安全与生物学任务路由到 gpt-6.1 sol 后,terminal-bench 4.1 解题数从 38 提升到 41(共 63)。
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:Aravind Srinivas(Perplexity CEO) (@AravSrinivas)
站内情报编号intel-0dfe1b9a106cfa1da27fbd63