AI圈报
产品发布 / 更新精选

OrcaRouter-Lite 开源:自托管LLM路由工具,支持自动选择最低成本模型

信息来源:X:Kim (@kimmonismus)·
原始标题:OrcaRouter-Lite just launched open source. MIT. BYOK. Self-hosted. Zero markup. The real unlock: m…

内容摘要

OrcaRouter-Lite 现已开源,这是一个采用MIT许可、可自托管的大型语言模型路由工具。它支持用户自带密钥,无需外部数据库,并能对接OpenAI、Anthropic、Google、Groq等多种服务提供商。其核心创新是model="auto"模式,可自动为每次请求选择成本最低且能力匹配的模型,并具备跨提供商的确定性提示缓存功能,使得重复的相同请求能在毫秒内以零成本返回。该项目旨在解决开发团队手动编写复杂模型选择逻辑的痛点,通过简单的Docker部署即可实现路由功能,托管版本将于本周稍晚推出。
内容层级精选情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:Kim (@kimmonismus)
站内情报编号intel-1791cca4d4e26dcd6e436509