AI圈报
产品发布 / 更新精选

Answer.AI 开源 cachy,让 notebook 中 LLM 调用快 60 倍

信息来源:Answer.AI 官方研发博客(RSS)·
原始标题:Cachy: How we made our notebooks 60x faster.

内容摘要

Answer.AI 发布开源 Python 包 cachy(pip install pycachy),通过补丁 httpx 的 send 方法,把 Anthropic 和 OpenAI SDK 的 LLM 调用响应自动缓存到本地并在相同请求时复用,无需编写 mock。
内容层级精选情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源Answer.AI 官方研发博客(RSS)
站内情报编号intel-24e895d0178b11d9ff54a49d