教程 / 实战普通
Perplexity 详解其 GPU 嵌入栈:Ivy、Tulip 与 ROSE 如何支撑 pplx-embed
原始标题:Perplexity Details Its GPU Embedding Stack: How Ivy, Tulip and ROSE Serve pplx-embed
内容摘要
Perplexity 工程团队发文详解其嵌入模型服务架构,通过复用 LLM 的 prefill/decode 内核,以 Ivy、Tulip 和 ROSE 三个服务支撑 pplx-embed。