产品发布 / 更新普通
llama.cpp 支持端侧运行决策模型
原始标题:Decision models now run on device in llama.cpp. Free, fast, private!
内容摘要
决策模型现在可以在 llama.cpp 上端侧运行了。免费、快速、私密! llama serve -hf ggml-org/Kev-4B-GGUF
内容分类AI 产品发布与更新
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:Clément Delangue(Hugging Face CEO) (@ClementDelangue)
站内情报编号intel-f1e348ac7d0354d34fa0b9f2