PrismLib：语义 LLM 缓存与集群网格，削减 token 开销
PrismLib – semantic LLM cache and cluster mesh that cuts token spend
阅读原文
本站未展示全文，请前往来源网站阅读。
AI 导读
PrismLib 是一款语义 LLM 缓存与集群网格工具，用于削减 token 开销。该工具通过语义缓存与集群网格机制降低大语言模型的 token 消耗。
来源：github.com（经 Hacker News） · github.com