Relay：具备智能路由与请求限流的自托管 LLM 网关
Show HN: Relay——一款具备智能路由和请求限流功能的自托管式大语言模型网关
阅读原文
本站未展示全文，请前往来源网站阅读。
AI 导读
Relay 是一款自托管 LLM 网关，主打智能路由与请求限流（request pacing）两项能力。项目以 Show HN 形式发布在 GitHub，HN 上获得 1 个积分。
来源：github.com（经 Hacker News） · github.com
Show HN: Relay——一款具备智能路由和请求限流功能的自托管式大语言模型网关
本站未展示全文，请前往来源网站阅读。
Relay 是一款自托管 LLM 网关，主打智能路由与请求限流（request pacing）两项能力。项目以 Show HN 形式发布在 GitHub，HN 上获得 1 个积分。
来源：github.com（经 Hacker News） · github.com