Ask HN:如何判断 LLM API 是否在返回质量下降的响应
Ask HN: How do you find out if the LLM API is giving degraded responses
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
一位开发者在 Hacker News 提问:当 OpenAI、Claude、Gemini 等 LLM API 出现 TTFT 变慢、错误率升高、超时,甚至模型输出漂移时,如何及时发现?
来源:Hacker News · news.ycombinator.com