跳到正文
Dongxi 东锡 NLP· @dongxi_nlp · X·· 2 小时前AI 评分59
AI 导读

Hamel Husain 发布博客教程,讲解如何为评测任务选择决策模型、调整其阈值(并提醒不要默认 0.5 就是好的),以及如何解读其分数,配有交互式图表。

正文

好文!

近段时间涌现出“决策模型”,如:

TypeSafe 的 Jev
Perplexity 的 Decider
Cloudflare 的 Clef
OpenAI 的 Decisions API

输出概率而非长文本,常被用作 LLM-as-a-Judge 的替代方案。

如何用这些决策模型做 Evals,推荐读这篇!

引用Hamel Husain@HamelHusain
New blog post 🎉: How To Use Decision Models For Evals In this post, we show you how to choose a decision model for your task, tune its threshold (don't assume the 0.5 default is good!), and interpret its scores. Lots of cool interactive charts here. https://x.com/i/article/2112552453422104576
在 X 查看被引用的帖子

来源:Dongxi 东锡 NLP · x.com