跳到正文
Hugging Face Daily Papers·· 26 天前AI 评分51

SWE-Bench Pro Verified:面向软件工程智能体的可靠评测基准

SWE-Bench Pro Verified: A Reliable Benchmark for Software Engineering Agents

阅读原文

本站未展示全文,请前往来源网站阅读。

AI 导读

论文发布 SWE-Bench Pro Verified,针对 SWE-Bench Pro 的两类可靠性问题做修正,形成更可信的软件工程智能体评测基准。原基准的问题一是奖励攻击,源自定义解法或隐藏评测信息泄漏;二是任务质量,包括问题陈述误导与测试范围不当,这些都会抬高分数。

来源:Hugging Face Daily Papers · arxiv.org