Doc2Harness:面向编程智能体长程 harness 工程的 LLM 基准测试
Doc2Harness: Benchmarking LLMs on Long-Horizon Harness Engineering of Coding Agents
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
Doc2Harness 是一个两阶段基准,直接评测长程 harness 工程能力:Stage 1 中构建模型在固定 builder harness 内、依据仅含接口的契约骨架和整合十二个前沿 harness 行为的开发文档,在隔离容器中构建完整候选 harness;Stage 2 用脚本化 mock 模型端到端驱动冻结的候选 harness。
来源:Hugging Face Daily Papers · arxiv.org