AI 导读
Ethan Mollick 引用 @arcprize 数据称,Gemini 4 Argon 在 ARC-AGI-3(Verified)上取得 97.5%(provider adapter harness,成本 $4.8K,标准 harness 下为 49.8%),ARC-AGI-2 得分 91.3%,ARC-AGI-1 得分 98.5%,Google DeepMind 是第二个在 ARC-AGI-3 上得分超过 95% 的前沿 AI 实验室。他认为 harness 加上更强模型意味着最后一批著名困难基准走向终结:模型已能工作极长时间(METR Long Tasks)、输出数学正确的专业文档(GDPval)并解决复杂新谜题(ARC-AGI-3)。
推荐理由
作者以 Gemini 4 Argon 在 ARC-AGI 的高分为例,讨论著名困难基准相继失效的趋势,附成本对比数据。
正文
Harnesses + smart models = the end of the last famous hard benchmarks.
Models can now work for extremely long times (bye, METR Long Tasks), they can output professional documents with correct math (so long, GDPval) and they can solve complex novel puzzles (farewell, ARC-AGI-3).
Gemini 4 Argon from @Google on ARC-AGI (Verified): - ARC-AGI-3: 97.5%, $4.8K (provider adapter harness), 49.8%, $5.8K (standard harness) - ARC-AGI-2: 91.3%, $0.32/task - ARC-AGI-1: 98.5%, $0.16/task Google DeepMind is the second frontier AI lab to score above 95% on ARC-AGI-3.在 X 查看被引用的帖子
来源:Ethan Mollick · x.com