Apple 提出 SSR:基于选择的结构化推理,让多模态搜索智能体推理延迟降低 90%
Selection-Based Structured Reasoning: Toward Efficient Multimodal Search Agents
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
Apple 研究团队提出 Selection-based Structured Reasoning(SSR),将多模态智能体的推理从开放式生成改为从预设自然语言候选推理中做选择,无需辅助任务头,并借助共享上下文 KV cache 并行打分。在 2B 和 4B 模型、七个多模态搜索基准上,SSR 平均成功率与同规模领先搜索智能体相当,单轮推理延迟降低超 90%,每题模型总推理延迟降低 28–54%。
来源:Apple Machine Learning Research · machinelearning.apple.com