视频为何仍然如此昂贵?视频与音视频 LLM 推理效率机制综述
Why Is Video Still So Expensive? A Survey of Inference-Efficiency Mechanisms in Video and Audiovisual LLMs
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
一篇综述系统梳理了 VideoLLM 的推理效率机制,覆盖帧采样、模态编码、连接器层 token 压缩以及 LLM 预填充与解码各阶段的瓶颈。研究按方法作用的流水线阶段进行归类,涵盖 2022 年底以来的 VideoLLM 及更早的帧采样与视觉编码器机制,并汇总了共享宿主模型与输入协议下的精度—成本对比,指出音视频效率与标准化评测仍存空白。
来源:Hugging Face Daily Papers · arxiv.org