亚马逊与 Booking.com 用 KD+Medusa 加速旅行 LLM

2026年10月30日，Amazon Science 发布消息称，亚马逊科学与 Booking.com 合作，将知识蒸馏与 Medusa 并行解码结合，用于旅行场景的大语言模型加速。具体做法是把 70B 的 Llama-3.1 教师模型压缩为 1.1B 的 TinyLlama 学生模型，并应用于 AI Trip Planner、Smart Filters 和住宿描述生成三个功能。报道称，该方案在这三个功能上保持了教师模型的质量，成本降至不到三分之一，速度提升 10 至 20 倍。这是该事件目前唯一一篇报道，尚无其他来源对上述数字或效果作出独立说明。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。