// AI 新闻 · 2026-10-30 · Amazon Science
亚马逊科研团队优化语言模型提升旅行应用性能
亚马逊科学家与Booking.com合作，将知识蒸馏（KD）与Medusa框架结合应用于旅行类语言模型，显著提升响应速度与成本效率。该方法在保持Llama-3.1质量的前提下，使11亿参数的TinyLlama模型运行速度达原模型的10至20倍。
原文发布 2026-10-30 00:51（北京时间）来源 Amazon Science自动整理 · 已核对原文
01摘要
在具体场景中，Smart Filters对99%查询的响应提速15倍；AI Trip Planner用户参与度提升2.9%，住宿描述生成获得更高“有用性”评分，且成本低于其他模型。
由开源模型根据原文自动整理，经数字/专名逐项核对（必须在原文中出现），以原文为准。
02要点
- 结合知识蒸馏与Medusa框架，使11亿参数模型在保持Llama-3.1质量的同时运行速度提升10至20倍。
- 在Smart Filters中，响应速度提升15倍，知识蒸馏单独实现学生-教师质量差距缩小超90%。
- AI Trip Planner用户参与度提升2.9%，住宿描述生成获得更高“有用性”评分且成本更低。
- 该技术已在ACL会议发表并获行业最佳论文奖，适用于高并发旅行平台的实时推理场景。
03原文出处
Speeding up language models for travel applications
Amazon Science · 发布于 2026-10-30 00:51（北京时间） · 上方为原标题
05同主题新闻
出自智图 AI 新闻：从 1100 多个官方与媒体信源采集。摘要只转述原文内容，详情请看原文。 全部 AI 新闻 · 今日