// AI 新闻 · 2026-11-15 · Hugging Face Forum

小LLM决策API与本地树模型性能对比研究

Hugging Face论坛一项基准测试显示，将结构化特征向量输入LLM进行评分和解释存在显著延迟。在64维特征、50至500棵树的场景下，单行梯度提升树和随机森林评分耗时仅0.24-0.65毫秒（p50），而启用精确TreeSHAP解释后，300棵树模型的延迟飙升至192.5毫秒（p50），远超LLM调用成本。

阅读原文（Hugging Face Forum）↗

原文发布 2026-11-15 03:41（北京时间）来源 Hugging Face Forum自动整理 · 已核对原文

01摘要

测试发现，TreeSHAP计算复杂度为O(T * L * D²)，随树深度平方增长，导致边缘案例下性能急剧下降。GraalVM原生镜像中，300棵树随机森林在TreeSHAP计算时出现因路径分配触发串行GC的延迟峰值，而HotSpot G1GC可将p99延迟控制在2.88毫秒以内。

由开源模型根据原文自动整理，经数字/专名逐项核对（必须在原文中出现），以原文为准。

02要点

结构化特征向量通过LLM端点评分存在1.5%拒绝率，且解释结果非真实特征归因。
精确TreeSHAP在64维、300棵树模型中使延迟从0.41ms升至192.5ms（p50），远超实际需求。
GraalVM原生镜像下，TreeSHAP触发串行GC导致部分请求延迟达34毫秒，影响实时性。
建议在生产中对树模型深度进行限制，优先使用浅层提升树，并将特征归因异步处理。

03原文出处

Benchmarking System One small LLM decision APIs vs. in-process tree ensembles and exact TreeSHAP on 64-feature tabular payloads

Hugging Face Forum · 发布于 2026-11-15 03:41（北京时间） · 上方为原标题

05相关新闻

出自智图 AI 新闻：从 1100 多个官方与媒体信源采集。摘要只转述原文内容，详情请看原文。 2026-11-15 全部新闻 · 按日期归档 · 全部 AI 新闻 · 今日

01摘要

02要点

03原文出处

04站内相关

相关产品与工具

05相关新闻