// AI 新闻 · 2026-11-12 · Google Cloud

Lemonflow 使用 Gemma 和 TPU 构建 EV 充电实时代理

Lemonflow 在2025年欧洲电动汽车市场快速增长背景下，为解决充电失败率高（15%至25%）及用户响应延迟问题，构建了面向分布式硬件的实时对话AI代理。其支持代理每90秒服务一名驾驶员，覆盖90种语言，通过电话、聊天、邮件和WhatsApp提供即时帮助。

阅读原文（Google Cloud）↗

原文发布 2026-11-12 01:00（北京时间）来源 Google Cloud自动整理 · 已核对原文

01摘要

公司迁移至自托管模式，将开源Gemma 4模型部署于Google Cloud TPU v6e硬件上，以满足严格延迟要求（800毫秒以内）和高峰时段的计算需求。系统通过定制化优化vLLM服务引擎、实现TPU与主机内存间的内存分层，提升了单个TPU切片承载的运营商代理数量，确保高并发场景下低延迟响应，并统一了30种不同充电管理系统（CPMS）的接口协议，支持多变的运营规则和时间维度下的个性化行为。

由开源模型根据原文自动整理，经数字/专名逐项核对（必须在原文中出现），以原文为准。

02要点

Lemonflow 部署Gemma 4模型于Google Cloud TPU v6e硬件，实现超低延迟实时交互，服务延迟控制在800毫秒以内。
系统通过自托管架构解决高峰时段API瓶颈和计算资源不足问题，避免HTTP 429错误及服务中断。
代理平台支持30种不同充电管理系统接口，统一协议后桥接至内部标准格式，提升跨系统兼容性。
采用定制vLLM服务引擎与内存分层技术，使单个TPU切片可高效承载多个运营商专属代理，保障并发响应能力。

03原文出处

How lemonflow built real-time agents for EV charging using Gemma and TPUs

Google Cloud · 发布于 2026-11-12 01:00（北京时间） · 上方为原标题

05相关新闻

出自智图 AI 新闻：从 1100 多个官方与媒体信源采集。摘要只转述原文内容，详情请看原文。 2026-11-12 全部新闻 · 按日期归档 · 全部 AI 新闻 · 今日

01摘要

02要点

03原文出处

04站内相关

相关产品与工具

05相关新闻