跳到正文
原文
InfoQ 中文· 作者:Aditya Mulik·· 3 小时前AI 评分62

生产级大模型平台工程实战手册:从15%到1.5%幻觉率的架构转型

生产级大模型平台工程实战手册

AI 导读

一家大型零售企业的库存准确性平台将LLM能力下沉为共享平台层,六个月把智能体幻觉率从约15%降到1.5%,关键不是换更强的基础模型。平台以网关为唯一入口,用ADK编排根协调智能体与专家智能体,通过LiteLLM切换Gemini、GPT等模型,工具服务基于MCP部署。

来源:InfoQ 中文 · infoq.cn