生产级LLM的平台工程实战手册

📋总体概括

InfoQ刊登作者Aditya Mulik的实践文章，讲述其在库存推荐系统中遭遇AI智能体幻觉问题后，将LLM技术栈从应用层问题重新定位为平台基础设施问题加以解决的经验。文章主张建设共享LLM平台，统一提供提示词注册与版本管理、Schema强制校验、按请求的Token成本归因等公共服务，为生产级LLM应用的平台工程化提供了可复用的方法论。