在 2026 年，衡量一个 AI 后端工程师（Gopher）水平的标准，除了看他能写出多复杂的 Agent 逻辑，更要看他能否在保障性能的同时，把 Token 成本降到极致。

随着 RAG 和长上下文应用的普及，Prompt Caching（提示词缓存） 已成为后端架构中的“省钱神技”。今天我们就来聊聊，作为 Go 开发者，在实战中应如何最大程度地利用厂商的缓存机制。

要利用缓存，首先要明白它的“脾气”。目前的缓存机制主要分为两类：