提示快取是一項功能，透過重複使用先前請求的運算工作，加快 Claude 的回應速度並降低文本生成的成本。Claude 不會在每次請求後丟棄所有處理工作，而是可以在您再次發送類似內容時儲存並重複使用這些工作。
Claude 通常如何處理請求
為了理解提示快取，讓我們先看看在未啟用快取的情況下，典型請求期間會發生什麼事。
當您向 Claude 發送訊息時，它不會立即開始生成回應。相反，Claude 會對您的輸入執行大量的預處理工作：
- 對提示進行分詞（將文本分解成較小的單位）
- 為每個 token 建立嵌入（數學表示）
- 根據周圍文本新增上下文
- 只有在此之後才生成實際的輸出文本
在向您發送回應後，Claude 會丟棄所有這些運算工作。一切都被丟棄，Claude 宣告自己已準備好處理下一個請求。
重複內容的問題
這就是效率低下的地方。想像您正在與 Claude 進行對話，因此您的後續請求包含：
- 之前相同的原始使用者訊息
- Claude 先前的回應
- 您的新後續訊息
Claude 必須重新處理那個原始訊息，即使它剛剛才分析過完全相同的內容。Claude 可能會這樣想：「我剛剛處理過那則訊息，卻丟棄了我所做的所有工作。我本可以重複使用它的！」
提示快取如何解決這個問題
提示快取改變了這種浪費的過程。Claude 不會丟棄預處理工作，而是將其儲存在快取中。
運作方式如下：
- 初始請求： Claude 處理您的訊息，並將運算工作寫入快取
- 後續請求： 當 Claude 再次看到相同的內容時，它會從快取中讀取先前處理過的工作，而不是從頭開始
快取就像一個查找表：「如果我再次看到這則訊息，我會重複使用我已經完成的這項工作。」
主要優點與限制
提示快取提供了幾項優勢：
- 更快的回應： 使用快取內容的請求執行速度更快
- 更低的成本： 對於重複使用快取工作的處理，您支付的費用更少
- 自動優化： 初始請求寫入快取，後續請求從快取讀取
然而，有一些重要的限制需要注意：
- 生命週期短： 快取僅存活 5 分鐘
- 需要完全匹配： 僅在您重複發送相同內容時才有用
- 常見使用案例： 這種情況在對話式應用程式和文件分析工作流程中極為頻繁發生
對於使用者經常在短時間內參考相同文件、繼續對話或對類似提示進行迭代的應用程式，提示快取特別有價值。