載入中

Evals 簡介

在您自己的資料上建立一個小型 eval,依準確度優先、成本次之來選擇 Claude 模型,在升級模型之前先修正提示,並在上線後持續檢查。

1 小時1 個測驗
您將學到的內容完成本課程後,您將能夠
  • 根據一個錯誤答案會造成的代價,設定準確度下限
  • 依每項已完成任務的成本,選擇能達到您下限的最低成本模型
  • 使用您自己的資料建立一組小型案例集,並附上預期答案
  • 使用程式碼評分精確欄位,使用 LLM 評審與評分標準評分自由文字
  • 在升級模型之前,根據失敗案例修正提示
  • 當 pull request 上的 smoke eval 分數過低時,封鎖合併
  • 在沒有人等待時,透過 Batch API 執行完整套件
  • 透過每晚對即時流量抽樣評分來捕捉漂移

沒有任何已發表的模型比較看過您的提示。Eval 是針對您自己的案例所做的測試,能給您一個用來決策的數字。四堂主要課程中的每一堂都會先播放一段短片,接著展示 Meridian(一家虛構的工程顧問公司)如何為一則提示建立並執行 eval。在這四堂課中的三堂,您會找到負責執行每項工作的程式碼、提示或工作流程檔案中的那一行。沒有腳本可供下載。之後,您將以同樣的方式建立自己的 eval。完成本課程後,您將能夠根據證據選擇模型與提示,並在上線後持續檢查。通過評分測驗即可獲得完課徽章。

本課程適合誰

如果您已經有一個可運作的提示,但還沒有經過評分的 eval,本課程就適合您。課程內容僅限於以單次呼叫 Messages API 執行的提示,不涵蓋評估代理程式或測量延遲。

先決條件

除非您已經能夠呼叫 Messages API 並讀取其回應,否則請先修習 Claude Platform 101。程式碼使用 Python,另外在「正式環境中的 Evals」課程中有一個以 YAML 撰寫的 GitHub Actions 工作流程。只要能讀懂即可。該課程假設您了解 pull request 與 CI 檢查。您自己的 eval 需要一個 Claude Console 帳戶、一組 API 金鑰,以及附有預期答案的真實輸入。