倫理與 AI
載入中
倫理與負責任的 AI 使用 · 10 min
摘要逐字稿
這部影片將帶您了解委派—審慎循環。您將看到 Okafor 女士，一位七年級的科學老師，如何使用 AI 來協助她處理數據並改善她的教學。您將看到驗證與謹慎處理學生數據如何確保 AI 以負責任且合乎倫理的方式被使用。
委派 ↔ 審慎循環
外層循環構成了每一次 AI 互動的框架：您事先決定什麼是適合交出去的——正確的任務、正確的工具、正確的數據。之後，您要為回傳的結果負責。
Delegation決定一開始什麼值得交給 AI 處理。
Diligence驗證、歸因，並對最終成果負責。
決定什麼適合交出去。 事先決定：帶給 AI 的正確任務、工具與數據——以及哪些應該留在您自己手上。
交出去外層循環驗證
對回傳的結果負責。 根據您所知道的進行驗證，對 AI 的角色保持透明，並為結果負責。
快速檢查
您決定數據工作中哪些部分可以安全地交給 AI，哪些必須留在您自己手上。這是哪一個動作？
重點整理
- 像 FERPA 這樣的數據保護規範也適用於 AI 工具。 對於任何涉及學生資訊的事項，只使用學區核准的工具。
- 負責任的 AI 使用需要教學專業判斷。 您將需要應對政策未涵蓋的灰色地帶。
- 您的價值觀早已引導著您的教學。 將它們與 AI 連結起來：決定您不會委派什麼，以及「有用」對您而言意味著什麼。
- 合乎倫理的 AI 使用是持續進行的。 隨著學生、情境與工具的變化，重新審視您的承諾。
練習
闡明您作為教育者的倫理界線
負責任地使用 AI 不僅僅是遵守規則；它關乎在政策無法給出明確答案的灰色地帶中做出倫理判斷。找出對您而言最重要的考量，並將它們轉化為您能夠堅守的承諾。
第一部分：找出倫理張力
思考您作為教育者的角色以及您所服務的學生，從下方選擇一到兩個對您目前而言最重要、或最懸而未決的考量——或其他您認為重要的事項——並簡短記下它在您的情境中為何重要。
- 依賴性： 什麼時候依賴 AI 可能會取代學生本應自己完成的思考？
- 去社會化： 什麼時候 AI 可能會取代人際互動、協作或關係建立？
- 偏見： 什麼時候 AI 可能會強化狹隘的觀點、刻板印象或既有的不平等？
- 學生自主性： 誰掌控 AI 的使用方式：學生、教育者，還是系統？
- 使用機會的公平性： 誰從 AI 中受益，誰可能因為取得機會或資源不足而被排除在外？
- 環境影響： AI 系統的能源使用、運算需求或規模，在您的倫理決策中扮演什麼角色？
第二部分：草擬您的倫理承諾
將您所指出的張力轉化為承諾，並將它們加入您在《4D 框架》課程中建立的情境文件。牢記您所選擇的考量，用您自己的話完成以下內容：
- 為了防範該考量，我不會委派與以下事項相關的決策：（例如：最終判斷、關係性回饋、高風險評估）
- 當 AI 能幫助我或我的學生（例如：練習、探索想法、突破卡關）——且不會加劇我所指出的張力時，AI 在我的實務中是有用的。
- 當我不確定某項 AI 使用是否合乎倫理時，我會：（例如：暫停、諮詢同事、查閱學區指引、謹慎試行）
您剛剛草擬了一個個人的倫理立場，這是任何工具都無法替您完成的事。隨著您的學生、情境與工具的變化，請重新審視它。
課程反思
- 您將對處理 AI 數據的方式做出哪一項具體改變——以及哪些工具實際上是被核准使用的？
- 想想您最常進行的數據工作：分析學生表現、檢視出席狀況、解讀調查結果。在這個過程中，您認為 AI 可以真正提供幫助的地方在哪裡？又有哪些地方您認為人類判斷太重要而不能交出去？
接下來
在下一課中，我們將探討不同的 AI 模型有何差異，您也將建立一份個人 AI 價值文件：定義您如何與 AI 合作的意圖、原則與界限。