背景
AI 產品逐漸從實驗性質的專案走向正式系統，但許多團隊對於如何保護敏感資料、如何驗證 AI 系統的安全性，仍然缺乏系統性的做法。另一方面，編碼代理（coding agent，指能夠自主理解需求並修改程式碼的 AI 工具）開始進入開發流程，它們可以快速產生變更，但這些變更是否被允許、是否正確，卻不容易確認。InfoQ 在 2026 年 10 月推出兩個為期五週的線上認證課程，分別針對這兩個問題。
AI Security & Privacy Engineering 課程將於 10 月 26 日開始，由 Katharine Jarmul 主持。AI-Assisted Engineering 課程則在 10 月 19 日開始，由 Thoughtworks 的 Zichuan Xiong 與 Premanand Chandrasekaran 共同主持。兩個課程的目標對象都是已經具備實務經驗的工程師與技術管理者，讓參與者有時間在講師與來自其他組織的同儕協助下，實際應用這些方法。
核心內容
Jarmul 是《Practical Data Privacy》的作者，長期關注機器學習與 AI 系統中的隱私和安全議題，也曾經在 InfoQ Dev Summit Munich 2025 擔任開幕演講者。課程的核心理念是：AI 安全審查必須跟隨資料與決策在整個系統中的流動路徑。參與者會帶入自己目前工作中遇到的問題，追蹤敏感資訊從哪個環節進入 AI 工作流程、可能流向何處。課程使用威脅建模（threat modeling，系統性識別系統可能遭受的攻擊方式）與紅隊測試（red teaming，以攻擊者視角主動尋找系統弱點）來檢視架構，接著測試控制措施，並思考系統必須讓哪些失敗可見。小組專題要求參與者評估一個 AI 產品架構，說明識別出的風險、選擇的控制措施、這些控制措施要如何測試，以及由誰來承擔決策責任。
Xiong 自 2008 年起就參與架構與交付工作，目前專注於建構軟體營運的代理系統；Chandrasekaran 則有二十年帶領工程團隊的經驗，專注於持續交付與內部品質。這個課程使用一個共享的既有程式碼庫（brownfield repository，指已經存在大量程式碼、並非從零開始的專案）作為練習環境。參與者要學習為代理建立上下文、限制其權限、加入測試與感測器，並在將檢查移入持續整合（CI，Continuous Integration，指每次程式碼變更都自動執行建置與測試的流程）之前，先將程式碼生成與人工審查分離。課程的工程問題核心在於：編碼代理可以快速做出變更，但更難回答的是它被允許做什麼，以及我們如何知道這個變更是健全的。參與者最後要展示最終建構的測試框架（harness，指包住代理的一套驗證與防護機制），並提交一個從重複出現的審查發現中提煉出的規則或代理技能，同時將五週的記錄結果與最初的預測進行比較。
這兩個課程都設有保密同行小組，參與者可以在小組中與來自不同組織、面對不同限制的資深工程師交流。例如，可以探討某個控制措施是否真的解決了它被選來解決的風險，或者展示測試框架捕捉到了什麼，以及記錄結果是否支持原本的預測。這種設計讓參與者不只是聽課，而是在真實問題上應用方法，並從其他人的經驗中獲得回饋。
技術與脈絡解讀
從實務意義來看，這兩個課程反映了當前 AI 工程領域的兩個關鍵趨勢。第一，AI 安全不能只靠事後掃描或單一工具，必須從資料流入系統的那一刻就開始追蹤，並明確指派風險的擁有者。第二，編碼代理的引入不只是工具替換，而是改變了開發流程本身，團隊需要重新設計檢查機制，讓自動化與人工審查各司其職。課程的設計也顯示，驗證工作不是一次性的活動，而是需要持續記錄、比較預期與實際結果的長期過程。
影響與限制
不過，這兩個課程也有其限制。它們是線上認證課程，雖然提供與講師和同儕互動的機會，但無法完全取代在真實組織中推動變革的經驗。課程的成果很大程度取決於參與者是否真的帶入自己工作中的問題，以及在五週內投入的時間與精力。此外，課程聚焦於方法與流程，對於特定工具或平台的深入操作著墨可能有限。有興趣的讀者可以參考 InfoQ 網站上 AI Security & Privacy Engineering 與 AI-Assisted Engineering 的課程頁面，取得完整的課程大綱與報名細節。
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。