背景 隨著大型語言模型與代理式系統逐漸從實驗室走入核心業務流程，工程團隊面臨的挑戰不再僅止於模型精度或提示詞優化。當 AI 系統獲得檢索內部文件、生成生產程式碼、甚至透過工具自主執行操作的能力時，工程風險與治理難度呈指數級上升。團隊必須清楚掌握：系統存取了哪些資料、被授權執行哪些動作、輸出結果如何驗證、失敗時由誰負責。這些問題在受控測試環境中或許可被暫時擱置，但在 CI/CD 管線、敏感資料存取、跨系統權限邊界等真實生產場景中，任何疏漏都可能演變為安全事件或運維事故。InfoQ 將於 2026 年 10 月 14 日舉辦的免費線上研討會「AI in Production: What Breaks, What Works, and Who Approves It?」，正是針對這條從示範到上線的關鍵鴻溝，邀請五位深耕生產級 AI 系統的實務專家進行六十分鐘的深度座談。
核心內容 此次座談由 Hien Luu 主持，他擔任 QCon AI New York 2026 主席，曾領導 DoorDash 與 Zoox 的機器學習平台團隊，也是《MLOps with Ray》作者，現任 InfoQ 認證 AI 工程課程講師，對 RAG 管線、代理系統、AI 平台與可靠性工程具備全棧視角。四位專家分別代表隱私安全、代理工程、治理決策與生產 RAG 四大關鍵面向：Katharine Jarmul 專精機器學習與 AI 系統的隱私與安全，著有《Practical Data Privacy》，主導 InfoQ 認證 AI 安全與隱私工程課程，將聚焦敏感資料存取控制與威脅建模；Zichuan Xiong 為 Thoughtworks 首席顧問，涉獵領域驅動設計、資料網格與代理式系統，協助推動 InfoQ 認證 AI 輔助工程課程，將剖析程式碼代理在交付流程中的驗證機制；Premanand Chandrasekaran 擁有近三十年軟體團隊領導經驗，合著《Domain-Driven Design with Java》，同為 AI 輔助工程課程講師，將討論代理跨越軟體交付生命週期時的權限閘門與治理決策；Lan Chu 為 AI 技術主管兼資深資料科學家，具備七年以上生產級資料與 ML 管線經驗及三年生成式 AI 產品落地實戰，曾在 QCon London 2026 發表「Beyond the Demo: RAG Is Easy, Production RAG Is Not」，將分享超越萬份文件規模的檢索可靠性實踐。
技術與脈絡解讀 座談將圍繞五大核心議題展開，這些議題精準對應生產級 AI 系統從架構到治理的完整鏈路。首先是代理自主權的劃界：哪些動作允許代理自主執行，哪些必須保留人工核准？這不僅是技術配置問題，更關乎風險承擔主體的法律與組織定義。其次是驗證機制：AI 生成的程式碼或配置變更在進入 CI 或抵達生產環境前，團隊如何建立自動化與人工結合的檢查點？Zichuan Xiong 與 Premanand Chandrasekaran 的背景暗示，討論將深入代理生成產物的靜態分析、測試生成與部署前閘門設計。第三是資料暴露風險：RAG 管線在檢索企業內部知識庫時，如何識別並隔離受監管資料（PII、商業機密、醫療金融記錄等），Katharine Jarmul 的威脅建模與護欄觀測經驗將提供具體防護框架。第四是生產級 RAG 與平台工程：Lan Chu 的實戰經驗揭示，示範階段的向量檢索往往忽略文件切分策略、元資料過濾、重排序模型維護、查詢改寫與線上評估指標等工程細節，這些才是決定系統長期可用性的關鍵。最後是內部溝通與預防性治理：如何在事故發生前，向管理層與合規單位說明必須投入資源建立更強控制機制的必要性，這考驗工程師將技術風險轉譯為商業語言的能力。
影響與限制 此次研討會採即時問答形式，參會者可透過報名表單或 Zoom Q&A 提問，主持人與專家將共同準備初始議題並動態調整討論方向。這種形式的優勢在於呈現多元權衡背後的推理過程，而非提供單一標準答案，讓與會者能對照自身系統架構、風險偏好與組織限制進行比較。錄影檔將提供給所有註冊者，解決時區衝突與排程衝突問題。不過，六十分鐘的座談長度限制了技術細節的深度挖掘，無法替代完整的工作坊或認證課程；專家陣容雖涵蓋平台、安全、代理、治理與 RAG 五大面向，但缺乏特定垂直領域（如醫療、金融、製造）的合規實務視角；此外，討論重心偏向架構決策與組織流程，對於模型微調、推理優化、硬體成本控制等純技術優化議題著墨較少。對於正在建立 AI 平台團隊、制定代理治理政策、或遭遇 RAG 系統在規模化後穩定性下降的工程師與技術主管而言，這場研討會提供難得的同儕經驗參考，但後續仍需結合具體業務場景進行落地驗證。
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。