背景與問題
InfoQ 於 2026 年 11 月 16 日刊出 Purnang Borah 撰寫、Rafał Gancarz 審閱的文章,討論受監管公用事業如何導入代理式人工智慧(agentic AI,能分解任務、檢索知識並呼叫工具的 AI)處理維運。公用事業的資訊科技與平台團隊往往不缺訊號:應用程式日誌、基礎設施指標、API(Application Programming Interface,應用程式介面)遙測、安全事件、作業失敗、服務管理單與業務警示,都在描述同一個運作環境。真正的難題是即時串連這些分散證據,判斷發生了什麼、會影響哪些服務,以及下一步該怎麼做。代理式人工智慧的吸引力正在於它能跨來源推論,但在公用事業場景中,錯誤摘要只是不方便,錯誤的生產動作卻可能影響客戶服務、安全相關流程、法規報表,甚至可靠的電力交付。
控制面:把推理權與執行權分開
文章提出的核心模式是 AI 控制面(AI control plane,用來決定與限制動作的控制層),概念借用自網路與雲端基礎設施:控制層決定應該發生什麼,執行層負責真正落地。推理面(reasoning plane,負責分析與提議)中的編排器與領域代理可以關聯事件、查閱歷史事故、估算業務影響、預測可能的故障模式,並提出修復建議;但它們不能直接變更生產系統。提案必須通過確定性政策開關(deterministic policy gate,相同輸入依固定規則得到相同判斷,不隨模型主觀判斷改變)與受治理工具閘道(governed tool gateway,代理通往生產系統的唯一入口),才可能形成真實變更。
這個邊界定義在模型之外。每個候選動作會對應到版本化動作目錄(action catalog,預先列出工具、環境、授權範圍、風險等級、核准方式、逾時、前置條件、後置條件與回滾資料)中的某個風險類別與核准要求。模型可以提出任何建議,但不能因為自己很有信心就把高風險動作降級。在 Amazon Web Services(AWS,亞馬遜雲端服務)的參考實作中,Amazon Bedrock AgentCore(代理執行與治理平台)提供管理式代理執行環境、記憶、閘道、身份與可觀測性整合;Amazon Bedrock(模型存取服務)負責模型存取;Bedrock Knowledge Bases(企業知識檢索服務)支援從企業文件取回依據;MCP(Model Context Protocol,模型上下文協定)則標準化工具的描述與呼叫方式。
其中 AgentCore Policy(代理政策服務)能把自然語言或 policy-as-code(以程式碼表達政策)的規則編譯為 Cedar(AWS 開源授權政策語言),並附加到 AgentCore Gateway(代理工具閘道),在每一次代理工具請求前做動作層級授權;AgentCore Evaluations(代理行為評估服務)則用於持續或按需檢查代理行為。真正的治理重點是「通往生產環境的門只有一扇」:推理執行環境不持有目標系統憑證,身份政策採預設拒絕,網路路徑受嚴格限制,憑證只暴露給需要它的工具實作。如此一來,最小權限、獨立授權、核准驗證、參數檢查與證據紀錄都集中在同一道門上。
代理協作:讓建議有知識與事件依據
文章沒有採用一個權限過大、什麼工具都能呼叫的單一代理,而是使用有限責任的階層式代理。Orchestrator Agent(編排代理)接收正規化事件,判斷需要哪些分析並分派工作;Application Reliability Agent(應用可靠性代理)檢查應用故障與資源或連線模式;Platform Intelligence Agent(平台智慧代理)分析 API 與介面延遲、部分降級及上下游依賴;Business Impact Agent(業務影響代理)把技術狀態轉換為客戶服務、帳務、可靠度承諾或報表期限的風險;Remediation Agent(修復代理)是唯一能提出生產變更建議的推理元件,但它的建議仍然沒有執行權。
這些代理的判斷必須落在企業知識上,包括 runbook(操作手冊)、SOP(Standard Operating Procedure,標準作業程序)、架構文件、事故歷史、業務規則、依賴圖與已知復原程序。這裡使用的是 RAG(retrieval-augmented generation,檢索增強生成),也就是先從知識庫取出依據,再讓模型形成回答。它的價值取決於知識衛生:過期、矛盾或缺少回滾步驟的手冊,會被忠實地檢索成過期、矛盾或不完整的指示。因此手冊需要明確擁有者、最後審查日期與版本追蹤;超過審查期限要被標記,操作人員因手冊錯誤而拒絕建議時,也應回饋給手冊擁有者。
事件本身也需要共同契約。進來的訊號會被转换成較小的維運 schema(結構定義),包含受影響服務或元件、環境、事件類型、時間戳記、來源、技術嚴重性、依賴識別碼、關聯鍵、業務服務映射,以及原始證據參考。原始內容會保留,但「哪個系統發出事件」「兩個識別碼是否指向同一服務」這類基礎事實,應由确定性解析與來源轉接器建立,而不是交給模型猜測;業務服務映射Also應從 service catalog(服務目錄)查得。文章舉的情境是 API 延遲上升、下游整合重試增加、處理佇列成長:單一訊號可能都未達傳呼閾值,但放在同一依賴鏈上,就可能預示客戶工作流程即將降級。代理的輸出不是單純摘要,而是包含可能故障模式、支持證據、受影響相依服務與文件化修復選項的結構化維運假設;若證據薄弱或互相衝突,不確定性也必須保留。
治理與預測:置信度不等於授權
預測能力讓平台超越事故摘要。它可以結合歷史事故、時間序列趨勢、依賴資料與非結構化日誌的語意分析,指出哪些弱訊號組合曾在過去預示故障,並說明可能失敗的對象、時間範圍、機制、置信度與業務後果。關鍵設計是:置信度不是授權令牌。預測和已發生事故走同一條治理路徑,攜帶證據與業務加權風險供操作人員判斷。誤報是可預期的,必須被量測、檢討並逐步降低;過度宣傳預測能力,反而會快速消耗操作人員信任。
風險分類則刻意保守。低風險例如唯讀診斷、健康檢查與額外遙測,可在符合範圍時自動執行並完整紀錄;中等風險例如可回復的無狀態服務重啟或限定範圍內擴充,依政策取得核准;高風險例如生產組態變更、故障轉移(failover,切換到備援路徑)、敏感資料操作或大範圍變更,必須明確核准,必要時採雙人控制。政策紀錄要具體到可在沒有大型語言模型參與的情況下測試:工具識別碼、目標環境、允许範圍、風險等級、核准類型、執行逾時、前置條件、後置條件,以及有意義時的回滾程序連結。工具閘道會在執行時重新檢查核准與政策,取得狹窄範圍的執行身份,驗證參數是否符合 schema,並保存請求身份、政策決策、核准參照、輸入、結果與動作後健康狀態。
文章也提醒,API 回傳 200 不代表系統健康。修復工作流程必須驗證原本想達成的狀態,例如延遲、重試行為、佇列趨勢與服務健康是否恢復;若未恢復,就不能因為指令成功送出而標記為修復完成。型別化工具能限制代理可提出的請求,卻不會讓注入攻擊(prompt injection)消失,因為代理仍可能在允许範圍內誤用合法操作。因此防護必須分層:把導入內容視為不可信資料、縮窄工具、驗證參數、最小權限、政策執行、核准要求、網路限制與動作後驗證同時存在。自 2026 年 6 月起,AgentCore Policy 可搭配 Bedrock Guardrails(模型護欄服務)篩選工具閘道輸入與輸出,防範注入攻擊及敏感資料外洩,起初僅在部分 AWS 區域可用;這只是門上的 additional 控制,不是取代權限邊界。
合規、衡量與自治邊界
對受監管維運而言,治理不是畫完架構後補上的章節,而是架構之所以這樣設計的原因。模型和代理變更應比照其他生產軟體:模型指令與代理定義納入版本控制、變更經過審查、上線前評估,並具備回退能力;歷史事故與對抗案例可作為回歸測試。團隊也應抽樣生產 traces(追蹤紀錄),檢查任務完成度、工具選擇、依據性、安全性與政策遵循,並觀察置信度與建議品質是否漂移。資料最小化同樣關鍵,因為日誌與服務單可能包含與推理無關的客戶、員工或安全敏感資訊,必須先建立資料分級、領域隔離、傳輸與儲存加密、留存規則。文章提到 OWASP Top 10 for LLM Applications(大型語言模型應用常見風險清單)將注入攻擊與過度代理列為風險;其代理安全指引也涵蓋目標劫持、工具濫用、身份與權限濫用、多代理互動等問題。
稽核證據要能回答的不只是「系統做了什麼」,而是能否重建原始訊號、檢索到的證據、建議內容、適用政策、必要時的人類決策、實際執行的操作、使用的身份與驗證後的結果。是否能稱為不可竄改,取決於實際儲存控制;至少應具備耐久、存取控制與竄改可偵測等特性。合規映射也必須精準:NERC CIP(北美電力可靠性公司關鍵基礎設施保護要求)不適用於電力公司營運的每一個應用,而是針對特定範圍內的 BES(Bulk Electric System,大電力系統)與 BES Cyber Systems(範圍內的電力系統數位設備與系統)。例如 CIP-010-4 對應組態變更管理與弱點評估,CIP-004-7 對應人員與存取管理,CIP-011-3 對應 BES Cyber System Information 的保護,CIP-008-6 對應資安事件通報與回應規劃。代理平台可以支援適用要求所需的證據,但平台本身不會創造合規;把整個公用事業資產籠統標成「符合 CIP」並不正確。NIST AI RMF(美國國家標準與技術研究院人工智慧風險管理框架,包含 Govern、Map、Measure、Manage)與 ISO/IEC 42001:2023(人工智慧管理系統標準)可以組織更廣泛的治理計畫,但仍不能取代特定產業要求。
自治必須用證據換取。文章建議以營運基線衡量價值,而不是引用缺乏支持的改善百分比;可觀察的指標包括從最早可用訊號到可操作警示的偵測時間、到驗證後解決的回應時間、預測精確度與誤報率、提前量、操作人員實用性評分、人工關聯與反覆分析的工程投入,以及核准延遲、政策拒絕、阻擋未授權動作、證據完整性與稽核重建時間。自治推進採分階段:先全面唯讀,只观察和关联;接著讓診斷與健康檢查在範圍內由核准制轉為自動;再引入可回復變更並先採核准制;唯有在一致核准、驗證恢復、回滾成功且沒有越界請求的證據下,才讓選定的低影響可逆動作在固定範圍與時間窗內自動執行。高風險變更則始終保留明確核准。真正的目標不是最大自治,而是可治理、可撤銷、有證據支持的自治。
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理,並非原文逐字翻譯。