在討論人工智慧時，我們經常關注模型能寫多少程式碼或生成多精美的圖片，但在國防與情報這種極高機密性的環境中，焦點完全不同。最近關於 Agentic AI（代理式 AI）的討論增加，這類 AI 不僅能對話，還能自主執行任務、操作工具並在不同系統間穿梭。然而，這種強大的自主權如果缺乏底層安全基礎設施的支撐，將會變成極其危險的漏洞。
首先我們需要釐清什麼是 Agentic AI。傳統的 AI 像是一個諮詢顧問，你問它問題，它給你答案。而 Agentic AI 則像是一個擁有執行權限的代理人，它可以決定要呼叫哪個 API、讀取哪個資料庫、甚至在不同網路之間傳遞資訊來完成一個複雜目標。在軍事決策中，這能大幅提升決策速度，達成所謂的決策優勢。但問題在於，當 AI 擁有執行權限時，它觸碰的所有網路與數據路徑，都變成了潛在的攻擊向量。
對於工程師來說，最核心的挑戰在於機密網路的隔離與跨域傳輸。在國防環境中，資料被嚴格分為不同的機密等級（Classification Levels）與隔間（Compartments）。例如，頂級機密資料不能直接流向低機密網路。當 Agentic AI 需要在這些不同等級的環境中運作時，如果安全邊界設計不周，AI 可能在無意中將高機密資訊洩漏到低權限環境，或者讓外部攻擊者透過 AI 的代理權限反向滲透進核心網路。
要讓 Agentic AI 在實務中安全落地，必須從三個關鍵維度重新審視基礎設施。
第一是輸入端的數據完整性。AI 模型的強弱取決於訓練數據。如果將商業模型或外部數據導入機密環境時缺乏嚴格審查，可能會面臨數據投毒（Data Poisoning）的風險。攻擊者可以故意在訓練集中植入惡意資訊，導致 AI 在關鍵時刻做出錯誤的戰術評估，這種影響在戰場上可能是致命的。
第二是存取控制與權限治理。當分析師、盟軍夥伴或前端操作員使用 AI 時，必須確保權限管理是動態且嚴格的。最危險的情況是網路塌陷（Network Collapse），意指為了方便 AI 運作而過度放寬防火牆或權限，導致原本應該隔離的網路邊界在物理或邏輯上失效，讓單一點的突破演變成全網崩潰。
第三是輸出端的跨域安全。Agentic AI 在執行任務時，會頻繁地回溯查詢資料庫或與其他系統互動。每一次的呼叫都必須經過跨域解決方案（Cross-Domain Solution），這是一種專門用於在不同安全等級網路之間安全傳輸資訊的硬體或軟體機制。如果安全邊界成為效能瓶頸，操作員可能會為了速度而繞過安全機制，這正是系統最脆弱的時候。
總結來說，AI 模型的強大能力只是上層建築，而底層的網路織網（Network Fabric）才是決定成敗的關鍵。對於開發與維運 AI 系統的工程師而言，安全不能是後補的插件（Bolt-on），而必須是內建的基因（Built-in）。如果底層基礎設施不能保證數據流向的可控性與硬體級的隔離保護，那麼再先進的 AI 模型在實戰環境中也無法被信任。
來源：thehackernews.com
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。