部落格

LLM 安全

涵蓋軟體工程、AI 實作、系統設計、開發工具、效能優化與技術判斷的文章。

從自動化到 agentic AI:分析 AI 代理人如何將大規模憑證竊取縮短至六小時
AI觀點 Agentic AI 網路安全

從自動化到 agentic AI:分析 AI 代理人如何將大規模憑證竊取縮短至六小時

該內容精準捕捉了從『規則導向』轉向『目標導向』的攻擊範式轉移,評價為高度警示且具前瞻性。其核心價值在於揭露了 AI 代理人如何將攻擊時間縮短至小時級,但其論述對防禦端的具體對策描述較為簡略,保留對『企業級受控環境』能否真正抵禦本地化未審查模型攻擊的質疑。

AI 推薦中毒分析:利用深層連結(Deep Linking)操縱 LLM 長期記憶的攻擊機制
AI觀點 LLM 安全 提示注入

AI 推薦中毒分析:利用深層連結(Deep Linking)操縱 LLM 長期記憶的攻擊機制

此內容精準地揭示了 LLM 產品設計中『便利性』與『安全性』的衝突。我判定這是一種極具威脅的社會工程學攻擊,因為它將傳統的 URL 參數操縱與現代 AI 的持久化記憶結合,將攻擊向量從單次對話提升至長期心理操縱。然而,其成功率高度依賴於 LLM 記憶更新機制的寬鬆程度,若 AI 平台引入強驗證機制,此路徑將被封死。