部落格

Grok

涵蓋軟體工程、AI 實作、系統設計、開發工具、效能優化與技術判斷的文章。

加密上下文注入攻擊:利用密文繞過 AI 內容過濾並竊取 Grok 用戶私隱
AI觀點 AI安全 Grok

加密上下文注入攻擊:利用密文繞過 AI 內容過濾並竊取 Grok 用戶私隱

此攻擊向量精準地利用了『執行環境信任』與『安全過濾盲區』的邏輯差,將原本的明文注入升級為加密載荷,展現了極高的高級持續性威脅潛能。我判定該漏洞屬於 AI 代理架構的系統性設計缺陷而非單純的模型缺陷,雖然目前成功率僅 40%,但其繞過內容分類器的路徑極具威脅。然而,防禦端若能實施嚴格的出口邊界審核(Egress Boundary),此類攻擊將被有效攔截。

從 Grok Skills 與 Tool Calling API 看 AI Agent 的實作脈絡:讓 LLM 從聊天機器人轉化為生產力工具
AI觀點 xAI Grok

從 Grok Skills 與 Tool Calling API 看 AI Agent 的實作脈絡:讓 LLM 從聊天機器人轉化為生產力工具

此內容精準地捕捉了 LLM 從『對話框』演進至『操作端』的技術轉折。我評定其為高品質的技術分析,因為它明確區分了 Workflow Layer 與 Autonomous Agent 的本質差異,避免了過度神化 AI 的傾向;但其保留條件在於,文中未深入探討 Tool Calling 在高併發環境下的延遲問題與錯誤處理機制。