OpenAI 近期宣布封禁了一組來自俄羅斯的 ChatGPT 帳號，這些帳號透過 VPN（虛擬私人網路，一種能隱藏真實 IP 地址以繞過地理限制的工具）規避存取限制，利用 ChatGPT 執行一場精心設計的影響力行動。所謂的影響力行動（Influence Operation），是指透過操縱資訊流來改變目標受眾認知、態度或行為的策略，通常與資訊戰或政治宣傳相關。這起事件揭示了攻擊者如何將生成式 AI 作為輔助工具，在更宏大的虛假敘事框架中建立偽造的權威感。
這場行動的核心是推廣一個名為國際伯克研究所（International Burke Institute, IBI）的組織。該組織自稱是一個位於以色列的專家社群，專注於經濟、政治、社會學與國際關係。然而，OpenAI 的調查發現，這個機構實際上是一個偽裝的門面。操作者建立了一個網站，內容包含大量抄襲且誤植作者的學術論文，並設計了一套所謂的主權指數（Sovereignty Index），旨在將俄羅斯塑造為具有高度獨立性與權威性的國家，同時批評西方國家。
技術運作細節與偽裝手段
在執行過程中，操作者將 ChatGPT 用作內容產出的工廠。他們要求 AI 生成社交媒體貼文與評論，並將其分發至 Substack、Telegram、X（原 Twitter）、Facebook 與 LinkedIn 等平台。為了掩蓋俄羅斯背景，操作者特別指示 ChatGPT 在撰寫英文內容時，必須隱藏任何可能暗示其俄語母語者身份的語言特徵或語法習慣。
除了生成貼文，AI 還被用於建立視覺形象。例如，其中一名使用者利用 AI 為名為 American Observer 的 Telegram 頻道創建頭像，並要求 AI 將該頻道的活動內容總結為俄文，以便操作團隊內部追蹤進度。
儘管 IBI 網站上的正式文章並非全部由 ChatGPT 生成，但其產出模式呈現出明顯的操縱跡象：部分文章直接抄襲學術著作，部分則由斯拉夫語系使用者撰寫後，再透過機器翻譯成英文。
主權指數的政治操縱
這場行動最值得關注的技術特點在於其推廣的伯克指數（Burke Index）。該指數宣稱透過政治、經濟、技術、資訊、文化、認知與軍事這七個維度的指標來計算，每個維度最高 100 分，最終累計總分在 100 到 700 分之間。
透過這種看似科學的量化方式，該組織試圖為其政治敘事提供數據支持。在該指數的報告中，俄羅斯被描述為一個擁有高度主權、軍事與經濟自給自足、且在數位與文化環境中擁有強大控制力的國家。這種將政治傾向轉化為數據指標的做法，是現代影響力行動中常見的偽裝手段，旨在利用人們對數據的信任來降低對宣傳內容的警覺心。
影響、限制與實務意義
從影響範圍來看，這次行動觸及的受眾相對較小，其中 Telegram 頻道的追隨者數量約在每頻道 1 萬至 2 萬人之間。然而，OpenAI 強調，這次事件的關鍵不在於觸及人數，而是在於其建立的基礎設施。
這起案例展示了一種危險的趨勢：AI 不再僅被用來大量產出低品質的垃圾訊息，而是被用作支持整體架構的輔助工具。操作者建立了一個包含偽造專家、抄襲論文與專有指數的完整體系，使這個虛假機構看起來極具權威性。一旦這種基礎設施建成，未來可以快速擴大規模，將偽造的敘事植入更廣泛的公眾認知中。
同時，這也說明了 AI 的雙面性。雖然 AI 幫助操作者降低了偽裝成本，但正是因為對 AI 的依賴，留下了可被追蹤的數位足跡，最終導致整個影響力行動被 OpenAI 偵測並揭露。對於安全研究人員而言，這提醒了在分析資訊操縱時，不能只關注單篇內容的真偽，而應審視背後的權威建構邏輯與基礎設施。
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。