生成式 AI 的強大能力在提升生產力的同時，也為犯罪組織提供了高效的工具。OpenAI 近期分享了一次針對柬埔寨詐騙網絡的打擊行動，這次案例不僅揭露了詐騙集團如何利用 ChatGPT 規模化其犯罪流程，更揭示了現代網路犯罪與人口販運之間深層且複雜的連結。
對於工程師或資安從業人員來說，理解這類攻擊者的行為模式比單純封鎖帳號更重要。這次的案例顯示，詐騙集團不再採取單一的詐騙腳本，而是建立一套多元化的操作流程。
AI 在詐騙流程中的實際應用
這類犯罪組織將 ChatGPT 當作後勤支援系統，將其應用在不同階段的應用分為三個關鍵步驟：Ping、Zing 與 Sting。
第一階段是 Ping，也就是初步接觸。詐騙者利用 AI 快速生成多語言的對話內容，以便在 WhatsApp 或 Telegram 等通訊軟體上接觸全球不同國籍的目標。此外，他們利用 AI 研發社交媒體上的虛擬人設，建立看起來真實且具吸引力的個人檔案。
第二階段是 Zing，目的是製造情緒波動。AI 被用來撰寫具有心理操縱性的文字，例如承諾無風險的高額投資回報，或是使用浪漫言語建立信任感，甚至製造緊急壓力，要求受害者在獎金過期前立即採取行動。
第三階段是 Sting，即最終的收割。AI 被用來偽造各種證明文件，包括護照、法律通知、股票購買確認書，甚至利用 AI 生成虛假的加密貨幣交易介面，讓受害者相信資金已進入系統，進而誘導其支付啟動費或罰金。
除了對外的詐騙，這類組織還將 AI 用於內部行政管理。他們使用 ChatGPT 起草內部公告、翻譯員工指令，甚至記錄員工的債務、薪資扣除額以及紀律處分。
從單一詐騙到犯罪生態系的演變
這次行動揭露了一個重要的實務觀察：現代組織犯罪具有高度的多元性。他們不會只專注於一種詐騙，而是將多種手段混合使用。例如，先透過 AI 營造浪漫關係建立信任，隨後再將話題轉向加密貨幣或黃金交易的投資詐騙。
更令人關注的是，這類線上詐騙往往與現實世界的人口販運緊密相連。OpenAI 在調查中發現，部分帳號被用來在社交媒體上刊登虛假的招聘廣告，以高薪、提供機票與簽證為誘餌，將受害者誘騙至柬埔寨的詐騙園區。一旦抵達，這些人可能會被沒收護照、強迫工作，並陷入債務陷阱。
這意味著，我們在面對 AI 濫用問題時，不能僅將其視為單純的文字生成違規，而應將其視為一個包含人口販運、強迫勞動與金融犯罪的完整犯罪生態系。
防禦與對抗的思考
針對這類協同作戰的帳號網絡，單一的關鍵字過濾已不足夠。OpenAI 採取的是一種綜合性的打擊策略，包括分析行為模式、封鎖關聯帳號，並與 WhatsApp 等產業夥伴共享威脅訊號（Threat Signals），即關於攻擊者行為特徵的數據，以便在整個生態系中同步攔截。
對於開發 AI 應用的工程師來說，這次案例提醒我們在設計系統時，應關注異常的行為模式，例如短時間內生成大量相似但語言不同的誘導性文字，或頻繁生成偽造文件類型的內容。
來源：openai.com
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。