背景與問題
OpenAI 於 2026 年 10 月 21 日發布工程文章,由技術人員 Ritendra Datta 與 Karthik Gopalratnam 說明 ChatGPT 廣告系統的架構。傳統廣告平台通常從明確事件開始,例如使用者搜尋關鍵字或開啟網頁,再依查詢內容與頁面情境挑選廣告。但 ChatGPT 的使用情境不同,使用者通常帶著一個逐步形成的目標前來,例如規劃旅行、挑選企業軟體、規劃居家布置,或學習新技能,實際需求可能在多輪對話中才逐漸清楚。
如果廣告系統把每則訊息都當成獨立查詢,可能過早判定需求、誤讀使用者意圖,甚至在對話尚未形成商業情境時插入不相關廣告。OpenAI 因此從頭建立專門的廣告交付堆疊,目標不是讓每段對話都能產生廣告,而是在理解脈絡後,只於廣告確實對使用者與廣告主都有價值時才投放。
三項核心設計
第一項設計是有狀態的廣告工作階段。所謂「有狀態」,是指系統會記住並持續更新前文資訊,而不是只處理當前訊息。ChatGPT 會把初始對話脈絡傳給廣告伺服器,後續則依新增訊息調整檢索方向。若使用者選擇個人化廣告,協調模型還可參考過往對話中的非敏感資訊。這種設計能避免每一輪都重新猜測需求,也能減少重複執行完整廣告流程造成的成本與雜訊。
第二項設計是採用經過後訓練的前沿大型語言模型作為協調器。這個模型不是直接撰寫廣告,而是以代理式迴圈呼叫檢索、排序、評分、競價與投放等工具,逐步決定何時搜尋、搜尋什麼,以及哪些廣告值得送入競價。模型必須分辨當前需求與過時脈絡,辨認假設性提問,也不能把每個提到的品牌或商品都解讀成購買意圖。
第三項設計則是把廣告選擇與 ChatGPT 的答案生成徹底分開。廣告服務使用獨立的模型、程式碼與服務,與 ChatGPT 核心伺服器沒有相依關係,因此廣告系統故障或變慢時,自然答案仍能正常生成。這條架構邊界也讓「不顯示廣告」成為合理且成功的結果;系統沒有義務填滿每一個廣告位置,只有通過資格、相關性、品質與安全檢查的候選者才有機會被交付。
從意圖到競價
協調器首先會把多輪對話整理成簡短摘要,再將摘要轉成語意嵌入,也就是方便廣告系統比對的向量表示。它可能產生多個檢索查詢,以保留對話中的不同需求。例如,使用者先詢問前往優勝美地的兩日行程、詢問天氣,後來才提到某品牌鞋款,系統便可能分別形成適合健行旅程的鞋子,以及適合旅行的新品等查詢,而不必將全部內容壓縮成單一字串。
檢索階段會刻意取得廣泛的候選廣告。不同產品類型可使用針對其條件最佳化的索引,例如商品資訊廣告的索引會考慮正面或負面商品評價。核心搜尋採用近似最近鄰演算法,也就是在大型語意索引中快速找到接近理想結果的項目,保留多數相關候選,而不必逐一比較全部廣告。
取得候選者後,系統會依廣告活動與創意是否有效、地區與政策限制、預算、投放時段、廣告與對話的相容性,以及廣告主或活動層級的去重要求進行篩選。通過基本資格的廣告再接受語意相關性、預測互動表現與歷史成效評分。預測互動模型會估算廣告被觀看、點擊或轉換的機率,但它仍不能直接決定最終結果。
競價工具負責最後的商業與服務規則,包括設定最低相關性與價值門檻、均勻消耗預算、計算出價、依品質調整排序、定價及選出勝出者。協調器只負責提名符合對話脈絡的候選者,不直接決定價格或勝出廣告。這讓意圖理解與市場機制各自負責不同問題,也保留競價系統調整空間。
交付與顯示並不相同
競價完成後,廣告仍可能因兩種原因未顯示。第一,廣告雖已通過內容安全與政策檢查,放進特定對話後仍可能顯得突兀,協調器因此會將它阻擋。第二,ChatGPT 已準備好回答,但廣告尚未完成處理時,请求便會逾時;系統不會為了等待廣告而延遲正常回答。
通過檢查的廣告會由伺服器端交付,其內容包括標題、說明、目的地連結與行動呼籲,另有一則由模型生成、保持中立且簡短的廣告前言,說明它與對話的關係。前言與廣告主提供的創意分開處理,使廣告訊息得以保留,同時維持 ChatGPT 的語氣一致性。前端若在當輪回答完成前收到廣告,便會在回答下方顯示並標示為贊助內容;若送達過晚,該輪便不展示。
因此,伺服器選中並交付廣告不等於使用者實際看見廣告。只有 ChatGPT 核准放置、前端顯示,而且曝光被記錄後,才算形成真正的廣告曝光。這項區分有助於後續分析各階段究竟在哪裡流失。
回饋、評估與持續改善
廣告堆疊沿用傳統日誌與資料管線,讓廣告主能更容易整合既有系統,也能利用回報資料調整策略。系統會記錄更細緻的結果,例如當輪不具廣告資格、已建立廣告工作階段但未要求檢索、檢索沒有候選者、候選者未通過資料補全或資格檢查,以及廣告已交付並產生互動。不同問題因此可以分別歸因,避免把檢索不足、品質不佳、競價參與不足或交付失誤混為一談。
OpenAI 也會以較高推理能力的模型評估整個系統的結果,再將所得回饋用來訓練負責協調與檢索的較小模型。人類回饋同樣重要,包括使用者點擊、隱藏廣告、問卷,以及廣告主透過 Ads Manager 提供的直接意見。模型可以協助判斷意圖,但使用者與廣告主仍會影響產品取捨與廣告風格。
團隊從初期便使用 Codex 輔助建立與擴展系統,並設置護欄,讓程式碼能安全交付;資料基礎設施外挂則縮短從發現問題、落實改善到驗證成效的週期。OpenAI 表示,ChatGPT 廣告推出後不到 200 天便達到 10 億美元年化經常收入,已有超過 10 萬名廣告主投放。下一階段將探索更具動態的廣告形式,例如讓使用者直接與廣告主對話,同時提升相關性、個人化程度與廣告價值。
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理,並非原文逐字翻譯。