在訓練像 PRX 這樣規模的圖像生成模型時，許多人會將注意力放在模型架構或訓練參數上，但實際上，數據管線（Data Pipeline）才是決定模型最終品質的基石。對於初學者或工程師來說，構建數據集不只是「收集圖片」，而是一場關於多樣性、描述精準度與存儲效率的權衡。
本文將深入解析 Photoroom 團隊在 PRX 模型中採用的數據策略，將其拆解為數據原則、技術棧選擇、標記優化以及數據清洗四個核心維度。
數據構建的核心原則：廣度優先，精緻在後
在預訓練（Pre-training）階段，模型的目標是學習「世界長什麼樣子」，包括視覺概念、光影組成與物體關係。因此，此階段的關鍵在於覆蓋範圍（Coverage）與多樣性（Diversity），而非單張圖片的完美程度。
如果過度追求美學濾波（Aesthetics Filtering），會導致數據分佈過窄，讓模型失去對現實世界多樣性的認知。簡單來說，預訓練是用來建立「知識廣度」的，而讓生成結果看起來「有品味」或「精緻」，則是後續微調（Fine-tuning）與偏好對齊（Preference Alignment）才需要處理的事。
技術棧的選擇：Lance 與 MDS 的協同運作
處理數以億計的數據行時，傳統的 Parquet 或 CSV 會讓查詢變得極其緩慢。PRX 採用了兩種互補的格式來解決「構建」與「流式傳輸」的不同需求。
首先是 Lance 格式。這是一種列式數據格式，支持高效的謂詞下推（Predicate Pushdown）、標量索引與向量搜索。工程團隊將其用於數據集的構建、探索與特徵工程。透過 Lance，工程師可以快速地對數十億行數據進行全文搜索或相似度查詢，從而定量的分析數據分佈。
其次是 Mosaic Data Shards (MDS)。在正式訓練時，模型需要從雲端存儲（如 S3）高效地流式讀取數據。MDS 將樣本打包成約 128MB 的分片，支持確定性的隨機打散（Deterministic Shuffling）與彈性的斷點續傳。
實務經驗告訴我們：用 Lance 來建構與篩選，用 MDS 來流式訓練。
標記策略：為什麼長描述（Long Captions）至關重要
標記（Captioning）是將視覺信息轉化為模型可理解文本的過程。PRX 的核心發現是：詳細、精準且長篇的描述能顯著提升生成品質。
傳統的短標記（如：一隻貓在沙發上）會讓模型將圖片中的雜訊（如水印、Logo、背景文字）視為不可控的隨機特徵。而使用 VLM（視覺語言模型，如 Qwen3-VL）生成 100 到 200 字的詳細段落，將圖片中的所有元素（材質、光影、空間關係、甚至文字內容）明確地描述出來，就能將這些「雜訊」轉化為可控的屬性。這樣模型會學習到：當標記中出現「水印」時才生成水印，而非無條件地在所有圖中隨機出現。
在選擇標記模型時，團隊發現經過標記微調的模型（Caption-tuned model）效果明顯優於通用模型。
圖像編碼與存儲的實務權衡
關於圖像格式，團隊在 PNG（無損）與 JPEG（有損）之間做了量化測試。結果顯示，由於大多數原始數據本身就是 JPEG 壓縮，將其強制轉為 PNG 並不會帶來感知上的品質提升，反而會增加 3 到 10 倍的存儲成本。
PRX 最終選擇將所有圖像統一編碼為 JPEG 品質 92。測試證明，即使經過多次編碼循環，圖像品質依然穩定，且對模型生成結果的影響微乎其微。
數據清洗與去重：低成本的過濾方案
面對海量數據，逐一檢查是不可能的。PRX 採用了三層過濾機制：
第一層是基於文本的分類。利用 VLM 生成的詳細標記，使用純文本模型（如 Qwen3-8B）快速判斷該圖是「視覺圖像」、「純文字截圖」還是「NSFW 內容」。這種方法比直接跑圖像分類器快得多。
第二層是感知哈希（Perceptual Hashing）。為了去除近乎相同的重複圖片，團隊使用了基於 DCT（離散餘弦變換）的感知哈希。與 SHA-256 這種字節級哈希不同，感知哈希能識別出經過縮放或重新編碼但視覺內容相同的圖片。
第三層是跳過列表（Skip-list）。為了避免每次篩選數據都要重新寫入數 TB 的 MDS 檔案，團隊設計了一種 Sidecar 文件機制。當某張圖片被標記為需刪除時，只需將其索引加入跳過列表，訓練加載器在讀取時會直接跳過該樣本。
總結：數據管線的工程思考
構建 PRX 的過程揭示了一個重要的工程邏輯：在預訓練階段，優先確保數據的代表性與標記的忠實度。透過「Lance 探索 $\rightarrow$ VLM 重新標記 $\rightarrow$ MDS 流式訓練」的管線，以及利用跳過列表實現靈活的數據迭代，團隊在維持開發速度的同時，確保了模型對視覺世界的深刻理解。
來源：huggingface.co / Photoroom Blog
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。