AAD-1:用於一步自迴歸影片生成的非對稱對抗蒸餾框架
研究論文提出 AAD-1,這是一個專為一步自迴歸影片生成設計的非對稱對抗蒸餾框架。論文指出,當前先進方法採用對抗蒸餾技術,但常面臨運動崩潰和訓練不穩定的問題,導致生成的影片缺乏動態。AAD-1 通過架構和訓練策略的兩個關鍵設計來解決這些挑戰。在架構上,它打破了生成器和鑑別器之間的對稱性:生成器保持因果結構以維持自迴歸採樣能力,而鑑別器則雙向注意整個時空上下文,輸出一個整體真實性評分。這種非對稱設計使鑑別器能有效偵測導致運動崩潰的全局時間失敗和長期漂移。在訓練上,引入了分階段策略:首先使用分佈匹配來引導一個穩定的一步生成器,作為預熱階段,將學生分佈更接近教師模型,之後才開始對抗蒸餾過程。論文在 VBench 基準上進行了廣泛實驗,結果顯示 AAD-1 在一步自迴歸影片生成任務中達到了最先進的性能。
來源:Hugging Face / 論文來源