CORE：衝突導向推理的多模態操縱檢測框架

研究論文指出，生成式AI的快速發展使得多模態假新聞越來越逼真和普遍，嚴重威脅公眾信任和社會穩定。現有檢測方法依賴操縱特定模型和大規模標記數據，導致對新興操縱類型的泛化能力不佳。論文觀察到，操縱錯誤資訊的本質在於其內在衝突，即跨模態或與常識世界的語義或物理不一致。基於此，論文提出了衝突導向推理（CORE）框架，這是一種賦予多模態大型語言模型（MLLMs）明確衝突捕捉能力的範式。CORE首先構建衝突歸因語料庫（CAC），提供精細標註的衝突因素和來源，為後續衝突感知訓練提供數據支持。通過基於CAC的衝突導向表示增強和推理，CORE實現了穩健且可泛化的衝突檢測，能有效快速地適應未見的操縱類型，即使在少樣本或零樣本設置下。大量實驗表明，CORE超越了現有最先進的模型。數據集和代碼已在GitHub上公開，供研究社區使用。