InfoAtlas：零樣本統計依賴估計的基礎模型

研究論文提出 InfoAtlas，一個創新的基礎模型架構，專門用於零樣本統計依賴估計。在高維隨機變量間測量統計依賴是數據科學和機器學習中的基礎任務，但現有的神經互資訊估計器雖然前景看好，卻通常需要針對每個新數據集進行昂貴的迭代優化，這使得它們在即時應用中不切實際。InfoAtlas 通過類似基礎模型的架構，直接推斷互資訊，只需單次前向傳播即可完成計算。該模型在大規模合成數據上進行預訓練，這些數據包含豐富的依賴模式，使 InfoAtlas 能夠學習識別多樣化的依賴結構並直接從數據集中預測互資訊。全面的實驗表明，InfoAtlas 在準確性上匹配現有的最先進神經估計器，同時實現了 100 倍的計算速度提升。此外，InfoAtlas 能夠靈活處理不同維度和樣本大小，通過單一統一模型適應各種情況，並有效泛化到複雜的真實世界場景。通過將互資訊估計重新表述為推理任務，InfoAtlas 為即時依賴分析建立了堅實的基礎。