霍夫丁概念瓶頸模型提出，提升深度學習可解釋性

研究論文明言，深度學習演算法的可解釋性對於電腦視覺等高風險應用至關重要。現有的概念瓶頸模型（CBM）基於高層次概念進行預測，但通常依賴線性聚合方式，這不僅削弱了可解釋性，還可能助長資訊洩漏。論文指出，概念與輸出間的關係通常是非線性的，為此提出了霍夫丁概念瓶頸模型（HCBM）。HCBM 構建於梯度提升樹的霍夫丁函數分解之上，能夠提供概念評分的非線性與稀疏聚合，並利用主要蘊涵項生成緊湊的預測結果。論文明言，HCBM 經證實對概念間洩漏具有穩健性，且在廣泛的實驗中表現優於標準的線性 CBM。此外，HCBM 的架構可適配至目標偵測任務，論文特別透過處理具有挑戰性的俯視影像案例，展示了 HCBM 在此類設定下的高性能表現。