LLM代理中的不確定性感知澄清與資訊增益

研究論文提出了一個針對大型語言模型代理的澄清框架，旨在解決使用者指令不明確導致的工具操作錯誤問題。論文的核心是資訊增益獎勵，這是一種量化澄清問題效用的指標，通過測量貝葉斯信念更新來評估澄清對減少不確定性的效果。研究人員使用此獎勵訓練大型語言模型作為澄清器，以優化高資訊增益，從而提升任務完成率。為了驗證框架的有效性，論文在τ-Bench環境中進行了實驗，跨五種不同的骨幹模型進行評估。實驗結果表明，與沒有澄清的基線相比，該方法在平均增加僅0.3次交互步驟的情況下，將成功率持續提高了3.7%。這顯示了不確定性感知澄清在提升大型語言模型代理性能方面的潛力，為改善人機交互提供了新的方向。