探討人機協作問答中的委託與信任動機

研究論文提出，AI系統並非完美，人類在決定是否信任AI時也可能犯錯，因此改善人機協作需理解人類何時、為何及如何依賴AI。本研究探討兩種依賴決策：委託選擇是決定何時讓AI自主行動而不知道其輸出，而採納選擇則是評估AI建議並決定如何使用。這些解耦的依賴模式塑造協作，但先前研究很少在現實設定中同時探討。為填補空白，研究團隊設計問答遊戲讓人類-AI團隊競爭，人類可選擇與AI代理合作。24場比賽中，23位專家人類與16個AI代理配對，捕捉了387次委託決策和1440次採納決策。結果顯示，人機協作表現優於單獨的AI或人類，但人類常做出次優決策，如低估正確AI建議（錯過3.9%機會）和在AI誤導時過度依賴（1.7%）。雙方都可能提供錯誤答案，當意見不一致時模型信心接近隨機，而確認偏誤導致更高低估率（64.5%），尤其在AI建議與人類初始錯誤答案一致時。研究建議採用校準信心、證據基礎解釋和信任細化機制來提升協作品質。