情報処理学会 インタラクション2025

アルゴリズミック・リコースはAIから不利な判定を下された個人に対して判定理由の理解と将来行動の促進を目的に反実仮想的な提案を示す．既存研究の多くは合理的で実行可能なリコースの生成に注力してきたが，AIから判定を下された時点で (リコースが提供される前に) 被意思決定者がその判定結果を受け入れているか否かは考慮されてこなかった．そこで我々は，判定結果に対する最初の受容態度がその後に提供されるリコースに対する認識を左右し，最終的な受容態度に影響を与えるのではないか，という仮説を検証すべく，自動車ローン審査を題材とするシナリオベースのユーザ実験 (N=534) を行った．統計解析の結果，最初の受容態度が否定的な被験者はリコースの合理性と実行可能性を低いと感じ，最終的にAIの判定結果に対して否定的な態度を示すことが分かった．一方で，リコースが審査基準を説明するもしくは現実的な範囲で実行できる計画を示すと認識されると，被験者の受容態度は否定的から肯定的に変化することが定性分析から確認された．これらを踏まえて，望まない判定結果を下された個人に納得感をもたらすリコース生成システムに関する将来研究の目指すべき方向性や課題について論じた．