人が判断するか、AIが判断するか

AIが答を提案するソフトウェアは、幅広い分野で行き渡ってきています。ヒトはどんなときにAIに任せ、どんなときにAIをあえて無視して自分で判断しようとするのか？ここでの論文は、そんな素朴な問いに答えるものです。

Bader, V., & Kaiser, S. (2019). Algorithmic decision-making? The user interface and its role for human involvement in decisions supported by artificial intelligence. Organization, 26(5): 655-672.

要するにこの論文は：

AIを活用した提案ソフトを導入した通信会社のコールセンターを題材に、現場の営業スタッフがAIの出す答とどう向き合うかを検討した事例研究。

ポイント：

• AIと人間は別々に仕事をするのではなく、現実には共同作業をする。人間はAIが出した答や意思決定を受け止めて、一緒に仕事を進めなければならない。
• そのためAIの導入が、人間のスタッフの意思決定へのコミットメントにどう影響し、共同での意思決定がどう形作られるかは、重要な問題である。
• 本研究は、IBMのワトソンを活用し、顧客対応（営業コール）の次の一手をAIが提案するソフトウェアをオペレータに導入した通信会社のコールセンターで、インタビュー（28件）を元に、AIがもたらす人間への影響を明らかにした。
• 具体的には、次のような発見があった：
• AIがもたらすスピーディで一貫性ある提案は、それを受け取る人間にとっての心理的距離感を生み、意思決定へのコミットメントを減らす作用がある。それは次の理由による：
1. AIは人間には知り得ない幅広いオンラインデータも使っているため、人間はAI判断の是非を評価しようがない
2. AIはどんなに複雑な状況も単純かつブラックボックスで一瞬のうちに提案を出すので、人間自身の判断のプロセスとあまりに違う
3. 人間では迷ってしまう二律背反も、AIは何を最適化するか明確で一貫した基準で提案するため、人間には情緒的に出来ない水準で冷徹に仕事をする
• 一方で、AIが自動的に処理していくからこそ、スタッフは人間ならではの要素からの判断があることを意識し、自分が出した答にこだわるようになる作用もある。人間ならではの要素とは、次のようなものである：
• 結果をあえてセーブせずAIを学習させない、リアルだけで利用できる（AIには使えない）別の情報源を活用する、チームリーダーが人間ならではの判断を重視するようにチームに指示してしまう、目標であるKPI達成のために感情的になりAIの提案を無視する、など
• 両者のせめぎ合いが、AIを活用した意思決定には存在し、どちらが強く作用するかに応じて、AIの提案が使われたり、人間の判断が優先されたりする。

コメント：

今回の論文も少し古くなってきましたが、普遍的な現象を示していると思います。この論文の当時（2010年代）は、AIの適用範囲がまだ狭かったので、特殊な仕事で特殊な場面で使われることが多かったと思います。現在では、より普遍的にこうした場面が登場しています。

このような二つのベクトルがせめぎ合って反応が決まるモデルは、幅広い状況を説明するのに都合が良く、その点でも優れていると思います。あえて言えば、職種や使い手の属性によって反応の傾向が違い得るので、その点をもう少し深掘りしても良いと思います。単純に、ハイパフォーマーとローパフォーマーでは使い方や成果が違う、など（その系統の論文はどんどん登場してきています）。あるいは、専門職とより単純なワーカーとでは反応が異なる、など。

このあたりは理論を精緻化していく余地が大きいのですが、昨今はAIといっても研究していくそばから技術がさらに進歩してしまいます。そのため、ある発見や理論仮説の妥当性を十分検証する時間もないまま、新しい現象が次々生まる感じになってきていると感じます。これを解消するには、究極的にはAI自身に社会科学研究（特に検証・追試部分）を自動化してやらせるしか無いのかも知れません。