専門的な仕事にAIツールを導入したらどうなるか？

久しぶりに、Organization ScienceのAI特集号に戻って、論文サマリーを続けていきます。今回は、次の論文です。

Lebovitz, S., Lifshitz-Assaff, H., & Levina, N. (2022). To engage or not to engage with AI for critical judgements: How professionals deal with opacity when using AI for medical diagnosis. Organization Science, 33(1): 126-148.

要するにこの論文は：

病院でのAI診断ツール導入を題材に、専門職のAIツール活用の実像を探索した実証研究。

ポイント：

• AIに関して、それが人間が行うタスクを「自動化」するか「強化」するか、の二元論が議論となっている
• しかし、実態はそのように単純なものではない。AIは専門的な判断を提供するとしても、その根拠を提示しない「ブラックボックス問題」があるため、根拠が求められるような重要な仕事では、単純にAIの判断結果を使うことは出来ないためである。
• 本研究では、病院での放射線診断という文脈を題材に、専門職がAIツールを使う上でその不透明さにどのように対処し、AIを能力強化に活用出来るのかを検証した。
• 具体的には、米国病院での3つの部門（肺がん診断、乳がん診断、骨からの年齢推定）を題材に、500時間の観察と33件のインタビューを含むエスノグラフィーを行った。
• 結果として、次の発見があった。
• 放射線技師は、どのパターンでも、AIの診断が自分の判断と異なる場合に直面し、またAIの判定根拠が分からないためどう処理すれば良いか困る状況に直面した。
• これに対して、どうAIツールを活用し、AIと協力して人間の能力を増幅できるかについて、「関与型の強化」と「非関与型の強化」の2つのパターンが存在した。
• 「関与型の強化（engaged augmentation）」では、専門職がAIの判定とその材料データ（画像）を厳密に再精査し、判定の根拠を推測し、自らの判断との違いを理解し、また自らの判定基準にそれを反映していく、AIによる知識と自らの専門知識を統合していく努力が見られた。
• 「非関与型の強化（unengaged augmentation）」では、専門職はAIのブラックボックス性からそれに対する厳密な精査をあきらめ、無条件にその判定を受け入れるか、またはAIの判定を無視して従来通り判断を人間が行うか、の反応につながった。
• この発見から、次のようなAIに関する理論的示唆がある。
• 従来、AIがタスクを自動化せずに人間の専門家と協働すれば、それは一律に専門家の能力「強化」につながると想定されてきた。しかし実態は、「強化」を複数の場合に分け、ニュアンスを厳密に見る必要がある。
• 同様に、専門職の判断にAIツールを導入すれば、AI単体や人間単体で行うよりもパフォーマンスが上がるという前提が広く社会にある。しかし実態は、（特に非関与型の強化の場合に）単純なパフォーマンス向上につながるとは限らない。

コメント：

AIと専門職に関する、本格的なエスノグラフィーによる探索研究です。著者にまさにこのトピックで著名な研究者を含んでおり、Organization Scienceの特集号として、「真打ち登場」という感じの何本かのうちの一本だと思います。

内容的には、非常に面白い発見をクリスプに紹介しています。「AIと人間が共存すれば能力強化につながり、パフォーマンス向上にもつながる明るい未来が描ける」という、我々が持ちがちな甘いシナリオ。それが、必ずしもそう簡単には実現しないことを示しています。人とAIの共存の仕方にある、パターンやその法則性の解明は、明らかに今後の研究の一つの重要分野になっていくと思います。その出発点となる、今後の土台となる研究と言えるでしょう。

あえて希望を言えば、3つの部門での事例研究で、かつ結果も部門で明確に分かれたという内容なので、部門毎の先行条件やシナリオ分岐の変数をもう少し厳密に分析しても良かったと思います。要は、ある部門では関与型になったのに、他の部門ではがなぜ非関与型になったのか、その理由を比較分析する部分が欠けているように思います。本旨と違うので執筆中や査読中にあえてカットした、ということかと思いますが、せっかくのデータなのでそこが知りたいと思ってしまいますし、まさにその分岐要因こそが重要だと感じます。