自動化と強化のパラドックス

AI関係の経営学論文紹介の1本目です。正式な論文ではない（ブックレビュー）のですが、有名な考え方でもあるので紹介します。

 ＜今日の論文＞

Raisch, S. and Krakowski, S. (2021), ‘Artificial intelligence and management: The automation-augmentation paradox’, Academy of Management Review, 46/1: 192–210.

＜簡単に言うと＞

AIは人の簡単な作業を代替し（自動化）、人はより高度な作業を受け持つようになる（強化）が、業務の強化は新たな自動化を生むので、そのサイクルは止まらない。

＜ポイント＞

• AIは業務の自動化と強化をもたらす。
• これらは二律背反で、組織はどちらかを選ぶ必要があると考えられてきた。しかし、実際には両者は補完関係にある。具体的には、次の二つの作用で相互強化が進む。
1. 第一に、長い時間軸で考えると、AIによる業務の強化は業務の自動化につながる。具体的には、AIを活用しより高度な業務に取り組むことで、新たな法則性や業務プロセスのパターンが発見される。またその解析に必要なデータを特定して蓄積することが可能になる。そのため、高度な業務に専念するほど、新たにさらに自動化出来る業務領域が見つかり、さらに高度な業務領域に人間はフォーカスしていくサイクルがある。
2. 第二に、業務の幅を広く取ると、AIによる自動化は、自動化する業務の前工程と後工程で、AIによる業務の強化につながる。これは、自動化に必要なインプットを前工程で用意し、またAIが出したアウトプットを後工程で解釈して使う必要があるためである。それらの準備・AI利用の過程で、それら前後工程自体にも考えなければならない要素が増え、それが業務の強化につながる。
• 但し、AIによる完全な自動化は実現しない。なぜなら、4つの技術・社会的要因がボトルネックとなるためである。
1. 目標設定：機械には、責任と表裏一体である目標設定が出来ない（そもそも「組織が何を目指すべきか」自体を機械に任せて良いとする合意が人間には出来ていない。
2. 意思決定：機械には、ある決定が学習データ範囲を超えて組織・社会に広く及ぼす影響を推察する能力が限られている。
3. 文脈化：機械は、訓練されたデータと異なる文脈に最適解を出すことは出来ない。
4. ソフトスキル：機械には、人間の認識・感情・社会的スキルを適切に解釈・処理する能力が限られている（現状では、人間のソフト面の反応を予測し適切に対処するためのデータが不足している）
• 組織は、これらAIの特性を考慮し、正のサイクルを目指してAI導入を行う必要がある
• 負のサイクル
• 自動化だけにフォーカスすると、確かに対象業務の生産性は上がる。しかし、短期志向化・人間の関連業務スキル喪失・ロックイン効果（一度作ったプログラムを前提に業務が固着する）の面で負の影響がある。さらに、一度自動化されれば人間はそのシステムに依存し、さらに業務の質を上げる活動は次第に困難になる。
• 強化だけにフォーカスすると、確実ではないが夢のような成果を目指して投資を行うこととなる。仮にすぐに成果が出なくても、投資回収のためにプロジェクトは継続され、成果のない投資が続くこととなる。
• 正のサイクル
• 自動化と強化は二律背反でなく、相互強化的である。それを前提に、何を自動化し何を強化するかを設計する。人間がその全体責任を持つことが、機械の弱点を補い、自動化と強化の二者の統合的な活用を実現する。

＜コメント＞

「自動化と強化のパラドックス」を通じて、AIの業務導入の実態を説明する共通理解を整理した意味で、重要な論考です。この論文誌は経営理論専門のトップジャーナルであり、AI論が登場したこと自体にもインパクトがあります。内容よりも、まずはその登場自体に意味があるような。

但し、この議論は業務のレベルに焦点を当てているため、「結局のところ企業組織はどういう形になるのか」といった関心には特に応えていません。より原理的なレベルでの仮説整理にとどまっています。

また、ここで言っていることは確かに非常にそれらしいのですが、未発展の理論分野でもあり、課題もあります。特に、本当にそうなのか、どういう組織ならそれがあてはまり、どういう組織なら例外となるのか、といった突っ込みには、応えるだけの実証研究がそもそもまだ無い段階にあると思います。

特に気になるのが、「人はAI導入と改善を果てしなく続けようとする」という前提です。もちろんあえて分かりやすく単純化したものですが、現実は人の抵抗や制約もあり、それほど一直線に進んでいないと思います。新しい技術の通例に従って、まだら模様でAIも普及していくのが実態かもしれません。そうすると、この論文のような見方を一つの極端な原理として、その通りになるのかという視点に加え、当然起こる例外にはどのようなものがあり、なぜ起こるか、という深掘りもさらに重要だと思います。