AI社会共創・ラボの経済経営学グループの勉強会がこの日曜日にありました。
今回は、下記の本を題材に議論しています。
・アンドリュー・マカフィー／エリック・ブリニョリュフソン著
プラットフォームの経済学：機械は人と企業の未来をどう変える？（2018年、日経BP）
著名な本なので詳細は割愛しますが、一つ議論になったのが、
・非合理な人間に頼りすぎず、意思決定に人工知能をもっと取り入れていくべき
というこの本の冒頭の方の論。
大筋はYESなのですが、現実の組織でそれをやると独特の問題が起こる指摘があります。
それが、Parry et al. (2016)という、経営学では数少ないAIを正面から論じた組織論の理論論文です。
・Parry, K., Cohen, M., & Bhattachary, S. (2016). Rise of the Machines: A Critical Consideration of Automated Leadership Decision Making in Organizations. Group & Organization Management, 41(5), 571 –594.
Parry et al. (2016)は、AIを組織に導入し人間の意思決定を代替させたときに、どのような影響が生じるか、メリットとデメリットの両面で論じています。
メリットとしては、大きく二点。
① 複数のデータ層を横断した、人間に不可能な複雑なデータ分析が可能となる
② 痛みを伴う、嫌われがちな政治的に困難な意思決定が可能になる
（意思決定の「脱属人化」（De-individualization of leadership）
これら（特に①）は、「プラットフォームの経済学」が主張するAI意思決定の推進理由とも合っています。
一方で、デメリットとしてこれらに対応して大きく二点が提示されています。
1．機械が下した判断に盲目的に従わせることは、組織の動機づけを損なう
2．100％機会任せにする場面を想定すると、「意思決定のパラドックス」がある
1は、例えば企業で流行のHR Techを考えると分かりやすいでしょう。
人材採用でAIが採用を決定する方が採用業務の生産性は高まる。でもだからといって、機械に自動不採用にされる会社で働きたいと思うか？また採用された人も社内での人事評価で同じ事が起きたら、納得してやる気が出るか？
実際に、4月のAOM Big Data Conferenceの発表論文で、「AIで採用を決定する」というシグナルはその企業への候補者を遠ざける（減少させる）という実証研究がありました。
また従業員の日々の時間データ、健康データ、その日の感情データ等をAIが自動収集・分析し、バーンアウトや退職の予備軍を見つけるというソリューションが出てきていますが、これもやり方を間違えると、それ自体が監視圧力に感じられ逆にモチベーションを削ぐ可能性があると思われます。
旧共産圏の国営企業では、職場に常時監視用のカメラが取り付けられ、従業員はオフィスで常に撮影される状況もあったとか。経験者に、西側資本主義国で職を見つけ働いた際に、「オフィスにカメラがない！」というだけでも興奮し、モチベーションが全く違った（高まった）と聞いたことがあります。
論文ではこれに対する解決策の仮説として、
・AIをあくまで経営チームの一員として扱い、それを自動裁定者とはしない
・他の経営陣はWHYをストーリーとして組織に伝え奮い立たせる役割を果たす
（そこにこそ、人間の管理職や経営者の決定的役割が残る）
という主張をしています。
「風の谷のナウシカ」（宮崎駿氏の漫画）で言えば、全能的なAI（巨神兵）を人類の裁定者としたところで、その裁定の正しさを担保する全てを見通す力や、その決定の実現を担保する影響力ゆえに、人類の幸福とは別次元の結果をもたらすという感じでしょうか。
一方でもう一つのデメリット（「拒否権のパラドックス」）とは何でしょうか。
これは、以下のような問題です。
A. 意思決定は全てAIに任せれば良いのではないか？
しかし全てをAIの判断に任せると、動機付けの問題もあり、他にも倫理的問題が生じる。
例えば、AIの判断が負の結果を出した際に、結果責任を誰が取るかが不明確であり、自動運転の事故と同様の（かつ千差万別の）問題がオフィスのそこら中で毎日起こる。
また、AIでは判断の誤り方やその結果の深刻度が人間と異なり、予測不能である。そのリスクは誰が取るのか。とんでもない結論で暴走して企業に損害を与えることがないか。
B. 意思決定はAIを使いつつ、人間が強くグリップすれば良いのではないか？
一つのやり方は、基本的にAIに任せつつ、AIの意思決定に対する拒否権を人間が持つことである。誰かがAIの意思決定を監視して、変な結論が出た際はストップさせれば良い。
しかし、AI判断への拒否権を特定の個人が持てば、結局は拒否権を持つ人が独裁者となってしまう。なぜなら、拒否権を恣意的に使うことで、自分に都合の悪い決定だけ止め、都合の良い決定をスルーすることで、経営者がAIを支配の隠れ蓑に使う可能性があるため。
それなら、拒否権を一人に集中させず分散させれば良いのではないか。そうすれば、一人が恣意的に独裁することは出来なくなる。しかし、拒否権者が複数いると、それぞれが自分の都合の悪いことや自分の合理性の中で非合理に見えることをストップさせる行動を取ると、意思決定が迅速に進まない。複数の利害関係者が調整しながらその結果で物事が決まる、AIが無い状態とほぼ同じポリティクス支配の状態に戻ってしまう。
AとBは二律背反で、堂々巡りになるのではないか。
Parry et al. (2016)はこうした未来的な問題を提示しています。
これに対する解決策は何でしょうか？Parryらは、二点を仮説として挙げています。
第一に、拒否権を人間に残した上で、Critical event log（フライトレコーダーのような、AI判断と人間の反応の詳細な記録）を残すこと。どういう場面でAIがどういう判断をし、それに対して個々の人間がどういう介入をしたかを徹底的にログに残すことで、個々の責任とAIが修正すべきことを明確にしていくことが可能になる。例えばAIの意思決定に従って企業を買収したが経営に失敗し、結果的に企業価値を大きく毀損した際に、株主代表訴訟で個々の拒否権者の責任程度をログに基づいて判断するイメージ。
そして第二に、常時AIにフィードバックを与え学習させ続けること。その企業の文脈にあった意思決定とは何かを結果から学ぶことで、意思決定の妥当性が上がっていく。
これらは実証研究ではなく理論段階なので、まだ実際にそうだという実例や根拠がある話ではありません。しかしこのような議論が、経営学（組織論）では一部で少し出始めている、という空気感です。まず各分野の理論（AI✕その理論領域）が先に出て、数年後にかけ実証研究が増えていくイメージではないでしょうか。
拒否権のパラドックス以外にも、実務的にはいくつかパラドックスが見えている部分はあるので、こうした、AI導入によって組織が内部に新たに抱える課題の特定とメカニズムの解明は、組織論の重要な役割になる（はず）と思います。
今回は、下記の本を題材に議論しています。
・アンドリュー・マカフィー／エリック・ブリニョリュフソン著
プラットフォームの経済学：機械は人と企業の未来をどう変える？（2018年、日経BP）
著名な本なので詳細は割愛しますが、一つ議論になったのが、
・非合理な人間に頼りすぎず、意思決定に人工知能をもっと取り入れていくべき
というこの本の冒頭の方の論。
大筋はYESなのですが、現実の組織でそれをやると独特の問題が起こる指摘があります。
それが、Parry et al. (2016)という、経営学では数少ないAIを正面から論じた組織論の理論論文です。
・Parry, K., Cohen, M., & Bhattachary, S. (2016). Rise of the Machines: A Critical Consideration of Automated Leadership Decision Making in Organizations. Group & Organization Management, 41(5), 571 –594.
Parry et al. (2016)は、AIを組織に導入し人間の意思決定を代替させたときに、どのような影響が生じるか、メリットとデメリットの両面で論じています。
メリットとしては、大きく二点。
① 複数のデータ層を横断した、人間に不可能な複雑なデータ分析が可能となる
② 痛みを伴う、嫌われがちな政治的に困難な意思決定が可能になる
（意思決定の「脱属人化」（De-individualization of leadership）
これら（特に①）は、「プラットフォームの経済学」が主張するAI意思決定の推進理由とも合っています。
一方で、デメリットとしてこれらに対応して大きく二点が提示されています。
1．機械が下した判断に盲目的に従わせることは、組織の動機づけを損なう
2．100％機会任せにする場面を想定すると、「意思決定のパラドックス」がある
1は、例えば企業で流行のHR Techを考えると分かりやすいでしょう。
人材採用でAIが採用を決定する方が採用業務の生産性は高まる。でもだからといって、機械に自動不採用にされる会社で働きたいと思うか？また採用された人も社内での人事評価で同じ事が起きたら、納得してやる気が出るか？
実際に、4月のAOM Big Data Conferenceの発表論文で、「AIで採用を決定する」というシグナルはその企業への候補者を遠ざける（減少させる）という実証研究がありました。
また従業員の日々の時間データ、健康データ、その日の感情データ等をAIが自動収集・分析し、バーンアウトや退職の予備軍を見つけるというソリューションが出てきていますが、これもやり方を間違えると、それ自体が監視圧力に感じられ逆にモチベーションを削ぐ可能性があると思われます。
旧共産圏の国営企業では、職場に常時監視用のカメラが取り付けられ、従業員はオフィスで常に撮影される状況もあったとか。経験者に、西側資本主義国で職を見つけ働いた際に、「オフィスにカメラがない！」というだけでも興奮し、モチベーションが全く違った（高まった）と聞いたことがあります。
論文ではこれに対する解決策の仮説として、
・AIをあくまで経営チームの一員として扱い、それを自動裁定者とはしない
・他の経営陣はWHYをストーリーとして組織に伝え奮い立たせる役割を果たす
（そこにこそ、人間の管理職や経営者の決定的役割が残る）
という主張をしています。
「風の谷のナウシカ」（宮崎駿氏の漫画）で言えば、全能的なAI（巨神兵）を人類の裁定者としたところで、その裁定の正しさを担保する全てを見通す力や、その決定の実現を担保する影響力ゆえに、人類の幸福とは別次元の結果をもたらすという感じでしょうか。
一方でもう一つのデメリット（「拒否権のパラドックス」）とは何でしょうか。
これは、以下のような問題です。
A. 意思決定は全てAIに任せれば良いのではないか？
しかし全てをAIの判断に任せると、動機付けの問題もあり、他にも倫理的問題が生じる。
例えば、AIの判断が負の結果を出した際に、結果責任を誰が取るかが不明確であり、自動運転の事故と同様の（かつ千差万別の）問題がオフィスのそこら中で毎日起こる。
また、AIでは判断の誤り方やその結果の深刻度が人間と異なり、予測不能である。そのリスクは誰が取るのか。とんでもない結論で暴走して企業に損害を与えることがないか。
B. 意思決定はAIを使いつつ、人間が強くグリップすれば良いのではないか？
一つのやり方は、基本的にAIに任せつつ、AIの意思決定に対する拒否権を人間が持つことである。誰かがAIの意思決定を監視して、変な結論が出た際はストップさせれば良い。
しかし、AI判断への拒否権を特定の個人が持てば、結局は拒否権を持つ人が独裁者となってしまう。なぜなら、拒否権を恣意的に使うことで、自分に都合の悪い決定だけ止め、都合の良い決定をスルーすることで、経営者がAIを支配の隠れ蓑に使う可能性があるため。
それなら、拒否権を一人に集中させず分散させれば良いのではないか。そうすれば、一人が恣意的に独裁することは出来なくなる。しかし、拒否権者が複数いると、それぞれが自分の都合の悪いことや自分の合理性の中で非合理に見えることをストップさせる行動を取ると、意思決定が迅速に進まない。複数の利害関係者が調整しながらその結果で物事が決まる、AIが無い状態とほぼ同じポリティクス支配の状態に戻ってしまう。
AとBは二律背反で、堂々巡りになるのではないか。
Parry et al. (2016)はこうした未来的な問題を提示しています。
これに対する解決策は何でしょうか？Parryらは、二点を仮説として挙げています。
第一に、拒否権を人間に残した上で、Critical event log（フライトレコーダーのような、AI判断と人間の反応の詳細な記録）を残すこと。どういう場面でAIがどういう判断をし、それに対して個々の人間がどういう介入をしたかを徹底的にログに残すことで、個々の責任とAIが修正すべきことを明確にしていくことが可能になる。例えばAIの意思決定に従って企業を買収したが経営に失敗し、結果的に企業価値を大きく毀損した際に、株主代表訴訟で個々の拒否権者の責任程度をログに基づいて判断するイメージ。
そして第二に、常時AIにフィードバックを与え学習させ続けること。その企業の文脈にあった意思決定とは何かを結果から学ぶことで、意思決定の妥当性が上がっていく。
これらは実証研究ではなく理論段階なので、まだ実際にそうだという実例や根拠がある話ではありません。しかしこのような議論が、経営学（組織論）では一部で少し出始めている、という空気感です。まず各分野の理論（AI✕その理論領域）が先に出て、数年後にかけ実証研究が増えていくイメージではないでしょうか。
拒否権のパラドックス以外にも、実務的にはいくつかパラドックスが見えている部分はあるので、こうした、AI導入によって組織が内部に新たに抱える課題の特定とメカニズムの解明は、組織論の重要な役割になる（はず）と思います。
コメント
コメントを投稿