Datification：技術がヒトの行動原理を変え、社会を支配する？

3つの視点での経営情報論における関心の整理（前回の続き）。

1　システムそのもの（ツール、技術、手法）
2　システムがもたらすある分野への影響（例：医療、マーケティング、教育）
3　システムの具体的な活用とその結果のあり方（例:個人・組織・社会への影響）

（以下、次の論文の要旨を咀嚼したものです
Günther, W.A., Mehrizi, M.H.R., Feldberg, F., Huysman, M.H., 2017. "Debating Big Data; a Literature Review on Realizing Value from Big Data,". Journal of Strategic Information Systems 26 (3), 191-209.）

2/3で問題となっている一つの大きなテーマは、「Datification」です。ある技術を使ったら、組織がどういう結果を生むか。これが単線・一次的な因果関係ですが、Datificationはこれを越えて因果関係をシステム的にとらえたものです。要は、

・あらゆるもののデータ化が進み、様々な変化が発生する
・そして、今度はその変化を所与として前提が変化した組織行動が起こる
・特にデータ化浸透の場合、行動や成果の評価方法と質、序列化と分類の方法が革命的に進化することが大きい
（主観的な分析と行動に任せた結果を断片的に解析する状態から、データ全量解析と行動の結果に基づく即時フィードバックの浸透）
・その結果、AIが規定する高い評価基準に沿って高評価を得ようと、組織・個人の行動が変質する（AIの分析が結果として意図せざるビッグブラザーになる）

といった議論です。

これに代表される重要なイシューとして、AIが組織に不可避的につきつける倫理課題を無視することはできない、という論調が情報系に強く存在します。主に、次のようなものが挙げられています。

・AI活用による雇用問題・職務の性質変化の問題
（よくある議論ですが）AIは仕事を奪うのか？どう変えてしまうのか？

・AI活用による経営誤判断の問題
データの偏りも含め、AI判断には誤判断もある。小さな分析なら良いが、経営判断の重要部分を結果的に誤判断し、組織や他社に損害を与える場合、どうその責任を取るのか？あるいはそれをどう管理するのか？

・AIによる法的あるいは評判の問題
AIによる最適化の前提となる徹底的な情報収集は、プライバシーの問題を生む。プライバシーは、何がどのように守られるべきか。また差別助長など、社会的な害悪とされる現象や評判の損失など、どう扱うべきか

・損害を一方的に受ける個人の救済措置の無さ

一つの例として、豪州政府が導入した学校評価システム（My School）の事例研究は好例です（Marjanovic & Cecez-Kecmanovic, 2017）。組織成果を評価するシステム導入自体は過去から検討された素材ですが、事例研究によれば、単に「見える化」するだけで、評価が下位の組織は改善に向け行動を変え、周辺の地価も変動してしまう。政府は、評価だけが独り歩きしないよう学区の情報を具体的に提示して、どういう条件の学区なら成果が高いかを開示した。要は、政府は意図を持って、教育変革と質の向上を目指すために評価システムを使った。

これは良い話に聞こえますが、一歩間違えれば、技術が提示する最適解を社会システムに反映させることは、一定の方向に社会を誘導することときわめて近しい。そこで有利になる存在・不利になる存在が生まれます。大学ランキングなどはその典型で、評価を提示すること自体は善なる目的があったとしても（そしてその頻繁な更新が技術によって容易に可能になっていますが）、それはManipulationになってしまい別の善を破壊する側面もあると。

ポイントは、AIをはじめとするデータシステム自体が、大規模に実装された際に、評価と分類を通じて組織行動を変えさせてしまうこと。機械学習についても、Güntherらはこの時点で積極的に研究に取り組むべきと提唱しています。しかし、現在まで実証研究は限られる状況にあります。