AIの芸術や意思決定を、人間はどう評価するか？

AIによる芸術、というのも議論が活発化している領域ですが、今日の論文はそうした人工の成果物を人間がどう評価するか、というテーマです。

Jago, A. S. (2019) ‘Algorithms and Authenticity’, Academy of Management Discoveries, 5/1: 38-56. 

要するにこの論文は：

• 同じ芸術作品や意思決定を、「AIが作った」と聞いたときに人間が感じる評価をオンライン実験で実証した研究論文

ポイント：

• 実際にはAIが作った芸術作品・意思決定について、「AIによるもの」と言われた場合と、「人間によるもの」と（うそを）言われた場合とで見た人の感想がどう違うか、4種のオンライン実験を行った。
• 結果は、次の通りとなった：
• 同じAIが創った芸術でも、「AIが創った」と知ると、「人間が創った」と聞かされた場合よりも、「本物らしさ」に関する評価が低くなった。具体的には、moral authenticity（作者の意図を体現していると思うか）・type authenticity（その種別の作品らしさがあると思うか）の両面で作品評価が低かった。
• 同様に、同じ意思決定でも、回答者が「AIの意思決定」と知らされると、「人間の意思決定」と言われるよりも、信憑性・倫理的妥当性の両面で評価が低かった。
• 一方で、同じAIの芸術作品で「AIが創った」と知らされても、「このAIは人間の専門家に訓練された」と聞かされると、信憑性の評価が高まった

コメント：

AIへの信頼性に関して、トップ学会（AOM）のジャーナルで最初に出てきた論文です。2019年公刊なので、厳密には2020年代の論文ではないのですが、最初のものとして取り上げています。

簡単に言えば、AIにはスピードなど長所が多くても、それが「AIによる成果」と知ると、人間はその成果をネガティブに捉え低く評価することがある、という結果になっています。要は、機械にそれをやられると、どうも信用できない、受け入れられない、と感じる領域が人間にはあるということです。例えば、電卓が最初に登場したときも、「本当にそれで合っているのか？」と信用できず算盤で検算する人がいた、という感じでしょう。

もちろん、こうした受け取り方は、何より対象とする分野によって大きく変わります。そのため、どういう分野ならAIに任せることが出来、どういう分野は（仮に機械に一定のことが出来ても）人間が主導した方が良いか、という重要論点が出てきます。

特に、芸術作品では「人が創るからこそ情緒的な価値があるのであって、そうでないものはプログラムが偶然そういう状態を出しただけで、特別な価値がない」という否定的な感覚があるのかも知れません。あるいは、「機械がそこまで人間に近いことをしていると思うと気持ち悪い」という嫌悪感もあるでしょう。仮にAIが創った小説を読んで、興奮し熱中したとしても、プログラムの計算通りに踊らされているだけと感じてしまうというか。

また、例えば命に関わるような倫理的な意思決定も別の考量が働きます。「AIを信じて本当に良いのか？たとえ間違ったとしても、そこまで重要なことは人間自身が決めるべきではないのか？」という拒絶感でしょうか。自動運転で出てくるトロッコ問題も、深刻さの差はあれ形を変えて色々な場面で登場し得るものです。

またこの論文は、こうした「AIアレルギー」「AI不信感」への対処として、適切な人間の介入による、責任あるAI育成が重要と示唆しています。要は、そのアルゴリズムの訓練過程の質を確保し、またそれを透明に見せてアピールすることが重要となるのではないか、ということです。