AIのバイアスはどうすれば抑制できるのか？

アルゴリズムの処理結果をそのまま使おうとすると、結果が歪んでいることがあります。このようなバイアスにどう対処すべきか？ここでは、これを実験で検証した戦略論ジャーナルの論文を取り上げます。

Choudhury, P., Starr, E., & Agarwal, R. 2020. Machine learning and human capital complementarities: Experimental evidence on bias mitigation. Strategic Management Journal, 41(8): 1381-1411.

要するにこの論文は：

データのゆがみから生まれるAIのバイアスをどう抑制できるかに関する、事例と実験での実証研究論文

ポイント：

• 特許審査は、申請データにゆがみがあり、その微妙な真贋の判定が必要なタスクである。
• 申請者は一般に、申請が認められやすいよう、言葉の工夫で新規性を誇張して主張する（ゆがんだ言語データを生成する）。
• そのため、審査分析を単純に人工知能で機械化すると、文言に誘導され結果にバイアスがかかってしまう。
• これに対し、米国MBA学生（221人）による実験（AIを活用した特許の模擬審査）を行った。結果として、特許対象の文脈に予備知識がある人間がAIを補助することで、AIはより妥当性の高い分析結果を抽出できるようになり、バイアスが抑制された。

コメント：

AIの判断の質（バイアス）は、データの質に強く影響されます。現実にはゆがんだデータは多いため、AI活用の際には、バイアス除去のための対応が重要な準備となります。そのための一つの解決策は、綺麗なデータを使うこと（データクリーニング）ですが、それだけでは十分ではありません。もう一つの解決の方向性は、AI自体は不十分なものとして受け入れ、文脈知識ある人間がAIの補助を行う、相互補完の共同作業を設計することとなります。

この論文は、そのような、「人間とAIの共同作業で実際にバイアスが抑制できる」ことを示した点が、発見の中心となります。特許審査という、実際に存在する業務でこれを実証した点も画期的です。

アルゴリズムの処理結果を使う時に、一定の誤りやバイアスがあることを前提とすることは、非常に重要です。その際に重要なことが二つあります。

一つには、誤答がどのような場合に出るのか、人間と比べてどの程度出るのか、をテストしたうえで、使ってもよいところに使うことです。誤答があってもAIが人間より正答率が高く、また間違っても取り返しがつかないことがないタスク。

二つには、使い方として、人間がやるか機械が代替し自動化するかの二択ではなく、中間のハイブリッド型を取り入れることです。要は、機械の答えを参考に専門知識ある人間が判断することで、判断の質とスピードを上げること。実際に、特に専門性の高い業務領域では、そのような「機械を参考にダブルチェック」型の、人間と機械のハイブリッド運用が多くの業務領域で広がっています。