スキップしてメイン コンテンツに移動

どんな姿のAIなら信頼できるのか？

今日のAIに関する経営学論文は、AIに関してよく登場するテーマを扱ったレビューです。

Glikson, E. and Woolley, A. W. (2020)　‘Human Trust in Artificial Intelligence: Review of Empirical Research’, Academy of Management Annals, 14/2: 627-660.

要するにこの論文は：

AIに対して人間が感じる信頼に関する、過去の研究をレビューした。

ポイント：

•        AIの形態には大きく3種類ある

1.      Robotic AI：人型・あるいはその他の形の物理的なロボット

2.      Virtual AI：チャットボットやアバターなど、バーチャルな姿

3.      Embedded AI：姿がなく、人間には直接見えない存在

•        これらの形態は、人間がAIに対して感じる信頼感に強い影響を与える

•        具体的には、認知・感情の両面で、次の点が信頼感に影響する：

1.      Tangibility：AIが目に見える存在か？

2.      Transparency：AIの判断のあり方に透明性があるか？

3.      Reliability：繰り返しAIを使っても同じ対応を取ると信頼できるか？

4.      Task characteristics：作業の特性上、人間でないと不快・不安なものはあるか？

5.      Immediacy behaviors：AIの判断と行動・結果が連動して見えるか？

6.      AI’s anthropomorphism（擬人性）：AIにキャラクター性があるか？

•        信頼感の時系列での変化にも、形態によって違いがあり得る

1.      ロボット：最初は違和感が強く低い信頼しか得られないが、使ってその機械的な姿に慣れていくに従って、愛着と共に高い信頼へと移行する。

2.      その他（アバターなど）：　最初は受け入れやすい姿で高い信頼を得やすいが、慣れてくると徐々に信頼が低下していく。

コメント：

人間がAI（による助言や成果）を信頼できることはAI活用の前提となります。そのため、AIの信頼感の最適化は重要な課題となります。このような、「信頼」系もAIを扱う検討の一つの大きな論点となっています。

ここでのポイントは、AIの形態が信頼感に影響するので、用途に応じたAI形態の最適なデザインが重要となる、という点。現状はAIの見た目や見せ方よりも、まずは性能に関心が集中しています。性能が一定以上になったら、次は視覚的なものやその他も含めたデザインの重要性が増す。コンピューターと同様に、AIも発達のための課題が進化していくということでしょう。

ラベル:

コメント

コメントを投稿

このブログの人気の投稿

NWOW

 アメリカ経営学会の2022年次大会(Academy of Management, Annual meeting)が終わりました。先週に続いて、テクノロジー系で重要だと感じた議論をメモしておきます。 一つ面白いキーワードとして、「NWOW」(New Ways of Working)がフィーチャーされていました。NWOWとは、様々な技術やコロナの影響を受けて登場した「新しい働き方」のことです。これが、企業や職場に根本的な変化をもたらし、新しいスタンダードが今まさに形成されようとしているという考え方です。内容としては、テレワーク（在宅勤務）、自由な勤務時間、シェアデスク（オフィスでも固定席は無し）、コワーキングスペース多用、フラットで階層性の小さい関係、などが取り上げられています。 昨今は、普通の会社でもある程度こうした新しい慣習が広がっています。海外では、「大退職時代」ということもあり、企業がこの変化に対応していないと従業員がすぐ辞めてしまうので、変化は不可逆だという論調になっています。具体的には、 新時代のオフィスデザインが、新しい働き方の概念とどう相互に影響を与えていくか 新しい働き方は企業の組織アイデンティティをどう変えていくか 新しい働き方は、企業と従業員の間にどのような虚々実々の駆け引きを生むか などが研究例として取り上げられていました。 こうした「新しい何か」という議論は、過去からずっとその時代ごとに対象を変えて行われています。今新しいものも、いずれ当たり前になり古くなり、というサイクルがあり。その意味で、単に現象として新しいことだけを訴求するのは不毛なので、何か固有の側面がある現象だと、文脈を定義づけなければいけません。NWOWの場合は、固有性を求めるとその本質はリモート性に行き着くように思います。他の特徴は、普及の程度に違いはあれある程度実現されてきたことか、リモート性によって生まれる派生の話だと思いますので。
コメントを投稿
続きを読む

AIがもたらす、制度の「変化の仕方」の変化

昨日、第34回AI社会論研究会が東京21Cクラブ（新丸の内ビル）にて行われました。今回は特別に前回から一週間も開けず続けて、海外からゲストを招き法律関係のトピックを議論する回でした。会場は満員大盛況で、社会的関心の高さがうかがえました。 講演者はトリノ大学のウーゴ・パガロ教授で、今年1月に翻訳が出版された書籍「ロボット法」の内容などをお話しされました。合わせて二回前に登壇された産総研の赤坂氏が、AIの法人格について補足講演され、パネルディスカッションが続きました。 『ロボット法』　ウーゴ・パガロ著　勁草書房 https://www.amazon.co.jp/%E3%83%AD%E3%83%9C%E3%83%83%E3%83%88%E6%B3%95-Ugo-Pagallo/dp/4326403454 （内容（アマゾンより））ロボット技術の進展に伴い発生する実定法上の問題を27に分類し詳細に検討するとともに、メタ技術としての法や人間とロボットの間の相互作用を規律する環境デザインの一部としての法といった法哲学的分析も施す。ロボット法研究において、どのような問題をどのような観点から研究していくべきかを考える、フレームワークを提示する。 演題は、The Hard Cases of AI & Robotics, and their Legal Governance。 詳細な法的論点も色々ありますが、次のようなお話をされていました。 ――――（ご講演のポイント）――――― AI・ロボットの進化と浸透に伴い、既存法と社会的現実との乖離が多くの分野で顕在化しつつある。そこで、様々な新しい法的論点が登場している。重要な点として、 ・AI・ロボットが権利侵害を発生させた際に、誰がどう責任を負うべきか？ ・その判定のためにどのような判断基準が必要か？（防止可能性、予見可能性…） ・そしてAI・ロボットに一定の法的地位（特に法人格）を与えるべきか？ などがある。 特に、AI・ロボットへの法人格の付与は話題となっている。 但し、法的には必ずしも法人格を与えなくても議論可能である。 例えば、 ・ペットが他人に怪我をさせる ・古代ローマ時代に奴隷（当時はモノと同じ扱い）が他人に損害を与える など、人間以外の存在が問題を起こす例はこれまでもあっ...
コメントを投稿
続きを読む

経営学に「未来ビジョン」はあるか

第35回AI社会論研究会 が、ドワンゴ人工知能研究所で昨日開催されました。 ゲストスピーカーはお二人。今回は 航空自衛隊 の方と SF作家 という、異色の組み合わせでした。普段は聞けない貴重なお話をうかがう機会になりました。 先に、航空自衛隊航空研究センター長の山下愛仁氏より、「 航空研究センターの概要と研究の取り組みについて 」のお話。航空研究センターは、航空自衛隊のシンクタンクとして研究企画を担う組織とのこと（研究領域は防衛戦略・事態対処など）。 未来の航空防衛を考える際、AIは主要国が注目する一つの重要要素である。日本としては、人口減少も考慮しAI/ロボットによる防衛機能の代替を真剣に考える必要がある。但し完全な無人化でなく、人とAIの協働の仕方を考える必要があろう。大筋このようなお話と理解しました。 紹介された米国の未来コンセプトYoutube動画にある、有人機とドローンの連携運用、ドローン編隊、母体から大量の小型子機を射出する自動飛翔体など、まさにSF的空想だった世界が真面目に検討されていました。こうした「SF的未来ビジョン」にはどういう意味があるか、は後半のSF論議で再登場します。 経営学との接点が無い話題ですが、あえて言えばこうした技術戦略の背景で、そもそも戦略を考える組織体制（タコツボに陥らない全体最適）、市場インテリジェンス（競合やサプライヤーの洞察）、戦略策定プロセスの柔軟性（可変性の組み込み）などが重要なのかとは感じました。また昨今では経営「戦略」は一般的な言葉になっていますが、戦略はもともと軍事用語であり、ビジネスの世界でそのアナロジーを使うこと自体が20世紀半ばの斬新なイノベーションだった、という経緯があります。それまでは、組織の形態や管理方法、また管理者の役割に関心が集中し、敵である競合と争って勝つための市場行動への洞察は基本的にありませんでした。今では経営戦略自体が独立して活発に検討され、軍事とはほぼ全く関係なく進化と枝分かれを続けていますが。 そして二番目のスピーカーは、SF作家の長谷敏司氏でした。 演題は、「 ＳＦ作品と未来ビジョンについて——未来ビジョンの作り方の一例 」。SF作家は、SF作品という「未来ビジョン」を作る仕事でもある。では未来ビジョン（SF作品）をどう作るのか？を、「ビートレス」という代表作...
コメントを投稿
続きを読む