ChatGPTなど、生成系AIの急速な発達によって、AIが人間の知能を越えるシンギュラリティの到来が現実味を帯びてきました。これまで人類が体験したことのない時代を生きる上で、私たちはAIとどのように向き合っていくべきなのでしょうか？

人間とAIの共存に注目が集まる中、「AI親友論」という書籍が刊行されました。著者は、日本の哲学界をリードする京都大学文学研究科哲学専修の出口康夫教授。人間とAIを共に冒険をする対等な仲間であると考える「共冒険者」モデルを提案する出口教授に、アルー株式会社のエグゼクティブコンサルタントで京都大学経営管理大学院客員准教授の中村俊介が、これからの時代の個人や組織、リーダーシップのあり方についてお話をうかがいました。

この記事は、特にこのような方におすすめです。

本記事は8月に開催したセミナー「『AI 親友論』から考える個人、組織、リーダーのあり方とは」の内容を編集したものです。是非、こちらの記事も合わせてご覧ください。

プロフィール

出口康夫
京都大学大学院文学研究科哲学専修　教授
二“人”の犬と共に京都に暮らす哲学者。京都大学大学院文学研究科哲学専修教授。京都哲学研究所代表理事。京都大学文学部卒、同大学院文学研究科博士課程修了。博士（文学）。専門は数理哲学、分析アジア哲学。近年「われわれとしての自己（Self-as-WE）」をキーワードに思索を展開している。近著に『AI 親友論』（徳間書店）など。

▼『AI 親友論』（徳間書店）の詳細

中村俊介　
アルー株式会社　エグゼクティブコンサルタント
京都大学経営管理大学院　客員准教授
東京大学文学部社会心理学専修課程卒。大手損害保険会社を経て、創業初期のアルー株式会社に入社。営業マネージャー、納品責任者、インド現地法人代表などを歴任。現在はエグゼクティブコンサルタントとして企業のリーダー育成を手掛けるほか、京都大学経営管理大学院「パラドキシカル・リーダーシップ産学共同講座」の客員准教授を務める。

AI、ロボットは人間の奴隷なのか？

中村 俊介(以下、中村)　前回の記事「AI親友論」から考える個人と組織の未来～「わたし」から「われわれ」へ転換～では、AIの発達によって、到来する可能性のある「人間失業」のお話から、それを回避するための人間観の転換、「わたし」から「われわれ」へというWEターンの思想と、その考えをどのように社会に活用していけばよいかというお話をうかがいました。

今回は引き続き、出口先生の著書「AI親友論」を題材に、さらに踏み込んで、世の中のデファクト・スタンダードとなりつつある「主人－奴隷モデル」への対案として出口先生が提唱されている「共冒険者モデル」をキーワードに、個人、組織、リーダーシップのあり方について具体的に考えていきたいと思います。

出口 康夫氏（以下、出口 敬称略)　私が著書「AI親友論」で「AIと人間のあるべき関係」として提案している「共冒険者モデル」についてお話するために、まずは、「主人-奴隷モデル」の考えについて説明したいと思います。
「主人－奴隷モデル」とは、AIと人間の関係において、人間は主人＝マスターで、ロボットやAIは奴隷、もしくは召使い、拡張機能でなければならないという考えです。

こうした主張をする根拠として、ベルリン・ハーティー大学のジョアンナ・ブライソン教授は、「人間はデザイナーで、ロボットやAIはデザインされたものである。デザインという行為を挟んで、完全に非対称な関係があるため、ロボットやAIは、人間の利益や価値に一方的に奉仕するものでなければならない」と主張しています。

中村　こうした考えは広く支持されているのでしょうか？

出口　EUを中心に、AI・ロボット開発の１つの指針となっていると言えます。しかしながら、私はこうしたモデルについて問題点があると考えています。そもそも、ジョアンナ・ブライソン教授の主張は、論理として成り立っていないところがあるように思います。

確かにデザインする側とデザインされる側という違いはあるかもしれません。しかし、それがそのまま奉仕する側とされる側に分かれるという根拠になるとは限らないと思います。主人ではないデザイナー、奉仕者ではないデザインされたものという可能性は十分に考えられます。

また、私が実際にロボットやAIをつくっている現場で技術者の方々にインタビューをさせていただくと、彼らの多くはこんな考えは持っていないということが分かります。彼らは「我々がつくっているのは人間と共同する協力者、コラボレーターであって、人間の言うことを一方的に聞く奴隷をつくっているという感覚はない」と言っていました。

中村　人間と共同する協力者、コラボレーターというのはいい考えですね。
ドラえもんや鉄腕アトムが思い浮かびました(笑)

出口　まさにそうした関係が理想であると考えています。「主人－奴隷モデル」がデファクト・スタンダードとなりつつある背景には、人間中心主義的な考えがあると思っています。これは良くない思想です。
私は、AIやロボットが将来私たちの社会の中に入って来て生活を支えてくれるようになるとしたら、AIやロボットも「われわれ」の一員となるようなオルタナティブなモデルを提示したいと考えています。そのためには、人間中心主義的な考えではなく、平等性を基軸とした別のモデルがありうるのではないかと考えました。そこで私が提唱しているのが「共冒険者モデル」です。

共冒険者モデルの提案

中村　「AI親友論」を読んで、「共冒険者モデル」は、AIと人間の関係のみならず、人間と人間、人間と組織の関係を考える上でも役立つ概念であると思いました。改めて、詳しく教えていただいてもよろしいでしょうか。

出口　「われわれ」の行為はすべて、ある一定のリスクを冒してあえて行っているという点からアドベンチャーに見立てることができます。どのような行為も、常に失敗する危険性がありながら、それでも「われわれ」はそのような行為を行っているわけです。つまり、行為を行っている「われわれ」＝マルチエージェントシステムのすべてのメンバーは、結果として、一つの大きな船に乗って一緒に冒険を仲間であると考えることができます。そのような発想から、一緒に冒険をする者という意味で、共冒険者モデル、もしくはフェローシップモデル、仲間モデルと私は呼んでいます。

共に冒険するもの、危険を冒すもの、運命共同体という意味での「共冒険者モデル」を考える上で、一番重要なのは、冒険を共にする様々なエージェントはお互いに支え合っている平等な関係であるということです。その場合のエージェントは人間以外に動物、自然物、人工物などがふくまれるのですが、全員が一定の役割を担っているクルーであって、非対称な主従関係は存在しないと考えています。

中村　なるほど。共に冒険をするものと言われるとイメージがしやすいです。共冒険者モデルでは、対等な関係が前提にあるとのことですが、共冒険者＝仲間関係とは、具体的にどのような特徴があるのでしょうか？

出口　共冒険者モデルには、「協調性」「参加随伴性」「リスク分担の平等性」という３つの特徴があると考えています。「協調性」は、「われわれ」の主体性を「わたし」と「あなた」が協力しながら分担している状態。「参加随伴性」は、「われわれ」に参加しない自由が認められていて、いつでも参加を取りやめられる状態。「リスク分担の平等性」は、失敗したら傷ついてしまう可能性がある中で、全員が同じリスクを共有している状態。
こうした条件を持たしている状態を仲間＝共冒険者モデルと呼んでいます。AIと人間の関係でも、私は最終的にはこういった関係が成り立つべきではないかと考えています。

中村　「協調性」「参加随伴性」「リスク分担の平等性」の３つの特徴は、良いチームや組織の条件としても参考になると思いました。

出口　まさにその通りです。私は、「共冒険者モデル」は、AIと人間のあるべき関係であると同時に、人間と人間や組織の関係など、良い「われわれ」を考える上での基準にもなりうると考えています。3つの特徴を満たしている関係は、視点を変えると、誰も「われわれ」の中心を占有しない状態であると言えます。これを「中空構造」と呼んでいます。

中村　「われわれ」が「中空構造」であるというのはどういう意味なのでしょうか？

出口　「われわれ」の真ん中というのは、いわば利益の中心、みんながその利益を実現すべく努力をしている領域であると言えます。誰か一人がこれを独占して、他のものたちが奉仕をするという関係になると全体主義的な「われわれ」になってしまいます。人間中心主義の考えというのは、この中心を人間が独占している状態であると言えます。こうした状況を避けるためには利益の中心の空席にしておかなければならないということです。

出口　「共冒険者モデル」から考えるよい「われわれ」は中空構造で、すべてのメンバーはリスクを平等に分担するという話をしましたが、あらゆる面で平等に扱われるべきだとは考えておりません。真ん中は空っぽであるとしても、様々なエージェントの役割の違いによって、より真ん中に近いところにいる人や遠いところにいる人などの違いがあるものだと考えています。

中村　そうした中心の近くや周縁という立ち位置の違いは何によって決まるのでしょうか？

出口　そこが重要なポイントです。人間が真ん中、それ以外は周縁というのは人間中心主義の考えです。あるいは、見かけがいい人が真ん中、悪い人は周縁というのはルッキズムとなります。それでは、誰が「われわれ」の真ん中の近く、中心近傍を占めるべきなのか。私は、それは、道徳的なエージェントだと考えています。

「われわれ」をよりよいものにしていこうとする、そうした道徳的な意識や目的意識を抱いている道徳的なエージェントこそが中心近傍に位置することが許される。言い換えると、「われわれ」をよりよくしていく責任＝「道徳的責任」の重いものがより中心の近く(中心近傍)を占め、責任の軽いものは周縁に位置づけられるべきだと考えています。

現状では、こうした道徳的責任は人間のみが持っているとされていますが、将来的にAIやロボットが本当の意味で道徳的な存在になった場合は人間と同等のより中心的な位置を占めることが許されるべきだと考えています。

中村　なるほど。「われわれ」の中で得られる権利やリターンは、道徳的責任の重さによって分配されるというお話は合理的だと思ったのですが、「われわれ」の中のエージェントは平等であるという原則とは矛盾しないのでしょうか？

出口　重要なのは、前提として決定的に非対称な関係にはしないということです。また、道徳的責任の重さによって分配される権利やリターンについて、量の違いはあるが質の違いはないという点から、平等な関係の上で重みづけをすると考えています。
また、こうした関係のモデルを踏まえて、最終的に「人間とAIは親友になれるのか？」という問いについては、是非、「AI親友論」を読んでいただけると幸いです。今回は最後に、これらの考えを応用して組織、リーダーシップについて考えたいと思います。

「AI親友論」から組織、リーダーシップ論へ

出口　前回の記事では、様々な物事の主体の「わたし＝Ⅰ」から「われわれ＝WE」へのシフト＝WEターンについてお話をしてきました。今回は最後にリーダーシップのWEターンについてお話したいと思います。リーダーシップはこれまで、個人の資質や能力として語られることが多かったように思えますが、これを個人と個人の関係性、つまり「われわれ」の構造として考えてみたいと思います。

同様に前回、根源的な「できなさ」という話をしましたが、この考えをリーダーシップに落とし込むと、リーダーシップの発揮という行為も単独では不可能で、リーダーシップの主体、ユニットも「わたし＝Ⅰ」ではなく、「われわれ＝WE」であると考えるとこができます。そうした前提に立つと、リーダーシップを発揮するために必要なのは、「わたし」一人で考えるのではなく、それが発揮される「われわれ」をみんなと共につくることであると言えます。

中村　なるほど。「わたし」がリーダーシップを発揮するためにどうするかではなく、リーダーシップが発揮される「われわれ」をどうつくるかを考えるということですね。これを考える上で、先ほどの「共冒険者モデル」が活用できそうです。

出口　その通りです。「共冒険者モデル」の条件に沿って、リーダーシップが発揮される良い「われわれ」について考えると、まずは、平等性の前提の元、協調性、参加随意性を中核に据えた仲間＝共冒険者関係を構築すること。また、誰かが利益、価値観、主体性、意思決定の中心を占めないような中空構造をとることが重要となります。
 
※WEターンについては、こちらの記事を参照ください。

中村　実際の企業組織などの場合、中空構造をとるとしても中心の近くにいるリーダーが必要になってくると思うのですが、リーダーの位置づけについてはどのように考えるとよいのでしょうか？

出口　良い質問だと思います。世の中では、リーダーに執着している人がずっと同じポジションに居座り続けているという話や、自分で考えることを放棄してすべて解決してくれるリーダーにまるなげしたいという話などがよく問題として挙げられていますが、どちらも、リーダーの一面しか見ていないと言えます。リーダーが成立するためには、自分が中心に立ちたいと思うだけではだめで、リーダーを中心に立たせるような「われわれ」をみんなと一緒につくる必要があります。

また、誰かをリーダーとして、中心近傍に立てる際、任せる側にも責任が発生します。リーダーになる、あるいはリーダーを立てるということは、「わたし」が「われわれ」と一緒に中心近傍に入る、もしくはリーダーと共にリスクを担ってある冒険の一員になるということ意味しています。そうした認識がないと、組織やその中を動かすリーダーは成立しません。

中村　今、お話をお聞きしていて、私が研究をしているパラドキシカル・リーダーシップに通じる考えであると思いました。パラドキシカル・リーダーシップでは、自己中心性と他者中心性の両立ということがよく扱われます。パラドキシカル志向のリーダーは、中心的な影響力を維持しながら、フォロワーと認識を共有することができる。
はじめて聞いた時は、これが具体的にどういう状態なのかよくわからなかったのですが、今のお話を聞いて、リーダーシップを一面で捉えるのではなく、「できなさ」や「われわれ」という視点を持ち込むことで、自己中心性と他者中心性の両立ができそうだと思いました。

出口　さらに共冒険者モデルの本質的な意味として、自律と他律のゼロサムゲームから自発的に降りるという点が非常に重要であると考えています。

中村　自律と他律のゼロサムゲームですか。

出口
これは、「わたし」が自律性を発揮すると、その分「あなた」の他律化を招くという、おしくらまんじゅうのような状態です。御神輿を担ぐときに、自分の負担の増減が他人の負担の増減になる様子を想像してもらってもよいかもしれません。これも西洋近代的なものの見方のひとつですが、私はこうした考えには限界があると考えています。こうしたゼロサムゲームの考えから自発的に降りるということが「共冒険者モデル」の核となる協調性の発生の一番のポイントではないかと思っています。

中村　なるほど。先生のお話を聞いて、改めて、私たちはリーダーシップについて考える時に、「自律しなければならない」という思いに囚われ過ぎているのではないかと思いました。組織のメンバーはみんな、どんなリーダーもフォロワーも、引っ張るだけ引っ張られるだけではなく、引っ張ってもいるけど、引っ張られてもいる。
まずは、そんなパラドキシカルな状態に気づいて、受け入れることが重要だと感じました。その上で、支配と被支配、独占か押し付け合いかではなくお互いに対等な関係の中で、みんなで一緒に「われわれ」をよりよくするために道徳的な行動ができる状態をつくることが、組織でリーダーシップが機能する鍵になるのではないかと思いました。今回は、貴重なお話をありがとうございました。

本記事では、8月に開催したセミナーの内容を元に、人間とAIの関係において世の中のデファクト・スタンダードとなりつつある「主人－奴隷モデル」への対案として、WEターンの思想から出口先生が提唱されている「共冒険者モデル」をキーワードに、組織、リーダーシップのあり方についてのお話の内容をまとめました。

AIの発達によって、到来する可能性のある「人間失業」から、それを回避するための人間観の転換、「わたし」から「われわれ」へというWEターンの思想と、その考えをどのように社会に活用していけばよいかについてのお話をまとめたこちらの記事も是非合わせてご覧ください。