ChatGPTの存在は、文脈に応じたそれっぽいことを答えるだけでそれなりの知能があるかのようにみせることが可能であることを立証しています。この事実は、逆に人間はどれほどChatGPTと違うのかという問いにつながります。私は「人間もAIもだいたい同じである」を起点に、その上で何が違うのかを考えたほうが見通しがよいと考えます。
本章では、人工知能と対比して人間の知能を生知能 (なまちのう)という単純化されたスキームで捉えることで、私達の知能とはどういうものなのかを整理します。独自に 用語を定義しながら説明します。一つ一つの用語の定義を理解しながら読み進めてください。
これは試論です。脳科学などからアイデアを得ていますが、私個人の考えであることを強調しておきます。
概念セットと文化 生知能 はその個体ごとに肉体 と経験 が紐付いています。肉体からの感覚 は随時処理され、感覚から想起される概念 を組み合わせることで、脳内に外部の世界に対する解釈を生成します。その過程で必要な概念が次々と生成・拡張されていき、脳内の世界を適切に表現するための概念セット が整っていきます。概念セットは個人ごとに違いがあり、それが世界の見え方やそれに従う行動 の多様性を生みます。また、概念セットの拡充によって、外部の世界と脳内の世界の誤差は減り、経験はより豊かなものになります。
概念の生成・拡張には自然や人工物だけでなく、他の知能が大きく寄与します。特に言語は概念の伝達に大きな役割を果たします。私達は他人の脳内を覗くことはできませんが、それでも概念を共有できているという信念を持つことができます。ある程度の概念セットを共有できていると思える生知能の集まりを文化 と呼ぶことにします。国、宗教、地域、組織、コミュニティ、ジャンル、友人グループ、家族などなど、ひとつの生知能が複数の様々な規模の文化に属します。
生知能の間の関わりを線で繋いだネットワーク を考えてみます。人間同士の関係は会話する、売買する、組織を構成するなど、様々な関係性があり、非常に複雑なネットワークになります。このネットワークを俯瞰した時に大小さまざまのグループを見出すことができ、このグループは概ね文化と一致すると考えられます。なぜならば、コミュニケーションの度に概念の交換をするわけですから、その頻度が多いほど、より深い概念の共有ができると考えられます。また、行動に制限がなければ 、概念を共有できる知能との接触を好むことで関係は密になり、共有できない知能とは接触を避けることで関係は疎になります。
単純化した生知能のネットワークと文化のイメージ。類似度の高い概念セットを持つ生知能は文化を形成する。ここで概念セットは類似性はあるが一致はしない 文化は規範や慣習を規定し、文化に属する人々の間で価値観が共有されます。文化によって規定された規範や慣習、価値観が行動に対する教師 となります。文化ごとの教師の最適解を学習して、適切な行動をするようになることを適応 と呼ぶことにします。
生知能 それに紐づく肉体と経験を持ち、経験から行動を決定する機構 概念 生知能が世界に対して意味づけをするための構成要素 概念セット 概念の集合。このセットが世界の解釈の仕方を決定する 文化 他の生知能と概念セットを共有できているという信念を持つ生知能の集まり 適応 文化が規定した価値観に最適化した行動をできるように学習すること 生知能の適応と人工知能の学習 前節の「適応」において他者からの概念を学習データとみなすと、文化が規定する答えに対し統計的に最適な行動をするように適応するというプロセスは、AIが与えられた学習データに対して最も適切な答えを導き出すプロセスとよく似ています。AIの思考と生知能の適応は必ずしも等価ではありませんが、本書ではこの2つは同じとみなすことにします 。
実際の人間の思考のうち、どの程度が「適応」であると言えるでしょうか？
People believe in the reasons because they believe in the conclusionダニエル・カーネマン
ダニエル・カーネマンは心理学者の立場から人々の行動に合理性が欠けることを示す多くの研究を行いました。彼の研究は、人々がしばしば直感に頼り、理性的な判断を下さないことを明らかにしています。彼が説明する人々の思考を大雑把に捉えると、まず欲しい答えがあり、その答えに適合する理由をみつけて満足する、ということです。それゆえに、議論によって考えが変わることはなく、無意味であるとまで主張しています。彼もすべての議論が無意味とは思っていないでしょうが、この点について、人々の認識とのギャップがあまりに大きいため、ここまで強く主張しているのだと思います。
ピーター・ヨハンソンらはこんな研究結果を残しています。二枚の写真のどちらが好みの人物かを選択させた後、写真をすり替えて、選択していない方を見せて「何故こちらを選択したか」を尋ねます。すると多くの被験者がすり替えに気づかず、選択した根拠を語る現象が確認されました。
ジョン・T・ジョストは、人々が現行の社会システムを正当化してしまう欲求 の研究をしています。彼によれば、私達は不安定で無秩序な状態を嫌うあまり、自分が気づいている以上に、自分の依って立つ社会の組織や仕組みをすぐ防衛したがると言います。彼の仮説には「現在の社会システムや権力機構を正当化しようとする最も強い欲求を持つ人たちは最も不利な立場に置かれている人たちである」というものまであり、その検証がなされています。これは自身を取り巻く環境によってあるべき行動が決まり、それを信じるための根拠を信じる例になります。
人々の多くの行動は答え が思考に先立って存在しており、その答え は文化的に規定されていると考えられます。
自己 生知能はただ適応を繰り返すだけではありません。周りの誰かの言葉をそのまま受け入れるわけでなく、自ら 能動的に生成した概念であったり、みんなとは違っても自分 は強く信じることのできるものもあります。もしくは、他者から受け取った概念をきちんと自身 が納得して概念セットの中に加えられることもあるでしょう。能動的に構築された概念は、外部からの入力による概念の重み付けを無視し、概念セットの中に確固たる位置を占めるようになります。そのような概念は多数の他者からの異なる概念が大量に流れてきても失われることはありません。一方で、AIは与えられた学習データのひとつを特別扱いすることはありません。中央値から外れた学習データがあったとしても、他の中央値に近い学習データによって均されていきます。これは生知能と人工知能の特徴的な違いです。深度 があります。深い概念ほど自己の深い部分を形成し、十分に深い概念の獲得は「自己実現」と呼ばれます。生知能ごとに異なる概念セットをそれぞれの深度で形成しており、それが生知能の個性を形成します。自己 と定義します。
一方で、自己を失った生知能は実質的に人工知能と同様の思考しかできないことになります。自己を失って文化への適応を繰り返すだけの生知能を人工生知能 と呼ぶことにします。
深度 概念の腹落ち具合 自己 概念セットの中の深度の深い部分 人工生知能 自己のない生知能 自由と不自由 日常生活で「自由」という言葉が使われる場合、行動に対して制限のない様を指すことが多いかと思います。「自由」は重要な言葉でありながら、その意味は人によってズレがあり、議論の難しさがあります。そこで「自由」の定義をその本源的な部分に絞ることで整理を試みます。
本書では「自由」を内的自由 と外的自由 に区別します。従来の意味での「自由」はだいたい外的自由 になります。内的自由 は"概念を深化させる力"と定義します。それは自分の中の揺るぎないものをもっと追求したいという欲望です。言い換えると"自己を形成しようとすること"とも言えますし、“新しい概念の獲得の可能性に対して開いている状態"とも言えます。開かれた可能性に対し、外部からの感覚とこれまで獲得した概念が相まって、より深化した概念の獲得が可能になります。以降では「自由」と表記した場合は内的自由を指しているとします 。不自由 であるとは自己を喪失していることを意味します。特に「ある文化について不自由である」は、その文化に対して強く適応しようとする、つまり文化が規定する答え に執着をしているか、その答え が外部から強制されていることを意味します。不自由であることは、外的自由がどれほどあるかとは無関係です。
(内的)自由 概念を深化させる力 自己を形成する力 新しい概念の獲得の可能性に対して開いている状態 外的自由 行動に対する制限がない様(従来のしばしば使われている意味での自由) 不自由 自己の喪失 文化の規定する答え に執着すること この定義に慣れて、自然に感じられるように、まず不自由の具体例を考えてみましょう。
人種差別主義者は不自由です。彼らの思考は文化的に作られたラベルに束縛されています。彼らは結束することで彼らに都合良い文化を形成し、その文化へ適応するプロセスを繰り返す人工生知能です。彼らの行動は文化の最適解に束縛されています。彼らは多様な概念を受け入れることができず、閉じた文化の中に生きているので自己の形成が阻害されています。都合の悪い現実を拒絶することで、彼らの解釈する世界は歪なものとなり、現実との乖離に苦悩することになります。この乖離は自身への抑圧を生み、内側で収まらないと他者への暴力になります。このような彼らの言動は開かれた可能性から選ばれたわけでなく、彼らの環境の制約に従った行動をしているだけなのです。
上述の段落の人種差別主義者の部分をいろいろ入れ替えて成立するものを考えてみてください(このときラベルを数字や常識に置き換えた方がしっくりくるかもしれません)。それがあなたの欲しい結論ならば、それを説明する理由になっているはずです。外的自由を謳歌している不自由な人(もしくは外的自由を謳歌しておらず、かつ不自由な人)を思い浮かべることができたでしょうか？
ここまでを整理すると、生知能と人工生知能は下記のように表現できます。
生知能 = 人工知能 + 自己 + 自由 人工生知能 = 人工知能
音楽を聴くこと ある音楽を聴いたとき、実際にそれが脳内でどのように聞こえているのかは人それぞれ異なります。その差は各々が持つ概念セットの違いに起因します。その人が深く聞き込んだ曲ならば、それを深く解釈する概念が存在するでしょう。馴染みのないジャンルの曲は違う曲でもだいたい同じに聞こえるのは、それを解釈する概念の不在です。ラベル作曲の「ボレロ」は発表当時は同じ旋律とリズムの執拗な繰り返しに異様さを感じた人も多かったそうですが、現在ではクラシックの名曲として、誰もが聞き馴染みのある曲のひとつになっています。私達の解釈する世界は文化的に与えられた概念に強く依存している ことは正しいといえるでしょう。
このひとつの生知能の新規性はほぼ無に等しい（しかし決して無ではない） を公理として追加します。すると下記のように言い換えられます。
自由 ≒ 多様な他者の概念 を深い深度で獲得できる力他者の概念 の集まり
新しい音楽 しばしば「AIによる音楽生成が進むと、いつか人間が新しい音楽を作れなくなる」という言説があります。ここで「新しい音楽」とは何か考えてみます。
前節で、「馴染みのないジャンルの曲は違う曲でもだいたい同じに聞こえる」と言いました。新曲であっても、同じ曲にしか聞こえないのならそれはあなたにとって 新しい音楽ではありません。また、ある時ピンとこなかった曲をしばらく経ってから改めて聴くと良さが分かることもあります。それはあなたにとって 新しい音楽が生まれたことになります。
自由とは"新しい概念の獲得の可能性に対して開いている状態"であると述べました。この可能性の開き方について、「能動的」と「受動的」の２つの方向を考えることができます。心持ち はあるでしょうが、本人の自己認識は当てになりません。その心持ちと実態はそれなりの乖離があるだろうと予測します。
つまり「自由な行動」を端的に言い直すと、これまで獲得した概念に立脚した上でさらに「未知に踏み込むこと」になります。それは結果的に何かを得た実感はないかもしれませんし、それどころかリスクもあります。真剣に何かに向き合えば、他者との衝突が必然的に存在します。答え に適応する行動です。文化が強大に育つほど、それが規定する答え は明快になります。そのような答え は確実・安心・安全で未知は含まれません。さらに過剰に明快な答え は匿名の権威性や経済合理性を生み、そこから外れるものを抑圧する力になります。
この美と自由についての考えは明治時代のアナキスト大杉栄と一致します。
征服の事実がその頂上に達した今日においては、階調はもはや美ではない。美はただ乱調にある。大杉栄「生の拡充」より
彼の言葉はしばしば二つめの文だけが抜き出されて紹介されます。その前の文脈も含めて解釈すると、社会があまりに秩序側に偏っているが故に「美はただ乱調にある」と主張しています。
大杉栄にとって明治時代の社会は秩序偏重であったようですが、現代は管理社会と呼ばれるように、その頃より秩序を重んじる傾向が高まっています。この変化は次章でも取り上げます。ここで言いたいことは、自由は未知へ踏み込むことであり、それは新たな秩序は混沌の中から見出される ということです。
この節の冒頭の「AIによる音楽生成が進むと、いつか人間が新しい音楽を作れなくなる」について改めて考えると、それは本書の副題である「AIはあなたを自由にするか？」という問に帰着します。
