GPT-3の衝撃
- 2020年は人工知能の分野でまた新たな展開が見られた1年だった。これまで人工知能といえば、1997年にチェスの当時世界チャンピオンを破ったIBM社の「Deep Blue」や、2015年10月に囲碁で初めて人間のプロ棋士に勝利した DeepMind社の「Alpha Go」など、限定的な用途の中であれば人間を上回る可能性が大きくクローズアップされてきた。
- そして2020年、人工知能はまた大きな転換点を迎えた。人間の使う言葉をコンピュータが処理することを自然言語処理というが、この自然言語処理の分野で大きなブレークスルーが訪れたのである。2020年6月、非営利団体であるOpenAIはGPT-3と呼ばれる言語モデルを発表した。GPTは「Generative Pretrained Transformer」の頭文字を取ったもので、最新のGPT-3では約45TBもの大規模なテキストデータから約1750億個ものパラメータを使用して事前学習しているため、ある単語の次に来る単語の予測が高い精度で可能になり、人間が書いた数行の文章に続けて、意味のある文章を自動で生成することができる。その内容は人間が作ったものと見分けがつかないほどであると言われている。実際に海外掲示板のRedditでは、このGPT-3を使用した何者かが、1週間近く投稿を続けていたが最終的に開発者の手で投稿を停止させる手続きが取られるまでほとんど誰も気づかなかったという*1。
- この例以外にもGPT-3を用いると投稿を全て人工知能に作らせた偽のニュースサイトが簡単に作れてしまうことや、質問サイトに人間に紛れて受け答えをしてしまうことなども報告されているという。これらの問題は人工知能を用いる際の倫理の問題につながる。機械が書いた文章を人間が書いたものだと思って読まされるとなんとも言いようのない不安感が襲ってくる。これはおそらく人工知能による文章の作成がいわゆる「不気味の谷」と言われる段階まできているということだろう。
人間に代わる意思決定
- このような極端なケースではなくても、日常生活の中ですでに私たちは人工知能を受け入れ、利用している。ECサイトなどで過去の購入履歴や閲覧履歴などからそのサイトが自分に対して「おすすめ」された経験を持っている人は多いだろう。この「おすすめ」機能の背後には人工知能が用いられている。ECサイトの裏で分析をしている人工知能は、サイト訪問者の行動パターンを逐一追いかけ、他のサイトから得られたあらゆる情報を駆使して訪問者の嗜好を推測する。嗜好が近そうな別の人が選んだものも「おすすめ」の有力候補だ。こうしてサイト訪問者はその属性が事細かに分析された、結果として目の前に「おすすめ」が表示されているのである。言い換えると、人工知能は私たちに代わって膨大な情報の中から嗜好に合いそうなものを事前に選りすぐり、これはどうですかと提案してくれているのだ。
- 自分の嗜好とのマッチングという意味では、何も人工知能がレコメンドできるのはECサイトで販売される商品だけではない。次に住む場所を探す際に自分の好みにあった物件を探すことだったり、自分と性格が合う恋人を探すことだったり、進学先として相応しい学校を探すことだったり、就職先や転職先を探すことも人工知能によるレコメンドが可能である。私たちが人生の重要な意思決定のほとんどを人工知能によるレコメンドで決めているという時代も遅からず来るであろうことは容易に想像できる。特に何も考える必要もないままに人工知能のレコメンドを「承認」するだけで大方のことはうまくいってしまうということが起こるのだ。人間はもはや自ら選択することを放棄し、人工知能による「おすすめ」を承認するだけの存在になろうとしているかのようだ。
- その状態はまるで江戸時代の将軍のようだ。江戸時代は将軍が直接意思決定を下す場合はケースとしては稀であり、その下の老中が実質的な意思決定を行い将軍はそれを追認するという形が通例だった。しかし、その慣例に贖おうとした将軍が存在した。五代将軍徳川綱吉（在職1680ー1709）である。
徳川綱吉による幕府政治システムの改革
- 五代将軍綱吉は生類憐れみの令という法律を施行したことで覚えておられる方も多いだろう。犬一匹殺してしまっただけで死刑・流刑に処されるほど厳しい法律で、なぜ犬なのかといえば綱吉が戌年生まれだったからだとも言われている。この法律は後世、「天下の悪法」と呼ばれおり、歴史学における綱吉の将軍としての評価を下げる要因の一つになっている。綱吉の時代はまだまだ戦国時代の風習が抜けきっていなかった。綱吉が暗君と評される一方で同時代を生きた水戸光圀は「黄門さま」と呼ばれる通り後世の人たちからも人気が高いが、その光圀とて若かりし頃は不良仲間と辻斬りをしていたのだ。ヒトを1人斬ったくらい大したことではない、という戦国時代の風潮が綱吉の時代にもなお色濃く残っていたということだろう。
- そのような時代だったからこそ、なおのこと生類憐れみの令の異質さが目立つのである。ヒトですら殺しても大したことではないという認識が残っていた時代に、生き物全般の殺生をしてはならないという法律がいかに厳しいルールだったか、いかに当時の社会からの反発が強かったかということは想像に難くない。
- ちなみに綱吉が将軍につく前までの江戸幕府の政治システムは老中等による合議制であった。つまり、老中が国政に関する意思決定の内容を吟味し、将軍に上奏するのではあるが、すでに老中の合議で意思決定の内容が「提案」されており、将軍はこの内容を「承認」するだけでよかった。つまり、実質的には老中による合議制で、将軍はそれを追認するだけの「お飾り」だったのである。
- このような状態でヒトはおろか犬などの身近な生き物の殺生を禁じる法律の施行は当時の社会にとって大きな摩擦となることが予想され、老中に反対されて終わってしまうのは目に見えている。綱吉はそれが分かっていた。分かっていたからこそ、老中による合議に将軍が反対できないシステムをあらかじめ変更してしまったのだ。そこで重要な働きをするのが「側用人」だ。
- 側用人とは、綱吉の時代に創設された将軍と老中との間を取り次ぐ役職である。簡単にいうと「将軍の側近」だ。そもそも将軍の側近としてはもともと老中がいるはずなのだが、この頃の老中は江戸幕府譜代大名の中でも名門と言われる家格の高い大名家からしかなれなかった。つまり、老中は将軍の側近中の側近といえども、世襲されるものだったため、執政の能力とは基本的に無関係に選ばれてきたのである。他方側用人が選ばれるのはもっぱらその実力のみであり、家格は低くても関係がなかった。実際に綱吉の時代に側用人を務め、最終的には大老格にまで上り詰めて絶大な権力を誇った柳沢吉保はもともと館林藩士だった父親の側室の子でしかなかったのだが、当初500石ほどの俸禄だったのが、実力が認められ昇進を重ねるうちに15万石になっている。
- 将軍と老中の間にこの側用人を一人はさむだけで、将軍は老中が合議で決めたことに対して「拒否権」および「修正権」を持つことができるようになるのである*2（井沢, 2011）。つまりこういうことだ。老中は合議によって従来のようにある稟議事項に「反対」ということで将軍に上奏したとする。従来までなら将軍はたとえ自分がその内容に不満があったとしても、認めざるを得ない。反対したとしても老獪な老中たちによって押しつぶされてしまう。ところが、側用人が将軍に上奏する際の窓口として入ることによって、老中はまず側用人に将軍へ上奏する内容を検討してもらわなければならなくなるのだ。側用人は当然ながら将軍の意向をよく承知しているので、「これでは将軍はご納得されますまい」などと言いながら老中に突き返すことができるのである。
- このような老中主導の政治から意思決定権を将軍の元に奪還し、将軍主導の幕政への転換を側用人の起用によって巧みに成し遂げ、人を殺してはいけない社会への転換も果たしてしまった綱吉の政治的手腕は見事というしかないだろう。自らの思い通りの政治を進めるには、意思決定を「承認」するだけでは無理だったのだ。
決定権の奪還
- そう遠くない将来、意思決定の大半を実質的に人工知能が行い、人間はそれを承認しているだけという時代がくるだろう。それが良いことなのか、良くないことなのかは現時点では分からない。機械がすればいい仕事をあえて人間がする必要はなく、人間は機械にできないことに特化すれば良いのだろうか。その時人は何をするのだろうか?
- 間違いなく起こる一つの動きとして、かつての「意思決定ができる人間」の姿への回帰があるのではないだろうか。しかし人類の発展は、ただ単純に前の姿には戻らない。戻るにしても、何か発展した形で戻る。その時、柳沢吉保のような立ち位置で人工知能のレコメンドをコントロールするまた別の「AI柳沢吉保」が必要になるのかもしれない。そうなると人工知能が提案した内容をまた別のアルゴリズムをもった人工知能が私たちの嗜好を汲んで前捌きしてくれるのだろうか。いずれにせよ、これまで「意思決定ができる人間」は当然の存在だったが、いつの間にかそれが実はとても難しいことになっている時代が来るのだろう。
引用元
*1 https://gigazine.net/news/20201008-gpt-3-reddit/
*2 井沢元彦（2011）,『逆説の日本史14』, 小学館