ＡＩがおかしくする世界

　世界中がおかしい。とりわけアメリカがおかしい。おかしいトランプ大統領が世界を振り回している。日本もおかしい。とりわけ大統領型で選ばれる知事や市長がおかしい。これは一体何が起こっているのか？　著者は、その近い原因をＡＩ（人工知能）に、遠い原因を人類が生み出した共同主観に求める。だから本書は、アクチュアルな現代社会論であると同時にグローバルヒストリーでもあるのだ。

　情報とは、多くの人が誤解するように真実を映し出すものではなく、人々を共同主観的な虚構によって秩序付けるものだ。後から考えれば何の根拠もない虚構に踊らされて、多くの人の命を奪った事例は人類史に山のように見付けられる。近世初期のヨーロッパで『魔女への鉄槌』というデマ文書によって多くの人々が魔女として焼き殺された事例や、社会主義に敵対するクラーク（富農）という名のもとにスターリン体制下のソビエトで莫大な人々の命が奪われた事例は、共同主観的虚構の恐ろしさを物語る。

　だが、そういう蒙昧な時代は終わった、今や自由民主主義の天下が始まった、と、ソ連崩壊後の知識人は傲慢にも考えた。とんでもない。共同主観的な虚構の暴政は、人間が作る（紙や電波といった）メディアに頼って人間が意思決定する段階から、意思決定そのものを非有機的な存在――ＡＩが担う段階に進みつつあるのだ。ここで注意しなければならないのは、知能は意識ではない点だ。ＡＩは通俗ＳＦで描かれるような意識はもたないが、決まったアルゴリズムに基づいて意思決定をする。真に恐るべきは、「ロボットの反乱」ではなく「魔法使いの弟子」なのだ。

　ミャンマーでロヒンギャの虐殺が行われた最大の原因は、フェイスブック上で、ロヒンギャへの憎悪を掻き立てる事実無根のヘイト動画が繰り返し閲覧され、拡散したことだという。なぜそうなったのか。フェイスブックの経営陣は、多くの閲覧数を獲得するようなコンテンツを優先して表示するアルゴリズムを組んでいた。ミャンマーで一番人気を博したコンテンツはロヒンギャ憎悪もので、ＡＩは素直にヘイト動画ばかりを推奨した。検索するとヘイトコンテンツが並び、見る気のなかった人々も繰り返し見るうちにロヒンギャはとんでもない連中だと思うようになっていく。新興印刷術によって膨大な部数がまき散らされた『魔女への鉄槌』を読んだ近世人のように。事実に即してロヒンギャを擁護する投稿は、ずっと下位に位置付けられ、ほとんど見られなかった。かくして、ミャンマー人の共同主観は、フェイスブックのＡＩの意思決定によって、ロヒンギャ憎悪へ、虐殺へと動かされていった。これはアメリカ大統領選で、そして日本の昨今の知事選などで見られた現象を予告していたように見える。

　著者は希望を失わない。人類は自己修正メカニズムによって正道を保ってきた。しかし、それは人間が真実を認識し得る限りのことだ。ＡＩにおいては、意思決定の理由が外から見えない。我われが直面しているのは、そういう時代なのだ。

（ユヴァル・ノア・ハラリ 著、柴田 裕之 訳、河出書房新社 刊、税込2200円（上・下巻ともに））

Amazonで購入する　楽天ブックスで購入する

ＪＩＬ－ＰＴ 労働政策研究所長　濱口 桂一郎 氏

選者：ＪＩＬ―ＰＴ労働政策研究所長　濱口 桂一郎

　濱口桂一郎さん、大矢博子さん、そして多彩なゲストが毎週、書籍を１冊紹介します。“学び直し”や“リフレッシュ”に是非…。