「憎しみ」や「恐怖」が人の関心を引くことをAIはよく理解している

──AIはいまだ原始的な段階にあると言いますが、私たちはもうすでに、AIが及ぼす影響力の規模と範囲を目の当たりにしていると言えませんか。

ハラリ　そのとおりです。ここでいうAIの影響には、未来のことに限らず、AIがすでにもたらしたことも含まれています。少なくとも、アルゴリズムによって動くソーシャルメディアが世界中の民主主義や社会を不安定化させているという大きな災難が、私たちにはもう降りかかっています。

自ら決断を下すエージェントを世に解き放ったときに起きる事態を、人類が初めて体験していると言えるでしょう。

XやYouTube、Facebookなどのソーシャルメディアが使っているアルゴリズムは、非常に原始的です。しかし、生まれたての初代AIであるにもかかわらず、歴史に大きな影響を与えています。

そういったソーシャルメディアのアルゴリズムは、ユーザーのエンゲージメントの向上や、Facebook、YouTube、Xなどの利用時間を延長させるというタスクを与えられました。それで問題など起きるはずがないし、エンゲージメントは好ましいものではないか、と考えられていたわけです。

それが間違いなのです。なぜなら、ユーザーエンゲージメント向上のいちばんの近道は、憎しみや恐怖、欲をまき散らすことだと、AIは知ってしまった。憎しみや恐怖こそ、人の関心を引くものだということを。