ユヴァル・ノア・ハラリ「人類がAIの脅威を生き延びられるかどうかわからない」

ハラリの危惧するディストピアが現実になれば、そこに立ち現れる偽物は、デジタル合成されて生み出された単なる人間もどきではない。人は親類縁者や友人など、身近な他者の影響を最も受けやすい。そんな偽物が身近な他者として、ある製品が優れていると勧めてきたり、気候変動やワクチン、移民に関する自説の正しさを説得しようと近づいてきたりしたらどうだろう。それは、かつて目にしたことがない言論操作能力を持つはずだとハラリは警告する。

過去10年、ブラジルから米国に至るまで、選挙結果を左右した醜聞ではソーシャルメディアによる情報操作が取り沙汰されてきたが、それさえも色褪せて見えるだろうと彼は言う。英政府通信本部（GCHQ）長官（当時）のジェレミー・フレミングは4月、AIが生成した偽情報は重大な脅威であるとスナク政権に警告している。ハラリはこう話す。

「これは権威主義国家より、とりわけ民主主義国家にとって深刻な脅威です。民主主義は国民同士の対話で成り立っているからです。こうした対話がAIに乗っ取られれば、民主主義は終わります」

では、全体主義国家が戦場でAIを無制限に悪用したらどうなるのだろうか？

「ナチスドイツは電車や電気やラジオなどが基盤技術であり、AIのようなツールは持っていませんでした。21世紀の新しい体制が手に入れる支配ツールは、それよりもはるかに強力です。だから、その結果ははるかに悲惨なものになる恐れがあります。人類がそれを生き延びられるかどうか、私にはわかりません」

たとえ些細な結果であれ、それが世の中を揺るがす革命をもたらす可能性はあると、ハラリは警告する。