国連広報センター ブログ

国連のさまざまな活動を紹介します。　

偽情報・誤情報の先にあるもの　―　「情報の誠実性のための国連グローバル原則」に寄せて

国連の活動 持続可能な開発目標 SDGs

選挙イヤーと言われた2024年は、世界各地で大型選挙が行われる中で情報戦が過熱し、オンライン上のデマや不確かな情報、ヘイトスピーチなどの問題が顕著になった年でした。災害や紛争などの緊急事態でもデマや不確かな情報、ヘイトスピーチが流布されやすい傾向があり、2024年1月に発生した能登半島地震も例外ではありませんでした。これらの情報は社会の分断に拍車をかけ、現実社会に深刻な危害をもたらしかねません。国連は2024年6月、その解決策を探る出発点として「情報の誠実性のための国連グローバル原則」を発表し、国連広報センターはその日本語仮訳を11月に公開しました。

情報を巡る世界の状況やその展望、本原則の意義について、東京大学情報学環教授の板津木綿子さんにご寄稿をいただきました。

板津木綿子（いたつ・ゆうこ）東京大学情報学環教授。
東京大学Beyond AI研究推進機構 B'AI グローバルフォーラム　ディレクター.
『AIから読み解く社会：権力化する最新技術』（東京大学出版会 2023)共編者. 2024年 W20 ジャパンデレゲート. 南カリフォルニア大学大学院歴史学科博士課程終了（Ph.D.). 

「火星人が地球に降りたった！」米国ニュージャージー州の架空の町で宇宙船から火星人が降りてきたというラジオドラマの設定で、その火星人の様子を実況する役者の演技があまりにも緊迫感があるものだったために、このラジオ番組を聞いていた市民が混乱して、警察や消防署に通報したり、避難したりと大騒ぎになった。このドラマが放送されたのは、1938年10月30日。翌日の新聞各紙は放送局や新聞社に確認の電話が殺到したことなど人々が混乱したことを、こぞって報じた。ラジオ局や番組制作に関わった人々は、悪意のあるいたずらをしたわけではなく、番組冒頭でSF作家H.G.ウェルズの『宇宙戦争』を元にした劇をこれから放送すること、それを人気役者のオーソン・ウェールズなどが演じることを、ちゃんと事前にアナウンスしていた。

ラジオドラマの話を信じてしまい、全米各地で混乱が起きた、というこの話を聞いたことがある人は少なくないだろう。いくつもの地方自治体で警察や消防署の通常業務に支障をきたすくらい公衆に著しい混乱をきたしたことで、主役のウエールズら関係者は謝罪に追い込まれた。また、この番組を放送したラジオ局CBSは連邦通信委員会（FCC）の調査を受ける羽目になってしまった。そして、米国議会でこのような騒ぎの防止のための立法を要望する声が上がるまでの騒ぎになったことも知られているかもしれない。結局、この騒動の結末としては、放送局が防止策を取ることを約束したため、FCCによるおとがめは免れることができた。その後、アメリカでは「犯罪・大災害に関する虚偽の放送の禁止」、フランスでは「情報の誠実性の確保」、韓国では「事実性等の適合留意義務」、日本では「報道は事実をまげないですること」など、さまざまな国で法律や規則が整備されて、同じような公衆の混乱を招くような事件はあまり見なくなった。実際、毎年、4月１日のエイプリル・フールで、どの程度の嘘や冗談であれば公衆の混乱を招かないか、絶妙のアイデアを捻り出そうと躍起になる放送局があり、判断を間違えると炎上してニュースになっている。

オーソン・ウエールズの謝罪会見（1938年10月31日）
出典：https://commons.wikimedia.org/w/index.php?curid=37849780

この『宇宙戦争』のラジオドラマの話に戻ろう。この騒ぎでよく知られていない部分もある。全米で混乱が起きたことについてのナチスの反応である。あるニューヨーク州の地方紙が国際通信社からの配信として、ナチス幹部の談話を報じている。「アメリカ人は、火星人の奇襲をこれほどまでに簡単に信じる無知な人々だからこそ、ナチスの残虐行為に関する話も信じてしまうのだ。（中略）無知であることは神の恵でもあるが、ナチスドイツ下における残虐行為の話を真実と思い込むとは、無知にもほどがある」。             注)  Press and Sun-Bulletin (Binghamton, New York), Monday, October 31, 1938,   page 1

このナチス幹部は、この発言で典型的なガスライティング（gaslighting）を試みている。ガスライティングとは、相手が真実だと知っていることについて誤った情報をわざと投げかけ、感覚を錯乱させることを意味する。つまり、この幹部は、ナチスの残虐行為が行われている事実が広く認識されつつあるなか、このように断言的に事実の否定をすることで、自分が正気を失って勘違いしているのではないかと不安を感じさせ、ナチスの残虐行為が嘘であるかのように錯乱させようとしており、何が信じられることで、何が信じられないのか、分からなくなる不安を社会全体に刷り込んでいく心理戦を展開しているのである。このように疑いの気持ちを刷り込むことをガスライティングと言う。

このように不誠実な情報をわざと発信して、社会の秩序を脅かすことは、最近もよく起きている。新型コロナが５Gの通信アンテナ塔を介して蔓延しているというデマが流れ、英国ではアンテナ塔が１００基も放火にあった。2017年のケニアでの選挙では、警察当局と市民との小競り合いが過大報道され、警察官による暴行の画像に至っては加工されたものがSNSで拡散されたことがわかった。2020年、オーストラリアで大規模山林火災が起きたとき、東海岸に高速鉄道を通すための伐採のために放火しただとか、新都市整備のために海外の富豪がレーザーで火災を起こしたとか、環境保護主義者の過激派の仕業だといくつものデマが流れた。これらの陰謀論はSNSで拡散され、主要メディアでも取り上げられ、政治家も無視できないほどに瞬く間に広まった。

インドでは、デマの拡散を防止するために、政府が腰をあげ、WhatsApp（Meta傘下のメッセージ・アプリ）でテキストを転送できる回数を制限できるようになった。これは、ある人が誘拐などの犯罪の濡れ衣をきせられ、そのデマが拡散されたために、18人もの人が知らない人から集団暴行をうけ殺害されたという痛ましい事件が発端である。この事件をきっかけにインド政府がインドで最大シェアをもつメッセージ・アプリWhatsApp社にかけあい、ユーザーひとりが同じメッセージを５回しか転送できないように設定を変えてもらった。

Jamillah Knowles & Reset.Tech Australia / Better Images of AI / People with phones / CC-BY 4.0

2023年以来、AI技術が急激に発展している。AI技術を用いて新しいテキストや画像をソフトウェアが作り出すことを「生成系AI」と呼ぶが、この技術によって、本当ではないテキストや画像・映像を簡単に作ることができるようになった。作ったものは本物か偽りか簡単に判読できないものが多い。さらに誰しもが簡単にこれらを自分で作れるようになり、誰しもがSNSを使って広く拡散できる状況になった。

2024年、技術を使って、ウクライナ政府の外務相のふりをした人が、アメリカ外交委員会の上院議員とのビデオ会談に成功した。アメリカの上院議員が質問されている内容を不審に思い、国務省に確認させて偽物だと分かった。2022年には、ウクライナ大統領のディープフェイク画像を作って、ウクライナ兵士に降参するように呼びかけるメッセージを拡散させた人がいたことも記憶にあるだろう。 ガザ地区をめぐる軍事行動に目を向けても、過去の映像が今回の戦闘の画像として流布されており、偽情報が溢れていることは広く報道されている。アメリカの大統領選挙でも、ニューハンプシャー州の予備選挙で、バイデン大統領を装った音声メッセージを有権者に自動発信し、投票忌避を招こうとする人たちがいた。このロボコールを拡散した通信会社は制裁金を支払うことで和解をし、アメリカ連邦通信委員会の取り締まりは強化されつつある。

このように正しい情報、勘違いの情報、わざと間違った情報など、さまざまな情報が大量にSNS を通じて流通しているなか、何が正しい情報なのか、何が誠実に発信された情報なのか、分からなくなってきている。「偽情報・誤情報に注意」というフレーズは浸透しているが、どうして目くじら立てて警戒しなければならないのか、説明が不十分であるように思う。そもそも偽情報・誤情報とはなにを意味するのか。二つ並べてひとくくりにすることが多いが、偽情報と誤情報の違いはなにか。総務省・情報流通適正化推進室は次のように定義している。「偽情報」とは、意図的・意識的に作られたウソや虚偽の情報を指し、「誤情報」とは、勘違いや誤解によって広められた間違いの情報を指す。

これらを作って拡散している人は、「大意がないおふざけ」「ちょっとしたイタズラに過ぎない」「自分一人が共有したからといって大したことにはならない」と思っている節があるように思われ、この小さな行為のもたらす大きな影響までが見えないで、注意のフレーズだけが一人歩きしているように見える。

そんななか、先日、「情報の誠実性のための国連グローバル原則」（以下、「国連グローバル原則」）の日本語版が発表された。国連グローバル・コミュニケーション局が発表したものの日本語仮訳である。「偽情報・誤情報に注意」の先にあるものが何か、明解に説明してくれる文書である。ヘイトスピーチや社会の分断や紛争が、SNSなどのデジタル・プラットフォーム上の誤った情報や偽りの情報によってさらに悪化しないように、２１世紀型の情報流通における現代的な課題を明示したものである。国連加盟国、民間、ユースリーダー、メディア、研究者、そして市民団体の人たちが議論して作成されたものだそうだ。

Jamillah Knowles & We and AI / Better Images of AI / People and Ivory Tower AI 2 / CC-BY 4.0

この「国連グローバル原則」の特徴的なところは、さまざまなステークホルダーに向けて、具体的なステップを示していることである。テクノロジー企業、AIの開発に携わっている会社、広告主やその他の民間企業、報道機関、研究者や市民団体、各国政府や自治体、そして国連が、それぞれ情報の確かさを担保するために何ができるか、それぞれの立場の人たちへ具体的な行動を要請するのがこのグローバル原則である。現在、テクノロジー企業に巨大な資本と権力が集中しつつあり、このグローバル原則が企業に要請する事項のリストも長い。安全やプライバシーの遵守から、労働者の権利保障から、危機対応体制の整備、政府へのロビー活動の開示など幅広い要請が列挙されている。報道機関については、AIを倫理的に使うこと、労働基準を尊重すること、情報源について誠実な対応を確保することなど、挙げられている。

文書は、より健全で安全な情報空間を育むための5つの原則と、ITや広告業界等の企業、 研究者、政府等への提言を示している

偽情報・誤情報を流されることで、人一倍、心身への危機がおよぶ人たちへの配慮が必要だ。国連が持続可能な開発目標（SDGs）でもあげている「誰一人取り残さない(No one left behind)」の精神がよく反映されている。女性、高齢者、子供、青少年、障害者、先住民、難民、国籍を持たない人、性的少数者、エスニックや信条を理由に社会からマイノリティの扱いを受けている人が、偽情報・誤情報の被害に遭わないためにどうしなければならないか。このような偽りの情報で被害を受けないためには、情報を鵜呑みにしない力を養うことが大事である。鵜呑みを避けるには、どのような条件が必要か。国連グローバル原則では次のように述べている。

・多様な情報源にアクセスできて、情報の真偽について自分なりに見極めることができること

・自分自身が社会の一員として平等に扱われて、公正な社会であると実感できること

・社会や経済の運用について、安心感を持っていること

・社会でうまくいっていないことがあれば、投票や政治家への上申などを通じて市民として政治に参画できているという実感を持つこと

（『国連グローバル原則』日本版p.9、筆者要約）

これらを担保することがデマの流布防止のために必要であると国連グローバル原則は唱えている。

待ったなしで進むAI技術の開発と偽情報・誤情報の容赦ない拡散。安定していると思っていた社会構造がいかに脆いか、SNSで流れる偽情報・誤情報は私たちの社会の耐性を試している。誤情報・偽情報によって社会が朽ち、秩序が壊れないように、それぞれの立場から私たちがやらなければならないことはたくさんある。

Yutong Liu & The Bigger Picture / Better Images of AI / AI is Everywhere / CC-BY 4.0

Â