偽画像・偽情報にどう挑む フェイク対策の最前線

偽画像・偽情報にどう挑む フェイク対策の最前線
3月下旬、アメリカのトランプ前大統領が逮捕されるのではという情報が出て、緊張が高まっていたとき、世界に広まった画像がある。

「警察に取り押さえられるトランプ前大統領」の偽画像だ。

AI=人工知能を使えばこうした画像さえ簡単に作られるようになることに、世界のメディアで「ファクトチェック」に取り組むジャーナリストたちが危機感をあらわにしている。

(科学文化部 籔内潤也 / World News部 田中千尋)

脅威は “リアルで速くて誰でも可能なこと”

「見たものが信じられないとなると、ニュースはどうなってしまうのか」

3月末、ロンドンで開かれた「TNI」=「信頼できるニュースに向けたイニシアチブ」と呼ばれる会合。イギリスの公共放送BBCが主導する各国メディアとITプラットフォームなどが参加する連絡組織の年次総会で、14か国のおよそ30人のジャーナリストなどが集まった。

私たちは日本のメディアとして初めて参加した。
セッションでは、それぞれの偽情報対策を紹介して学び合う。

ヨーロッパ各地の放送局が協力して、公開されているデータを丹念に集めて、ロシアがウクライナから連れ去った子どもたちの動きを追った報道。

ブラジル大統領選挙で前大統領の陣営がメディアを攻撃するのにどう対応したか。

そして中でも多くのセッションで、参加者たちが触れたのがAIの脅威だった。
冒頭で紹介した、トランプ前大統領が取り押さえられる偽画像は、国際的な調査報道グループ「ベリングキャット」の創始者が冗談で作ったというものだが、こうした画像は、指令を入力すれば画像が生成される「生成系AI」をつくれば簡単に作ることができる。

「生成系AI 見えるものが信じられなくなったらニュースはどうなるのか」というセッションでBBCなどに助言を行っているAIの専門家は、
▽「リアルであること」
▽「効率的で速くできること」
▽「誰でも作成可能ということ」が、
これまでと全く異なると指摘した。

最近では、トランプ前大統領の偽画像以外にも「スペインの高級ブランドのダウンコートに身を包んだローマ教皇」の偽画像がソーシャルメディア上で話題になった。
日本でも、去年9月、台風15号による豪雨で静岡県で水害が起きた際には、洪水の画像だとして、AIで作った偽画像がツイッターに投稿されたことがあった。
実はよく見ると、画像には不自然なところがあるが、慌てていると本物だとしてリツイートする可能性があると感じる。

災害や事件などで、不安が広がっているときには冷静でなくなり、出所が怪しい画像、情報でも簡単に広めてしまう。そういった感情につけ込む形で、なんらかの意図を持って広められる偽情報は、年々巧妙さを増してきている。

技術面の対策は“困難”

ロンドンでの会合では、AIへの強い危機感が示された一方で、技術面での対策については決め手に欠ける印象だった。
さまざまな技術、例えば▽データのもとを追跡できるブロックチェーン技術を使って画像を認証する▽AIによる偽情報・偽画像を見抜くAIを使うなどという議論もあった。

しかし、新たな対策は常に新しい技術によって上書きされ、「技術で対策できるのはわずか6週間ほど」とする見方も示された。会場でも「まさにいたちごっこの状況だ」という声が上がっていた。

AIの進化も含めてますます高まる偽情報の脅威には、技術開発とともに、偽情報を見破り適切に対処する人材の育成、受け手側のリテラシー教育などの対策を並行して進めていく必要がある。

ソーシャルメディアなどで検証されないまま広がる偽情報への対策は、世界各国のメディアで課題になっている。

専門の部署や“SNS記者”も

BBCは偽情報対策を行う部署を新たに設けた。
「フォレンジック・ジャーナリズム・ハブ(Forensic Journalism Hub)」と名付けられた部署で、この4月3日から稼働を始めた。

「Forensic」とは「科学捜査」を意味する言葉で、偽情報の検証、いわゆるファクトチェックをおこなうグループや、オープンなデータから事実を突き止める「OSINT」と呼ばれる調査報道のグループ、SNSの担当、映像担当など、65人の体制だという。
BBCのニュースセンターのどこからも目に入る場所に設置され、多くの人がオープンに参加できるようにして、偽情報対策に力を入れていることを印象づける形になっている。

そこで活動している、BBC初の「偽情報・ソーシャルメディア専門記者」、マリアナ・スプリングさんは27歳。
偽情報を指摘していき、偽情報を流している人を直撃して取材し、BBCの番組やSNS、ポッドキャストで発信している。

スプリングさんが取り組んできたのが「災害トロール」、ネット上で災害の被害者などを揶揄(やゆ)して注目を集めるという行為の問題だ。

2017年にマンチェスターのライブ会場で起きた爆破テロ事件について、「テロ事件は起きておらず、死亡者は生きていて、けがをしているという人は演技をしている」という偽の情報を流している男性に直撃、被害者の思いなどを伝えた。

ソーシャルメディアではスプリングさんを攻撃する人もいるというが、偽情報を正しい情報で上書きするだけでなく、どうして偽情報を流す人は流すのか、偽情報を信じる人はどうして信じるのか、その背景まで含めて取材するようにしているという。
マリアナ・スプリングさん
「人々がどうして偽情報に巻き込まれてしまうのか、なぜ信じてしまうのかを理解したいと考えています。なぜ信じてしまうのかという問いに答えることは、偽情報が広まる理由を理解する上で極めて重要です。さまざまな情報が信用されていないことや、人々が経験している他の問題も影響しているかもしれず、それを知る必要があると思っています」

“プロセスを見せて信頼を”

ソーシャルメディアで情報があふれ、従来のメディアへの信頼が下がる中で、メディアの伝え方にも変化が求められている。

会合では繰り返し「透明性」ということばが聞かれた。
BBCで番組キャスターもつとめるロス・アトキンズさんは会合の中で、メディアが信頼を得るために、視聴者・読者が検証できる情報を出す必要があり、「いま、ここまでわかっていて、これ以上はわかっていない」という情報の出し方をすべきだと指摘した。

その例として挙げたのが、「まだ事実確認ができていない」とわざわざことわってニュースで伝えたケースだ。

去年、中国がゼロコロナ政策をやめて、感染者数が爆発的に増えていた時期、当局からは十分なデータが出されていなかった。
しかし、中国のSNSには、病院に殺到する患者の動画が次々に投稿。BBCでは映像が正しいものなのかどうか、どうしても確認が取れなかったという。

ただ、次々と投稿されていることは事実。

スタッフで議論した上で、何が起きているのか伝えるために「まだ事実確認ができていない」とことわった上でニュースの中で伝えることにしたということだった。

報道機関にとって基本である事実確認ができていないという情報をあえて示す。どのように情報を得て、どのように伝えたのか、透明性を持って示すことで、信頼を得るべきではないかという問題提起だった。
ロス・アトキンズさん
「事実確認ができていない情報を出すべきなのか、スタッフの中では大きな議論がありました。視聴者に有益な情報を伝えることはもちろん、プロセスを見せることで信頼を高められるのではないかと考えました。誤った情報も含めてあっという間に広まる中で、メディアとして情報の出し方には変化が必要です」

偽情報対策に必要なことは

BBCやロイター通信などでも、ジャーナリストは事実を確認して記事を書くのが仕事で、偽情報対策を行うのは、ジャーナリズムの仕事なのか、といった意見が寄せられることが数年前まであったという。

しかし、特に、2016年にイギリスがEU離脱を決めた「ブレグジット」、それにアメリカでトランプ大統領が当選し、必ずしも事実ではない情報が広がった上で判断されたのではないかという意見が強まった。

当時の動きに対し、メディアの側で十分、事実を伝えられていなかったのではないかという反省から、欧米メディアでは偽情報対策を進める動きが加速している。
AI生成による偽の画像や文章への脅威が高まっている中で、偽情報対策に必要な3つの取り組みとして会合で伝えられたのは、
▽「コラボレーション」 単独ではなく複数のメディアで協調して立ち向かう
▽「テクノロジー」 偽情報を見破る技術開発など
▽「ナラティブ」 大量の偽情報を一つ一つ打ち消すのではなく、偽情報が出される背景まで含めた全体のストーリーを俯瞰(ふかん)してとらえてファクトチェックする伝え方

この3つだった。

NHKでも、ネット空間で広がる偽情報、誤情報について指摘する番組やニュースを出し、さらに動きを強めようとしている。はびこる偽情報の中で、誤情報対策をどう位置づけ、どのような形で情報を出していくのか。見いだすことがいま求められているように感じた。
科学文化部デスク
籔内潤也
1996年入局
トランプ政権下でニューヨークの特派員を経験した後、医療取材デスクとして3年間新型コロナを担当
根拠のない医療情報、偽情報が広がらないよう役割を果たしたいと考えています
国際放送局World News部
田中千尋
1997年入局
BBCなど各国のメディア関係者と情報交換をするなかで、偽情報対策の重要性を強く認識しています