議長、各国代表の皆様、

AIおよび国際の平和と安全の維持に関する会合を招集された米国に対し、謝意を表します。

私は2023年7月に、この安全保障理事会でAIについてお話しました。その時申し上げたように、テクノロジーの急速な進歩を感じている人たちは、次の単純な事実を理解しておかねばなりません。

未来において、テクノロジーは今よりもさらに高速で進歩するでしょう。

昨年7月からの短期間でも、AIは猛烈なスピードで進歩しています。

記録的な投資額に後押しされた今日のAIモデルは、言語、画像、音声、動画を組み合わせるだけでなく、意思決定も自動化させ、より強力に、より多用途に、そしてよりアクセスしやすくなっています。

AIは、世界のかたちを変えるだけでなく、世界に革命を起こしているのです。

人間の長年の専門知識を要する仕事が、今ではあっという間に完了します。

しかし、それに伴うリスクもまた多大です。

この急速な成長は、それを管理する私たちの能力を凌駕し、説明責任、平等、安全、セキュリティについて根本的な課題を提起しています。

そして、意思決定プロセスにおける人類の役割についても。

人間の監視がないAIは世界を予測不可能なものにし、そしておそらくは、世界の平和と安全ほど危険と無謀さを伴う領域はないでしょう。

議長、

AIツールは、紛争や不安定に苦しむ国々において、すでに前向きな変化をもたらしています。

食料不安の特定や、異常気象と気候変動に起因する移動に対する予測。

地雷の探知や除去。

ほどなく、AIは暴力が起こる前に混乱のパターンを特定できるようになるかもしれません。

しかしAIは、より厄介な形でも戦場に投入されています。

最近の紛争は、AIの軍事利用の実験場と化しています。

セキュリティシステムへのAIの進出は、自律的な国境監視から予測に基づいた警察活動その他に至るまで、人権、尊厳、法の支配について根本的な懸念を引き起こしています。

私は長らく、AIを活用したシステムがもたらす不測の事態について警告してきました。一つひとつの進歩が、想像もしていなかった新たな脆弱性を生み出すのです。

「AIの軍拡競争」は、誤解、誤算、過ちを育みやすい環境を作り出します。

AIを利用したサイバー攻撃は、国の重要インフラを損ない、必要不可欠なサービスを麻痺させてしまう可能性があります。

最も重大なのは、武力行使は人間が管理するものであるという基本原則を、AIが侵食しつつあることです。

情報に基づいた評価から標的の選択に至るまで、生死を分ける決断に、すでにアルゴリズムが使用されていることが報告されています。

AIと他のテクノロジーを融合させると、こうしたリスクが飛躍的に増大します。

AIと核兵器の統合はとりわけ憂慮すべきであり、破滅的な結果をもたらす可能性があります。

私たちは、それを何としても回避しなければなりません。

そして将来的には、量子AIシステムが最強の防御さえも突破し、デジタルセキュリティのルールを一夜にして書き換える可能性もあります。

はっきり申し上げましょう。アルゴリズムという「ブラックボックス」に人類の運命を委ねてはなりません。

人間は、国際人道法、人権法、倫理原則を含めた国際法に導かれながら、常に意思決定機能を制御していかねばなりません。

人の手がAIを生み出したのです。

人の手でAIを未来へ導かねばなりません。

議長、

私たちは兵器システム以外にも、AIが平和と安全にもたらすその他のリスクにも対処しなければなりません。

AIは、オンラインプラットフォーム上で瞬く間に拡散され得る、きわめて現実味のあるコンテンツを作り出します。そして世論を操作し、情報の誠実性を脅かし、真実と真っ赤な嘘とを区別できないようにします。

ディープフェイクは外交危機を引き起こし、混乱を煽り、社会の基盤そのものを蝕みかねません。

AIによる環境フットプリントもまた、明確なセキュリティリスクをもたらします。

AIデータセンターでの膨大なエネルギーおよび水の消費量は、重要鉱物に対する需要の急増と相まって、資源をめぐる危険な競争と地政学的緊張を生み出しています。

議長、

前例のないグローバル課題には、前例のないグローバル協力が必要です。

2023年7月に、私は「新たな国連機関を創設し、AIを統治する総力を挙げた取り組み」と、「国際的に合意された監視とガバナンスのメカニズムを確立して管理する」ことに対する一部の加盟国による呼びかけを歓迎しました。

それ以来、一連のイニシアティブにより、軍事分野における責任あるAIの利用を含め、国際の平和と安全への影響に関してハイレベルでの議論が促されてきました。

多くの加盟国、地域グループ、国際機関から、AIに関する宣言が発表されています。

国連は、AIガバナンスの分断を軽減し、これら個別のイニシアティブを共通の枠組みに変える取り組みを推進してきました。

国連総会では、より強化されたグローバル協力と能力開発を促進する、AIに関する2つの決議を採択しました。

軍事分野におけるAIに焦点を当てた第3の決議案が第1委員会によって勧告され、近日中に総会で審議される予定です。

私の「AIに関するハイレベル諮問機関」は、世界中での広範な協議に基づき、AIが人類にもたらす大きなリスクとチャンスの両方に対処するための青写真を、記録的な速さで作成しました。

諮問機関の取り組みは、既存のイニシアティブ同士をつなぎ、私たちのデジタルの未来の形成をすべての国々が支援できるようにする枠組みの基礎を構築しました。

国連のグローバル・デジタル・コンパクトは、この共有されたビジョンを行動に移すものです。

「未来サミット」で各国の指導者によって採択されたこのコンパクトは、AIガバナンスに関して世界的に承認された初の枠組みです。

このコンパクトは、独立した「AIに関する国際科学パネル」を設立し、国連内においてすべての国々が議論のテーブルに着く「AIガバナンスに関するグローバル対話」を開始することを約束しています。

そしてこのコンパクトは、最も必要とされるところでAIの能力を構築する、革新的な資金調達の選択肢を求めており、これにより開発途上国が私たちの十分な支援を受けられるようにします。

AIを持つ者と持たざる者が存在する世界は、永久に不安定な世界となるでしょう。

私たちは、AIが“Advancing Inequality”（不平等の推進）の略称になることを決して許してはなりません。

分断されたAI領域の出現を防ぐことによってのみ、テクノロジーが全人類に資する世界を築くことができるのです。

議長、各国代表の皆様、

私たちの次の一歩が極めて重要です。そして、私たちが今行う選択が私たちの未来を決めるのです。

国際的なガードレールの確立が遅れるその一瞬ごとに、私たち全員のリスクが増大します。

私は加盟国に対し、「AIに関する国際科学パネル」の設立と国連内での「AIガバナンスに関するグローバル対話」の開始に向けて迅速に行動するよう要請します。

また、自律型致死兵器の禁止に対する呼びかけを改めて繰り返します。私たちは、2026年までに自律型兵器システムの禁止と規制を確立しなければなりません。

いかなる国も、国際法、人道法、人権を侵害するような、武力紛争におけるAIの軍事利用を設計、開発、配備、使用すべきではありません。これには、AIが自律的に標的を選択したり、攻撃したりすることも含まれます。

安保理の理事国は、自ら模範となり、新興テクノロジーをめぐる競争が国際の平和と安全を不安定にすることのないようにしなければなりません。

すべての皆様に向けて、力を合わせて、安全で、安心で、包摂的なAIの未来を築くよう要請します。

ありがとうございました。

＊　＊＊＊　＊

原文（English）はこちらをご覧ください。