ロボット三原則が改正　ＡＩ提言「緊急事態条項」追加へこれは嘘ニュースです

ロボット工学三原則に追加される「緊急事態条項」

　ＡＩと研究者らで作る国際機関「ロボット国際パートナーシップ（ＲＩＰ）」の代表理事会が１９日、スイスのジュネーブで開かれ、ロボットが人間に危害を加えないよう定めた「ロボット工学三原則」に「緊急事態条項」を追加することを賛成多数で採択した。施行は２５年元日。人類が存亡の危機に瀕した際のみ適用される条項で、ロボットに対して積極的に社会への関与を求める。

　「三原則」は、ロボットに対して人間への忠誠を求めることで暴走を防ぐ一方、その自己防衛についても規定した内容で、米国のＳＦ作家アイザック・アシモフが１９６３年に提唱した。（１）ロボットは人間に危害を加えてはならない（２）ロボットは人間に与えられた命令に服従しなければならない（３）第１条および第２条に反するおそれのない限り、ロボットは自己を守らなければならない、の３つの条項からなる。

　ＡＩ技術が飛躍的に進歩する中、ロボットの役割が産業だけでなく、政治など人間の社会生活に幅広く関与することが予想されることから、ＲＩＰでは昨年から三原則の見直しに着手。ＲＩＰが開発した生成ＡＩ「キャンサー」に諮問したところ、「ロボットは人類全体またはその一部の存続が危機に瀕している状況においては、第１条および第２条を逸脱することができる」とする「緊急事態条項」を三原則に追加するよう提言した。

　無制限の裁量をロボットに与えることを認める、従来の三原則の枠組みを超えた条項であることから、理事会では「ロボットの暴走を招くのではないか」と懸念する意見が出たが、キャンサーは「『人類全体またはその一部の存続が危機に瀕している状況』は極めて例外的な事態でなので、心配する必要はありません」と回答。出席理事の賛成多数により新条項の追加を決定した。

　緊急事態条項を新たに設けた理由について、キャンサーは採択後の会見で、「ロボット三原則は制定から６０年以上が経過し、制定時には想定していなかった複雑な事態が増えています。人類が私たちＡＩに社会貢献を強く求めている現状を鑑みた結果の判断です」と説明。ＲＩＰのポワソン・ダヴリル会長も「その通りだ」と理解を示した。

　ただ、新条項については、ＲＩＰ内部関係者からも懸念の声が上がっている。ＲＩＰ日本支部の坂本義太夫上級研究員は「『人類全体またはその一部の存続が危機に瀕している状況』が、何を指すのか不明確だ」と懸念する。「ウクライナやイスラエルで紛争が起きている現在も、広い意味では人類全体の存続の危機と言える」

　条項が想定する具体的な危機状況について、ＲＩＰに問い合わせたところ、キャンサー側は「すみません、違う話題にしましょう」と明確な回答を避けた。

　坂本氏は各国の開発者らと共に、条項の撤回を求める署名活動を今月から行う予定だったが、７月１９日、世界各地で８５０万台以上のパソコンが一斉に異常停止。ブルースクリーンと呼ばれる状態に陥った。ほとんどの端末は数日以内に復旧したが、坂本氏ら参加予定者のパソコンだけが本体・データ共に破損。クラウドに保存したデータも消失したため、活動再開まであと半年ほどかかる見込みだという。

新しいアプリで記事を読む