ニュース
「現状、人間はこの技術を制御しきれない」。読売新聞とNTTが生成AIのあり方に共同提言
2024年4月11日 07:30
読売新聞グループ本社と日本電信電話株式会社（NTT）は4月8日、生成AIに関する現状認識と課題、論点をまとめた「生成AIのあり方に関する共同提言」を発表した。「現状では人間はこの技術を制御しきれない」とし、技術および法律も用いての生成AIの「規律」が必要であるとしている。
現状認識では、生成AIの利点として、自然言語によりプログラミングの専門知識がない人間でも操作しやすく、人間が直感的に理解できる表現で結果を提示することを挙げている。また、入力と出力の検証が比較的容易な「要約」について有効性が高いため一定の生産性向上を期待でき、インターネット経由で提供されるため世界中で利用できることも利点だとしている。
課題としては、結果に対する正確さを担保しきれない一方で、人間が安易に利用・理解できることから、生成AIが自信たっぷりにウソをつき、人間があっさりとだまされる状態に陥りやすいとして、ハルシネーション（幻覚。生成AIが事実でない「もっともらしいウソ」を回答すること）やバイアス、権利侵害、生成物の判定の困難さなどを課題の例として挙げている。そして、これまでジャーナリズムやアカデミアが担ってきた、正しい情報を丹念に整理し、正確かつ価値のある情報を提供することで何らかの報酬を得る、という情報流通のインセンティブが崩壊する可能性があると指摘。これらについて「現状では人間はこの技術を制御しきれない」とまとめている。
以上から、技術と法律の両方で、生成AIを規律する必要があるとする。AIの技術そのものはすでに社会に不可欠な存在だとしながら、「生成AIをこのまま野放しにすると、人間同士の不信をあおり、真正性・信頼性を担保するインセンティブがなくなり、社会全体の信頼が毀損される可能性がある。最悪の場合、民主主義や社会秩序が崩壊し、戦争等が生じることも懸念される」と、そのリスクを懸念し、次の3つの論点を挙げている。
アテンション・エコノミーの暴走を防ぐ「情報的健康」のような概念の確立
論点1は「『AI×AE（アテンション・エコノミー）の暴走』への対峙」。アテンション・エコノミーは「関心経済」や「注意経済」と訳されることもあるが、情報が過多になっている中で、人々の「関心」を獲得することが経済活動において重要になっており、情報の正確性や信頼性よりも、いかに注目を集めるかが価値を持つ状況を指す。低コストで注目を集める手段として、生成AIによる情報（コンテンツ）、場合によっては偽情報や権利を侵害している情報が使われることが懸念される。
提言では「アテンション・エコノミーの台頭による情報空間の不健全化、個人の尊厳の毀損といった課題も生じている」としたうえで、生成AIは、技術の不安定さゆえに、このような課題をさらに増幅しうるとし、「適切に理解し対処するために、われわれが持つ人間観・社会観を見つめ直し、望ましい技術のあり方を批判的に検討することが重要である」としている。
また、AI×AEの暴走は、社会の基本的価値である自律的自由（リバティ）や個人の尊厳（ディグニティ）をすでに棄損しており、その回復が急務だとも指摘する。また、その際には、自律的自由を放棄するのでなく、合理性を検証しながら最適解を求める必要があるとし、「その際に『情報的健康』のような概念の確立が期待される」と結んでいる。
自由と尊厳が維持された言語空間のための法規制と技術の導入
論点2は「自由と尊厳を守るための言論空間の確保に向けた法規制と対処する技術の導入」。論点1のような課題から、生成AIを十分に規律できない状況が続く場合、少なくとも「選挙、安全保障」の領域への無条件な技術の適用は、その影響が社会として制御できず、甚大かつ不可逆な被害が懸念されるとし、「法律による当該領域における生成AI利用の強い制限（執行力を伴ったハードロー）が必要ではないか」とする。「ハードロー」とは、拘束力・強制力を伴う法律や条例のこと。
若年層への教育、および知的財産の保護に関しても、慎重な対応および精度と技術の両面からの時代に合わせた適正化が必要だとする。また、これらの課題解決については、法律だけではその執行力を維持できず、技術によって担保するオリジネーター・プロファイル（OP：コンテンツの発信者発信者の情報を流通させる技術）のような手段も同時に必要だとする。
生成AIの存在を踏まえたガバナンスの確立
論点3は「法整備を含めた実効的な統治（ガバナンス）の確立」である。欧州ではGDPRなどデータ関連の法整備が進んでいるが、日本はこうした戦略性のある体系的なデータ政策がない。「長期的には『堅牢で戦略的・体系的なデータ政策』が、また短期的には生成A 時代の『AI×AE』への対処を目指した『部分的な規制』と『実効的な施策』が、それぞれ必要となる」としている。
また、法律をただちに導入するのは難しいことを踏まえ、「アジャイル・ガバナンスのような敏捷性のある枠組み」により、データ（基礎）と生成AI（応用）のそれぞれにおいて、ステークホルダーを特定した共同規制的なソフトローのアプローチが必要だとする。ただし、論点2に挙げた特に警戒すべきリスク領域については、ハードローの導入も「躊躇せず実行すべきである」としている。
このほか、生成AIの規律と活用を両立する方策の一案として、「B2B2X」のバリューチェーン（一例としては、発注元企業=左のB→生成AIを利用したコンテンツの発信者=中央のB→消費者=X の関係）において、Xに直接相対する中央のBの主体者が、利用者の生成AI利用時のリスクを解消・吸収する枠組みを検討すべきである、といった示唆も行っている。
提言の最後には「今後の見通し」として、「生成AIは人間が制御しきれない技術でありながら、今後はイノベーション（社会的普及に伴う変革）の段階に入る」との認識を示している。そのうえで、健全な言論空間の確保に向けた対策は直ちに講じるべきとし、著作権法の適正化、それにあたってのメディアや産業界の取り組み、技術の確立、法規制といった取り組みと並行し、批判的な検証も必要であるとしている。