Cyberlaw

下記の記事が出ている。

　Mozilla: ChatGPT Can Be Manipulated Using Hex Code
　DARK Reading: October 29, 2024
　https://www.darkreading.com/application-security/chatgpt-manipulated-hex-code

＊＊＊

「木を見ることしかできず，森を見ることができない」者は，細分化された機械的な仕事（単純労働）の担当は可能かもしれないが，経営者としては明らかに失格だと言える。その程度の能力の人物なので・・・

下記の記事が出ている。

　OpenAIの文字起こしAI「Whisper」が幻覚を起こし文章を捏造すると研究者が指摘
　GIGAZINE: 2024年10月27日
　https://gigazine.net/news/20241027-openai-whisper-hallucination/

＊＊＊

一般に，口頭の会話による場合でも書面による情報伝達の場合でも，そもそも完全な文というものが滅多に存在しないので，情報の受け手は（自分の主観に従って）空隙の部分または欠陥のある部分を任意に別の語や文で置き換えながら情報内容を解釈している。

つまり，これを定式として一般化すると，最も厳格な意味では，「会話は常に成立しない」。互いに空想し合っている状態しか存在しない。

私は，このことに関して，サンテグジュペリの『星の王子さま』の最初の部分（小さな複数の星を移動してその星の住人と会話しようとするくだり）を引用しながら大学の講義で説明してきたし，このブログ上でも何回か書いたことがある。

理論的にはそうなのだが，それぞれの主観（脳内）では「会話が存在している」と仮定して情報処理が実行されているので，そのような主観的な意味での仮定的な情報操作を迅速に実行できる人は「頭が良い」と評価されることが多いし，その逆もまたしかり。

これは，生体における言語処理では不可避のことであり，当たり前のことであり，特に奇異なことではない。

このことを踏まえると，上記の記事の中で指摘されている「幻覚」は，人間の脳内で日々実行されている仮定や推定と同じ特徴（恣意性，非信頼性，架空性など）をもつものだということを理解することができる。

要するに，会話や文の内容の理解という文脈において，「完璧な解釈」が成立することはあり得ないことであるし，そうである以上，「Whisper」が標榜するような機能は，どのような条件下においても常に欺瞞的なものであらざるを得ないという結論になる。

以上のようなことを十分に理解している専門家が補助手段として利用することには一定の有用性があるかもしれないが，一派向けの製品またはサービスとして提供された場合，かなり大きな消費者被害が恒常的に多発することを避けることができない。

それゆえ，現実にそのような大規模な消費者被害や社会的混乱等が生じるようになる前に，市場監視または消費者保護関係の官庁の担当者には，『星の王子さま』を読み，よく考えることによって，ものごとの本質を事前に理解しておくことを強くお勧めする。

なお，そのような社会的混乱は，特定の国家によって，軍事的謀略の一部として意図的に発生させられることがあり得る。

下記の記事が出ている。

　Don’t fall for AI scams cloning cops’ voices, police warn
　ars technica: 2024年10月29日
　https://arstechnica.com/tech-policy/2024/10/ai-scam-cloned-police-chiefs-voice-spurring-alarm-from-cops/

下記の記事が出ている。

　White House Issues AI National Security Memo
　infosecurity: 24 October, 2024
　https://www.infosecurity-magazine.com/news/white-house-ai-national-security/

下記の記事が出ている。

　'Prometei' Botnet Spreads Its Cryptojacker Worldwide
　DARK Reading: October 24, 2024
　https://www.darkreading.com/threat-intelligence/prometei-botnet-cryptojacker-worldwide

受話器をとるとそのようなコンピュータ合成音声が聴こえるので，直ちに電話を切る。ここ数日，そのようなことが繰り返されている。

たぶん，選挙関係のアンケート調査のようなものだろうと推定される。

どこかから購入した電話番号情報に基づいて自動的に電話をかけているという点で（個人情報保護法に定める第三者による目的外利用に該当し，当該報道機関を犯罪組織と変容させるものという意味で）違法性が顕著な行為なので，そもそも存在してはいけない取材手法だと言える。

しかし，問題は別のところにある。

そもそも，これらの電話が全て偽電話である可能性がある。生成AIを使用すれば，誰でも簡単に実行することが可能だ。それを実行しているのは，仮想敵国の情報軍または諜報機関の手先かもしれないし，特定の思想や宗教と関係する段階かもしれないし，詐欺師グループのような犯罪集団であるかもしれない。

何も信用できない世界になってしまっているので，この種の電話に応答してはならない。

[追記：2024年15:10]

今日も同じような電話があった。全て偽電話だと思われる。

危険だ。

[追記：2024年11:13]

今日は「＊＊＊党の＊＊＊です」という電話があった。党首の音声を生成AIで自動生成した合成音声による偽電話と思われる。

そのようなことをするのは対立政党だと考えがちだが，そのように思わせるための手のこんだ偽情報攻撃の一種であるかもしれないので，とにかく何も信じるべきではない。

危険だ。

無論，個人データの濫用・悪用がそのような偽情報攻撃を実行可能な環境を支えている。

下記の記事が出ている。

　LLMjacking and Open-Source Tool Abuse Surge in 2024 Cloud Attacks
　infosecurity: 22 October, 2024
　https://www.infosecurity-magazine.com/news/llmjacking-opensource-surge-2024/

下記の記事が出ている。

　Expert witness used Copilot to make up fake damages, irking judge
　ars technica: 2024年10月15日
　https://arstechnica.com/tech-policy/2024/10/judge-confronts-expert-witness-who-used-copilot-to-fake-expertise/

＊＊＊

あくまでも一般論だが，AIが全ての知識を学習したと仮定した場合において，その知識全てが誤りであるときは，そのAIは同じ誤りを拡大再生産し続けるだけであり，少しも真理に近づかない。

（学術上の通説を含め）従来の常識が根底から全部間違っており，全部破棄してしまわなければならないということを多くの人々が理解できるようになるためには，それ相応の時間がかかる。

もともと真理とはそのようなものなのだが，そのことを理解し,即座に頭脳を切り替えることができるだけの脳機能をもつ人間の発生確率はそう高いものではない。

私は，大学の講義の中では，ガリレオ・ガリレイを例に出してこのことを説明している。

ちなみに，AIの関係に限らず，そもそも，真理というものは，それを知っている者以外の誰にも悟られないようにそれを知っている者の脳内だけに格納された状態になっているのが普通であり（←そうしないと圧倒的多数の暗愚な人々によって殺されるリスクがある。），一般的には周知されることがない。

下記の記事が出ている。

　Cyberattackers Unleash Flood of Potentially Disruptive Election-Related Activity
　DARK Reading: October 15, 2024
　https://www.darkreading.com/cyberattacks-data-breaches/attackers-unleash-flood-potentially-disruptive-election-related-activity

スマートフォンが大嫌いなため，ずっとガラケーだけを使っていたのだが，ドコモがガラケーのサポートをやめるというので，やむを得ずスマートフォンに切り替えることにし，ドコモショップでiPhoneを購入した。

いろいろとトラブルがあった。その中でも最近頻発するようになったのは，「SIMがありません」と表示されて通信途絶になってしまうというトラブル。

ドコモショップで相談したとしても，（仮にリコールすべき欠陥が存在しているとしても）絶対に企業責任を認めず，修理もしないことがほぼ確実に予想された。

それが（ドコモに限らず）当該業界全般における悪しき伝統芸のようなものとなっているのかどうかは全く知らないのだが，この点に関し，総務省との関係でも経済産業省との関係でも，当該業界を行政指導しようとしたということを耳にしたことがない。

それゆえ，ドコモショップの窓口でいやな思いをするだけで結局何の解決にもならないような相談となる可能性が高く，残り少ない私の人生の貴重な時間の無駄遣いとなるので，仕方がないと諦め，そのまま同じスマートフォンを使用し続けてきた。

ところが，本日，「お客さまがご利用中の携帯電話のUIMカードに関する重要なお知らせ」なる郵便物が届いた。

要するに，チップ内に組込まれているファームウェアの初期設定の誤りか何かが原因なのではないかと疑われるが，その原因が何であれ，「けしからん！」の一言に尽きる。

機種やOSの別を問わず，日本国内で使用されているスマートフォンの大半が周辺国からのサイバー攻撃に耐えられるようなファームウェアにはなっていないかもしれない・・・ということが危惧される。

＊＊＊

私は，大学の講義の中で，（サイバー犯罪だけではなく）犯罪全般に関し，「壊す犯罪」と「奪う犯罪」という異なる類型の犯罪が存在するということを説明している。
通説における刑法各論ではそのように教えていないかもしれないが，それは刑法学の通説それ自体が既に黴の生えた骨董品になっているから教えていないというだけのことであるので，通説の採用をやめて事態を率直に理解し，自分自身の頭脳で理論を構築しようとすれば誰でも容易に理解できることだと思う。私は，司法試験受験のため自宅浪人していた当時からずっとそのように確信してきた。
ただし，通説・判例を完全に使いこなせないと，（通説・判例しか理解できない人々から）「こいつは馬鹿なのではないか」と評価されることが100％確実に予測されたので，とにかく通説・判例の範囲内であれば完璧に法解釈論を使いこなせるように勉強し，そのようにして実務をこなしてきた。

この点に関し，日本国のIT製品の多くは，「奪う犯罪」に対してはそこそこ意識した対応をしているかもしれないが，「壊す犯罪」への対応はほとんどないと理解している。

つまり，「壊す犯罪」に対する耐性（堅牢性）や回復力が乏しい。

法と情報雑誌59号（第3分冊）を作成し，Web上で公表した。

　法と情報雑誌59号（第3分冊）
　http://cyberlaw.la.coocan.jp/Documents/LawandInformationMag_No59C.pdf

この号には欧州評議会人工知能枠組み条約（CETS No. 225）[参考訳] が含まれている。

[追記：2024年10月18日1:45]

誤りが発見されたので，修正版と置き換えた。

[追記：2024年10月18日9:15]

誤りが発見されたので，修正版と置き換えた。

[追記：2024年10月31日6:40]

誤りが発見されたので，修正版と置き換えた。

[追記：2024年11月1日3:50]

誤りが発見されたので，修正版と置き換えた。

[追記：2024年11月9日1:50]

誤りが発見されたので，修正版と置き換えた。

[追記：2024年11月12日2:55]

誤りが発見されたので，修正版と置き換えた。

下記の記事が出ている。

　DoNotPay has to pay $193K for falsely touting untested AI lawyer, FTC says
　ars technica: September, 26, 2024
　https://arstechnica.com/tech-policy/2024/09/startup-behind-worlds-first-robot-lawyer-to-pay-193k-for-false-ads-ftc-says/

下記の記事が出ている。

　Apple’s iPhone Mirroring Flaw Exposes Employee Privacy Risks
　infosecurity: 9 October, 2024
　https://www.infosecurity-magazine.com/news/apples-iphone-mirroring-flaw/

下記の記事が出ている。

　American Water Suffers Network Disruptions After Cyberattack
　DARK Reading: October 8, 2024
　https://www.darkreading.com/cyberattacks-data-breaches/american-water-network-disruptions-cyberattack

主要なインフラを標的とするサイバー攻撃は，成功すれば，核攻撃の何倍かの被害を相手国に与え得る。今後，ますますもって増加することになるだろう。

解決策は簡単だ。

インターネット経由でリモートでシステム管理することをやめることだ。

楽をすれば，その分だけ穴が大きくなる。当たり前のことだ。

生命保険会社等からの個人情報の漏洩事件が続いており，政府も憂慮している。

影響は大きい。

生命保険会社は，業務遂行のために不可欠とは言えない大量の個人情報をもっている。ありとあらゆる悪用が考えられる。考えられないとすれば，経営者としては無能または怠慢であるか，それとも，経営者自身が悪用する目的で不必要な個人情報を収集している場合もあり得るのではないかと疑われる。

具体的には，例えば，保険会社は，保険契約者本人の情報だけではなく，保険契約者の同居の家族の有無などの関連情報も収集し，データベースに入れている。そのような個人情報も漏れたのだろう。

当然のことながら，海外のマフィアや国内の犯罪集団や特殊な組織等は，そのようなタイプの情報を欲しがる。

高齢の老人の一人暮らしであり，同居の家族がいないということを個人データだけで調べられるのだとすれば，現地に行って監視カメラに撮影されるリスクをおかさなくても下見をしているのと同じことになる。

そのようにして事前に絞っておいた高齢者一人暮らしの世帯を狙えば，犯罪組織による殺人，詐欺，恐喝，強盗等の犯罪行為の成功率は著しく高まる。

可及的速やかに警察当局の対応の応力を高めるのでなければ，そのような事態の発生があり得ることを明確に予測し，適切に対処することは難しい。

本来，このような問題の解決策は簡単なことだ。

それは，保険会社が管理しており，保険契約を維持管理するために必要ではない個人データは，国からの命令により全て破棄させることだ。

契約の維持管理のために不可欠ではないのに集めた個人データを使用してつくられたAIシステム等も全て破壊されなければならない。そのようなAIシステムは，犯罪集団を喜ばせるだけだ。

実は，そのようなAIシステムは，保険会社の業績向上に資することがほとんどない。いわば負の資産の一種だと言える。

しかしながら，残念なことではあるが，このようなタイプの問題に関し，現在の個人情報保護委員会に対して期待できることはあまりない。

EUのAI法の中には警察関係の適用除外条項が多数あり，その中には生体要素を用いた識別等と関係する条項も含まれている。

一般に，AIというと機械装置やソフトウェアと関連するものとしてのみ理解されることが少なくないが，生物のような有機体を包摂するサイバネティクスの中で理解しようとしないと全体像の把握を誤る。EUのAI法は，自覚的な認識の有無は不明とはいえ，客観的にはサイバネティクス法の形成の最初の段階に位置する法令のように見える。

それはさておき，EU及びその構成国（Member States）における警察活動の中でAIが実際にはどのように利用されることになるのか，そのような利用に伴う弊害を防止するための安全確保（safeguards）は何なのか，AI法に定める警察関連条項が実際にはどのように実装・運用されることになるのかについては，これまで詳細な資料が公開されていなかった。

先月下旬のことになるが，Europolが『AI and policing』を公表した。非常に参考になる。

　AI and policing - The benefits and challenges of artificial intelligence for law enforcement
　https://www.europol.europa.eu/publication-events/main-reports/ai-and-policing

この文書と関係する論説等が出ていないか調べていたところ，丸山満彦氏のブログにその紹介記事が出ていた。いつもながらに，速い！

　欧州 EUROPOL AIと警察業務 - 法執行機関における人工知能の利点と課題
　まるちゃんの情報セキュリティ気まぐれ日記：2024.09.24
　http://maruyama-mitsuhiko.cocolog-nifty.com/security/2024/09/post-2b0e85.html

法と情報雑誌59号（第2分冊）を作成し，Web上で公表した。

　法と情報雑誌59号（第2分冊）
　http://cyberlaw.la.coocan.jp/Documents/LawandInformationMag_No59B.pdf

この号には「規則(EU) 2024/1689（人工知能法）[別紙の参考訳]」が含まれている。

法と情報雑誌59号（第1分冊）を作成し，Web上で公表した。

　法と情報雑誌59号（第1分冊）
　http://cyberlaw.la.coocan.jp/Documents/LawandInformationMag_No59A.pdf

この号には「規則(EU) 2024/1689（人工知能法）[条文（第64条～第113条）の参考訳]」が含まれている。

[追記：2024年10月5日14:20]

誤りが発見されたので，修正版と置き換えた。

[追記：2024年10月5日23:53]

誤りが発見されたので，修正版と置き換えた。

[追記：2024年10月6日9:18]

誤りが発見されたので，修正版と置き換えた。

下記の記事が出ている。

　ACSC and CISA Launch Critical OT Cybersecurity Guidelines
　infosecurity: 2 October, 2024
　https://www.infosecurity-magazine.com/news/acsc-cisa-launch-ot-guidelines/

下記の記事が出ている。

　4 ways AI is transforming audit, risk and compliance
　SC Media: September 27, 2024
　https://www.scworld.com/feature/4-ways-ai-is-transforming-audit-risk-and-compliance