@Miinuma4 これは、Androidでアクセスすると偽アプリを投下し、iPhoneでアクセスするとAppleのフィッシングを仕掛けるSMSです。2023年3月10日にばらまかれたもので、文字間にUnicodeの「U+0749」を挿入することで、検出されるのを回避しようとしているのではないかと思います。 x.com/NaomiSuzuki_/s…
Retweeted by Hiromitsu Takagi
retweeted at 13:10:18
| Stats | Twitter歴 5,867日（2008-12-23より） |
ツイート数 254,537（43.4件/日） |
2024年05月31日(金)15 tweets
マルウエア作成に対話型生成AIを悪用した事案についてまとめてみた - piyolog piyolog.hatenadiary.jp/entry/2024/05/…
Retweeted by Hiromitsu Takagi
retweeted at 12:09:49
chatGPT以下のチェック能力の通信社、だめだろ…… x.com/sh1n0/status/1…
Retweeted by Hiromitsu Takagi
retweeted at 02:59:13
共同通信の海賊版対策でブロッキングが成果をあげてるって大誤報、ChatGPTに記事内容を貼り付けて、間違ってる所をあげてみて？って聞いたら、「接続遮断（ブロッキング）は憲法上の表現の自由との関係で議論があり、実際に法制化が困難である点が見落とされています。」って回答が。
Retweeted by Hiromitsu Takagi
retweeted at 02:59:06
「AIでウィルス作成？完成してないから罪を構成しない」をトゥギャりました。 togetter.com/li/2374940
Retweeted by Hiromitsu Takagi
retweeted at 02:02:08
「回答のつなぎ合わせ」がもう素人には困難すぎやしませんかね（） x.com/HiromitsuTakag…
Retweeted by Hiromitsu Takagi
retweeted at 01:12:52
Hiromitsu Takagi@HiromitsuTakagi
はあ？ これでも読んで。 takagi-hiromitsu.jp/diary/20170604… x.com/n821nJF8iuB4JA…
posted at 01:06:53
Hiromitsu Takagi@HiromitsuTakagi
おや、Coinhive事件で敵方だった須藤編集委員 takagi-hiromitsu.jp/diary/20180617… が、今回はこちら側ですか。 x.com/h_okumura/stat…
posted at 01:01:56
「警察関係者に聞いてみると、ソースコード（…）のみが見つかっているそうです」（言語は何だろう？ Pythonだったりして） x.com/sudo_tatsuya/s…
Retweeted by Hiromitsu Takagi
retweeted at 00:59:33
「ＳＮＳを通じて知人女性にウイルスを送信していた」 yomiuri.co.jp/national/20240… ことと合わせると、SNSで送ったのもソースコードということになる🤣
Retweeted by Hiromitsu Takagi
retweeted at 00:59:29
@u8we2doFLlk8Xsj ちょっとできるから生成ＡＩに聞いてウイルスを作りましたっていう人なら、そもそも生成ＡＩに聞かなくても作れるよって事にも思い至らないようですね、反ＡＩ。将来的にはともかく今はそこまで便利じゃないし、その域に達したなら多分こちらがどうこう言う前に生成ＡＩ自身が断るレベルになってる。
Retweeted by Hiromitsu Takagi
retweeted at 00:59:04
Hiromitsu Takagi@HiromitsuTakagi
「AIなら何でもできる」「楽して稼ごう」ウイルス作成容疑の男 「AIなら何でもできる」「楽して稼ごう」捜査関係者の男 「AIなら何でもできる」「楽して稼ごう」取材記者の男 digital.asahi.com/articles/ASS5X… x.com/muchimuchipopo…
posted at 00:57:35
上原先生がここまで言っている 不能犯疑いで、法律面も技術面もセンスのない立件よね コインハイブが終わったばかりなのに、悪判例を作ることで社会に悪影響を及ぼす危険を認識してないのだろうか？ まあ、そんなことより生成AI絡みで全国初立件取りたかっただけってのは、よ〜くわかってるんだが... x.com/tetsutalow/sta…
Retweeted by Hiromitsu Takagi
retweeted at 00:54:01
上原 哲太郎/Tetsu. Uehara@tetsutalow
作成罪の運用は慎重にお願いしたい。今回供用されてないのだが目的の疎明は被疑者の供述頼みか？作成も生成AI利用ならそもそも作成とはという話になりかねない。作成罪の射程がむやみに伸びるとソフト産業が死ぬ。 / htn.to/2nKJ7epYb1
Retweeted by Hiromitsu Takagi
retweeted at 00:52:21
Hiromitsu Takagi@HiromitsuTakagi
不正指令電磁的記録提供罪（168条の2第1項）は単なる提供行為ではなく、「人の電子計算機における実行の用に供する目的」で行うこと（提供先において供用罪に当たる行為が実行されることを提供元が目的としていること）が必要。 「提供目的であれば、その行為自体が法律に抵触する可能性があります。」 x.com/t_nihonmatsu/s…
posted at 00:41:20
2024年05月30日(木)41 tweets
@HiromitsuTakagi 医療機関の紹介状をChatGPTに食わせている医師がいるようです。 「本文のみだから個人情報には配慮している」と主張しているようですがどうなのでしょうか。 （個人情報の定義はよくわかってません。すみません） ttps://x.com/1042limit/status/1795080782588907535 pic.twitter.com/NQ6tgdqWp7
Retweeted by Hiromitsu Takagi
retweeted at 16:13:00
Hiromitsu Takagi@HiromitsuTakagi
その事案は、広報における過失ですから、また性質が違うかと。 x.com/kumoha683/stat…
posted at 14:00:36
Hiromitsu Takagi@HiromitsuTakagi
氏名とIDを消そうが、個人データの漏えいなのだが？ 「患者に関連する個人情報は全て消去したつもりだったが、写真の一部分に氏名などが残っていたという。」 x.com/itmedia_news/s…
posted at 13:39:19
職員がインスタに患者のカルテ写真を投稿、約1カ月間外部から閲覧可能な状態に 仙台市立病院 itmedia.co.jp/news/articles/…
Retweeted by Hiromitsu Takagi
retweeted at 13:37:45
Hiromitsu Takagi@HiromitsuTakagi
同じではないですね。その事案は公開した行為ですし。 x.com/kumoha683/stat…
posted at 13:36:56
Hiromitsu Takagi@HiromitsuTakagi
なんか変な規定ですね。「以上のような……ために」国内法の執行の及ぶ範囲にと言っているだけですよね。第1文も「規定されいてる」のは「作成や保存」のようですし。 x.com/kumoha683/stat…
posted at 13:33:14
Hiromitsu Takagi@HiromitsuTakagi
具体的には当該ガイドラインのどの部分ですか？ x.com/kumoha683/stat…
posted at 13:07:39
Hiromitsu Takagi@HiromitsuTakagi
録音していようがいなかろうが関係ないし、患者の発話でなかろうが患者について医師が述べたものであれば、アカン（ 医師の守秘義務として医療機関が決めたルール、個人情報保護法上の安全管理措置）のでは。 x.com/takt0326/statu…
posted at 13:07:13
そうそう、こういうのが正しい医療DXだと思うんだよな。しょうもない日本のスタートアップのなんちゃって医療DXの会社なんてぜんぶ潰れたらいいのに。 x.com/takt0326/statu…
Retweeted by Hiromitsu Takagi
retweeted at 13:05:10
@takt0326 @kensyui_com すんごい良さそうだけど電子カルテをchatGPTが使える状態にする＝ネットに繋がないといけないのがネックなのかな？ あとたぶんウチの科はギャン泣き多発で聞き取れないから無理😇
Retweeted by Hiromitsu Takagi
retweeted at 13:04:24
@takt0326 これマイクのブランドとプロンプト教えていただけませんか？？ ちなみに電カル何使ってらっしゃいますか？？
Retweeted by Hiromitsu Takagi
retweeted at 13:04:04
補足しておきます ・マイクとchatgptのテストであり、カルテに利用していません ・患者さんとの「会話を録音」したものではなく、僕が「音声入力」したものを出力しており、録音はしていません ・40代男性、はchatgptか捏造しました(プロンプトの不備) ・過不足無く入力するよう意識しています
Retweeted by Hiromitsu Takagi
retweeted at 12:59:07
音声入力の精度とchat gptの能力を確認するために試してみた。 ……こらすげーわ。 画面向く時間が減って、患者さんの方を見続けられそうでいいんじゃない？ 画像3枚目はマイクの位置。 pic.twitter.com/HdQJoCRqGw
Retweeted by Hiromitsu Takagi
retweeted at 12:59:04
今回はテストのようだけど 実際の患者で使うと個人情報保護法に抵触します。 x.com/kumoha683/stat… また、ChatGPTなのであれば総務省、経産省の「医療情報を取り扱う情報システム・サービスの提供事業者における安全管理ガイドラインン」にも抵触します。 x.com/takt0326/statu…
Retweeted by Hiromitsu Takagi
retweeted at 12:58:59
@y_k_m_s_ オンプレミスの生成AIですね。 最近はこのような有償ソフトでなくとも自身でオンプレの生成AIのサーバーを作れるようなソフトウェアも色々と出てきています。 佐賀の織田病院がオンプレGPUサーバーでLLM稼働、電子カルテ情報を生成AIが要約 xtech.nikkei.com/atcl/nxt/colum…
Retweeted by Hiromitsu Takagi
retweeted at 12:56:39
厚労省は早期に総務省同様のガイドブックみたいなものを作らないと、無法地帯化して患者が個人情報漏洩の不利益を受けるんじゃないかな。 soumu.go.jp/main_content/0… pic.twitter.com/4w1JKFmIXl
Retweeted by Hiromitsu Takagi
retweeted at 12:56:02
Hiromitsu Takagi@HiromitsuTakagi
何の点で何に違反なんですかね。要配慮か否かは関係ないのでは。 x.com/kumoha683/stat…
posted at 12:55:47
ポストが消されてしまった 前後のポストを見る限り、オンプレの電子カルテ端末とインターネットPCをクリップボードを共有できるリンクケーブルで繋いでGPT4oを使用しているようだ 本当にロクな事を思いつかないなぁ x.com/1042limit pic.twitter.com/nY3iiyf6Dk
Retweeted by Hiromitsu Takagi
retweeted at 12:49:25
Hiromitsu Takagi@HiromitsuTakagi
Librahack事件のときも、みんな最初そう言っていた（別の事件など背景があるのでは？など）んだよねえ。 x.com/ayatan_nagi/st…
posted at 12:47:09
Masanori Kusunoki / 楠 正憲@masanork
デジタル庁では昨春からガバメントクラウド上でLLMの試用を開始し12月から全庁で使える技術検証環境を整備してユースケース発掘に取り組んできました。その成果を踏まえて本格利用に向けたリスクへの対策ガイドブックのα版を公表します。是非とも参考の上ご意見いただきたく digital.go.jp/resources/gene…
Retweeted by Hiromitsu Takagi
retweeted at 12:43:54
本日、デジタル庁にて「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」が公開されました。政府情報システムへの生成AI導入に関わる行政職員を対象とした文書です。 今後は標準ガイドラインへの編入を検討予定とのことです。 digital.go.jp/resources/gene… pic.twitter.com/sexfydwWRt
Retweeted by Hiromitsu Takagi
retweeted at 12:43:50
映画館入ったら「顔」撮影「新宿ピカデリー」防犯カメラで顔認証公表も即延期…「マーケティング」目的には非難轟々 #SmartFLASH #SNS #ハラスメント #企業 #新宿 #映画 smart-flash.jp/sociopolitics/…
Retweeted by Hiromitsu Takagi
retweeted at 12:38:27
@HiromitsuTakagi 「得られた回答をつなぎ合わせる」ことができるのはもう「素人」とは思えないですよね。
Retweeted by Hiromitsu Takagi
retweeted at 12:31:23
Sharaku Satoh | Prompt Engineer@sharakus
@HiromitsuTakagi 複雑なアプリケーション全体を生成するのはGPT-4oでもほぼ無理ですね。あくまでコーディング支援ですから。しかもインジェクションでぶつ切りに生成したコードなんて繋がりません。「断片的に生成された中途半端なコードをメモ帳に保存してた」が僕の推理です。
Retweeted by Hiromitsu Takagi
retweeted at 12:31:21
Hiromitsu Takagi@HiromitsuTakagi
サーバーは関係ないですね。 x.com/witch_on_earth…
posted at 12:31:07
Hiromitsu Takagi@HiromitsuTakagi
どこを引用すればよかった？ここ？ 「「生成ＡＩの悪用でウイルスの作成時間が大幅に短縮された可能性がある」。情報セキュリティー会社Ｓ＆Ｊ（東京）の三輪信雄社長はそう指摘する。」 x.com/k2_naka/status…
posted at 12:30:29
Noriaki Yoshikawa@yoshikawanori
これ、「セキュリティー対策事業者などの協力を得て」とあるので、純粋にフィルタリング（対象リストはセキュリティ会社が提供することも多い）とブロッキングを混同しているのだと思います。かつて、ブロッキング議論に役所側で関わっていた経験として、昔から頻繁に混同されます。 x.com/ogi_fuji_npo/s…
Retweeted by Hiromitsu Takagi
retweeted at 12:16:28
荻野幸太郎/OGINO,Kotaro@ogi_fuji_npo
「接続を強制的に止めるブロッキング（接続遮断）策」という丁寧な修飾節が付いてるということは、「そういう施策が既に実装されている日本社会」というパラレルワールドが頭に浮かんだはずで、それについてはどう思ったんだろうか。普段の自分の生きている社会との齟齬を感じなかったんだろうか。あるいは、フィルタリングと書き間違えた記者とは別に、用語説明を付け足してさらに問題を拡大した人がいた可能性もあるんだろうか。
Retweeted by Hiromitsu Takagi
retweeted at 12:16:20
荻野幸太郎/OGINO,Kotaro@ogi_fuji_npo
共同通信さん、最近ますますおかしくなっている。もうメチャクチャ。単なるミスではこんなことには絶対にならない。何か陰謀論的信念を持った人が確信犯的にやらなきゃこんな記事にはならないはず。 変な電波を受信する記者を、内部で止められなくなっているんじゃないの？ x.com/nmisaki/status…
Retweeted by Hiromitsu Takagi
retweeted at 12:16:14
Masanori Kusunoki / 楠 正憲@masanork
@nmisaki たぶんこの発表の誤読かと思うのですが kantei.go.jp/jp/singi/titek… 記者の思い込みか、変な記者レクをした担当者がいたのかが気になりますね。いずれにしてもネットの流言だけでなく広く報道の裏取りをしてくれるファクトチェック機関が日本にも必要ですね
Retweeted by Hiromitsu Takagi
retweeted at 12:16:08
『政府、海賊版対策で海外連携強化 サイト遮断や削除、迅速に』←昨日の記事。全然話題になってませんが、「海賊版サイトへの対応は、（中略）ブロッキング（接続遮断）策を導入し、一定の成果を上げている」って、共同通信のこの大嘘記事、誰が書いたんだ？ 47news.jp/10982632.html
Retweeted by Hiromitsu Takagi
retweeted at 12:16:03
こんな感じでした。左の机がwindows 、右の机がMac、一人だけ半ズボンです。 pic.twitter.com/PdjZ3VjQXO
Retweeted by Hiromitsu Takagi
retweeted at 09:57:24
昨晩は、プライバシーフリーク・カフェご参加頂きましてどうもありがとうございました。 最終的に465人の申込み、300人ほどにご視聴頂きました。また会場には申し込まれたのに欠席の方もおりまして20数名でしたが、その後有志の方と飲み会で閉店まで意見交換でした。
Retweeted by Hiromitsu Takagi
retweeted at 09:57:20
Hiromitsu Takagi@HiromitsuTakagi
どゆこと？ x.com/wakwak_koba/st…
posted at 09:54:20
生成AIは未知のもの。 ウィルスは悪さをするもの。 という認知を元に理解しようとするから、未知のもの＝恐怖、にすり替わってしまう。 x.com/h_okumura/stat…
Retweeted by Hiromitsu Takagi
retweeted at 09:50:26
警視庁もマスコミも「生成AIで怖いウイルスが作れてしまった」というストーリーに仕立てたいのだろうから、専門家がマスコミの取材に答えるときは注意しないと、切り取られてそういうストーリーにされてしまうかも
Retweeted by Hiromitsu Takagi
retweeted at 09:49:54
🐼たまき（AIは道具です）🇯🇵Tamaki@jutsushi_tamaki
AIでウイルス作ったらしい人を捕まえた なんか、逮捕した警察→よくわかってない 報道したマスゴミ→もちろんよくわかってない それをみたひとびと→ちょっと何言ってるかわかんない逮捕された人→なんで逮捕されたかよくわからない（？） ？？？ 裁判所→よくわからんが有罪（？） うーむ…
Retweeted by Hiromitsu Takagi
retweeted at 09:49:48
「ウイルスをAIに作らせたが動作しなかったのに逮捕した神奈川県警は無能！あと裁判所も！」まず第一に警視庁なんだよなぁ…ニュースちゃんと見ようね。
Retweeted by Hiromitsu Takagi
retweeted at 09:49:15
Hiromitsu Takagi@HiromitsuTakagi
これ、あの三輪さんが言ってるのだけど、ぶっちゃけどうよ？ yomiuri.co.jp/national/20240… 「三輪氏によると、「ファイルの暗号化」や「脅迫文の表示」といった動きをするランサムウェアを一から作成するには、プログラミングの基礎知識がある人で数か月程度かかるという。今回の事件では、生成ＡＩへの質問を細分化し、得られた回答をつなぎ合わせることで、「素人」でもウイルスが作成できたと推察する。」
posted at 00:52:25
Hiromitsu Takagi@HiromitsuTakagi
@tedie 2号不正指令電磁的記録として実質的に完成しているものでなかった可能性が焦点と思われます。
posted at 00:09:52
Hiromitsu Takagi@HiromitsuTakagi
別の事件（身分証偽造行使での詐欺事件）での強制捜査でPCやスマホを隅々調べたら、そのような記録が出てきたという話のようです。そのような捜査自体にも問題があるのではないでしょうか。 nikkei.com/article/DGXZQO… 「偽造の身分証を使って携帯電話用SIMカードを不正に契約した詐欺容疑などで逮捕。捜査の過程で同容疑者が作成したウイルスを確認」
posted at 00:08:38