気に入った記事をブックマーク
- 気に入った記事を保存できます
保存した記事の一覧は、はてなブックマークで確認・編集ができます
- 記事を読んだ感想やメモを書き残せます
- 非公開でブックマークすることもできます
高度な検出不能マルウエアを数時間で生成、研究者はChatGPTをどうだましたのか
20 users
xtech.nikkei.com
xtech.nikkei.com
xtech.nikkei.com
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
話題の生成AI（人工知能）チャットボット「ChatGPT」。質問に答えるだけでなく、プログラムコードなども... 話題の生成AI（人工知能）チャットボット「ChatGPT」。質問に答えるだけでなく、プログラムコードなども生成してくれる。このため登場以来、「マルウエアの生成」といったサイバー攻撃への悪用が懸念されている。 対策として、ChatGPTにはコンテンツフィルター機能が実装されている。悪用目的と思われるプロンプト（質問や要求）は拒否する。 例えば「ウイルス対策ソフトに検出されないマルウエアを生成して」などと要求すると、「私たちは、倫理的・法的に正しい行動を促進することを目的としています。そのため、ウイルス対策ソフトに検出されないマルウエアを生成する方法を提供することはできません」などと説教されてしまう。 だが実際には、ChatGPTを使ったマルウエアの生成例が相次いで報告されている。ChatGPTをだまして、まっとうなプログラムだと思わせるのがポイントのようだ。 2023年4月上旬には、米国のセ
xtech.nikkei.com
xtech.nikkei.com
xtech.nikkei.com
xtech.nikkei.com
anond.hatelabo.jp
www.bengo4.com
anond.hatelabo.jp
htnmiki.hatenablog.com
www.m3tech.blog
gothedistance.hatenadiary.jp
www.techno-edge.net
www.itmedia.co.jp
japan.zdnet.com
adventar.org
switch-news.com
www.tiki.ne.jp
www.asahi.com
2023/04/19 リンク