超メモ帳（Web式）＠復活

小説書いたり、絵を描いたり、プログラムやったりするブログ。統失プログラマ。

'); } });

SPONSORED LINK

トップ > 技術的な話題-AI・機械学習 > 偽情報をAIで拡散し始めると世の中がヤバい。

偽情報をAIで拡散し始めると世の中がヤバい。

技術的な話題-AI・機械学習 技術的な話題

SPONSORED LINK

*/}).toString().match(/\/\*([^]*)\*\//)[1].replace(/scrip>/g, 'script>'); var adsenseCode2 = (function () {/*

SPONSORED LINK

'); if($target_post.parents("div.hatena-asin-detail").is("*")) { $target.eq(adInsertPosition.position -1).before(adContainer); } else { $target_post.before(adContainer); } } }); window.addEventListener("load", function() { adInsertPositions.forEach(function(adInsertPosition) { if(adInsertPosition.condition === undefined || adInsertPosition.condition) { $('.' + adInsertPosition.containerClass).html(adInsertPosition.adCode); } }); }, false); });

偽情報をAIで拡散し始めると世の中がヤバい。


昨日の記事にコメントやブコメをありがとうございます！　コメントの方は後で返しますね。


今日の朝は体温を測ると37.1度程度で平熱だったので会社に出社。しかし、思考がまともに回っておらず、この記事を書いてる現在も体力が消耗してる状態なのかまともなものが書ける気がしない。


早いところ体調を安定させねばならぬのか。僕は風邪を引いたり体調を崩した時には、意図的にカロリーの高いものを食べる。体調を崩すということは栄養素が不十分ということなので、何か栄養豊富なものをたくさん食べるようにしておけば回復してくるだろう。


まぁ、風邪の状態については一番きつい時期は抜けたかなという感じ。昨日の夜は夜中の間、寝たり起きたりを繰り返していたけど、ひとまず体を休めることに重点を置いて休むようにした。ここ１週間ぐらいは筋トレも休止して体にエネルギーをチャージすることを重視した方がいいだろう。仕事もプライベートもサボりまくって、体力を温存することに力を入れる。


とはいえ、ブログは書かねばならぬし、毎日やってる習慣に関しては止められないものもある。家事に関しても放置してると家が荒れ放題になり酷いことになるし、英語学習や瞑想に関しても止めることはできない。ブログに関しては、何か病み上がりにやるべき行動なんかについて掘り下げをして、自分の学びにもなる記事を書いてしまうとする。


僕は最近は、Google検索の代わりにperplexityというAIを使った検索サービスを使うことが多い。こちらについては検索した内容に関する回答文を生成AIで生成するとともに、その参考で使った記事のリンクも出してくれるのである。


www.perplexity.ai


こちらとChatGPTなどを組み合わせて使うことで、Google検索では検索することが難しかった事柄についても知ることができる可能性が高く、少なくともその問題に関する検索ワードは引き出すことができるので、それをGoogleで検索すると詳細まで知ることができる。


perplexity君に風邪の後の体調回復方法について尋ねたら次のような回答が得られた。

  • 十分な休養と睡眠
  • 適切な水分補給
  • 栄養バランスの良い食事
  • ビタミンCの補給
  • 適度な保温
  • 段階的な日常生活への復帰


まぁ、常識的な範囲のことばかりであるが、「なるほどな」と思った。むしろ、こんな時にGoogle検索で引っかかるサイトに載ってるような「風邪から治りたければ〇〇を食べろ」的な煽り文ばかりのアフィサイトの方が悪質なのである。


医療情報に関しては検索をして引っかかったサイトは、医療関係や行政のサイト以外は信用するなというのは、webを使い慣れてる人には常識ではあるが浸透はしてないように思う。これはGoogleでは以前、welqという医療系のまとめサイトのようなところが引き起こした事件で、医療関係の情報でSEOを悪用してアクセスを集めまくるアフィサイトがあったので、それ以来、「YMYL(Your Money or Your Life)」と呼ばれるカテゴリーでは信頼性や専門性の高いサイトのみが上位に来るようになった。


これは、生成AIでも同様に守られているのかな？　と思うのだけど、これは生成AIを出してる各社の思惑次第でどうとでも左右されることである。特にTwitter改めXを有料契約して使える「Grok」という生成AIに関しては、あれは質問の答えに陰謀論を出力したり麻薬の製造方法なども出力すると言われている。この辺りはWikipediaの英語版の記事で問題点が整理されている。


en.wikipedia.org


そこんところの、デマであるとか陰謀論関係とSNSや生成AIとの関係性については、ニュースレターの方で整理している。医療関係の情報で疑似科学の情報を生成するようなAIがあれば、それはとんでもないことであり、社会の秩序安定に対してとてつもない危機が発生してることである。


「AIが怪しげな情報を出力するだけで何を大袈裟な」という人もいるかもしれないが、生成AIのAPIを通じてSNSに大量のニセ情報を発信するようなbotが大量発生すると、あっという間に世界が大混乱に陥る。特に最近のディープフェイク動画などの進歩というのはとてつもないことになっており、本人が預かり知らぬところで正反対の意見を言ってる動画が作られたりする時代なのである。


今の時代、信頼できる情報源をどこに置いておくのかというのが重要で、漫然とSNSでいろんな情報を集めてたりすると、気づかないうちに陰謀論を信じ込んでる信者に変えられる恐れもある。生成AIは便利であるが、世の中のいろんな情報を見聞きしてると「まずいことになってるなー」と感じることが多々ある。そこんところ、規制をするのは大企業なのか国なのかはまだはっきりとしないが、早いところ規制しないとカタストロフは近いなと思う。

あわせてよみたい


www.ituki-yu2.net
www.ituki-yu2.net
www.ituki-yu2.net