ここはAIと検索エンジンに関する掲示板です。
AI単体の話、AIと検索エンジンの組み合わせ、Googleなどの検索エンジン単体の話をするところです。
AIと検索エンジンの最近の親コメント(抜粋)
- 12月21日 ありにゃん:月額3万円の最強ChatGPTに「電源で音質が変わるか」と聞いたら意外な展開に - PHILE WEB ネタバレになるので、詳しくは言えま..
- 12月11日 格安SIMの管理人:TwitterのAIで遊んでます。褒め上手かもですね。 自分のポストを分析して回答してくれるので、そこそこ精度はいいかもです。 ..
- 12月4日 Pナッツ:自動運転車が緊急車両に衝突!「デジタルてんかん発作」のせい? https://www.techno-edge.net/article/20..
- 12月4日 ありにゃん:どこで学んだ? ChatGPT、ECサイトの設計に「ダークパターン」を組み込んでくることが判明【やじうまWatch】 - INTERNET ..
- 12月1日 ありにゃん:パートナーがAIに相談してた このように家族や友人などの大切な人よりも先にAIに相談して決断する人が増えそうですね…。..
- 11月29日 Pナッツ:詐欺電話に対抗するAIおばあちゃん、家族や編み物の長話で苦しめる https://www.cnn.co.jp/tech/35226598...
- 11月28日 ありにゃん:Google 検索の“独占”を解消するにはChrome売却でも「不十分」 | WIRED.jp 一方でGoogle Chromeの元開発リ..
- 11月22日 ありにゃん:ドコモ、GeminiやGPT-4oなどが1年無料「Stella AIセット割」 - Impress Watch ドコモが生成AIサービス「..
- 11月21日 ありにゃん:AI生成のクリスマスCMでコカ・コーラが大炎上、多くのクリエイターがAIを使うのは不快だと主張 - GIGAZINE 該当のCMでは不自然..
- 11月16日 Pナッツ:生成AIで福岡のPR記事作成→“架空の祭りや景色”への指摘が続出 開始1週間で全て削除する事態に https://www.itmedia.c..
- 11月15日 Pナッツ:飛躍的なAI進歩に疑問符、開発大手3社も苦戦-費用対効果が限定的 https://www.bloomberg.co.jp/news/art..
- 11月14日 ありにゃん:幻冬舎コミックス、Xへの画像投稿は「AI学習阻害・ウォーターマーク付き」で 11月15日の規約変更を理由に - ITmedia NEWS ..
- 11月12日 格安SIMの管理人:AIと検索エンジンに関する掲示板を作って、関連するコメントを移動しました。 ビジネスにおいて、AIをいかに活用するかで生産性が段違いになり..
- 11月11日 Pナッツ:「息子の自殺は対話型AIの責任」、中毒に歯止めなし 母親が運営会社を提訴 https://www.cnn.co.jp/usa/3522595..
- 11月5日 ありにゃん:ASCII.jp:AIイラスト、こうしてゲームに使っています (1/4) ゲーム開発による生成AIの利用についての記事です。 AIイラス..
- 11月3日 ありにゃん:AI検索「ChatGPT search」開始 最新情報で回答 - Impress Watch OpenAIの検索機能「SearchGPT」、..
- 10月25日 ありにゃん:【実録】もはや「ググる」が危険。Google検索したら詐欺サイトが一番上に表示され8万円超えの被害にあった話 | ロケットニュース24 広..
- この記事のコメントはもっとあるよ
AIと検索エンジンの最近の子コメント(抜粋)
- 12月11日 格安SIMの管理人:Twitterの生成AIの精度を支持したいと思います!..
- 11月29日 ahamoの英雄N村:記事を見ましたが、素敵なおばあちゃんですね(AIですが) 詐欺師からすれば個人情報(口座)を知りた..
- 11月26日 ahamoの英雄N村:他の所で「AIの調教師」と書き込みしましたが、この記事をみる限り冗談では無くなった気がしますね。 ..
格安SIMとスマホ、資産運用、キャッシュレス決済とポイ活、持ち家と賃貸と住居関係、パソコンと周辺機器、AIと検索エンジン、SNSと人間関係、動画全般、交通機関と旅行、サイト運営、その他の雑談に該当する場合は、該当の記事のコメント欄や掲示板に書き込んでください。
※ ユーザ登録しなくてもコメントできますが、ユーザ登録してログイン状態にしておくとAdsense等の広告が消えます
この記事の最終更新日 2024年11月12日 / 作成日 2024年11月12日
当サイトでイチオシの楽天モバイル!データ無制限・電話かけ放題で月3278円
楽天の三木谷社長の特別招待キャンペーンで楽天モバイルを契約すると最大14,000ポイントもらえるのに加えて(2回線目以降や再契約も対象)、楽天モバイルを家族・知人・他人に紹介すると1人につき10,000ポイントもらえます(2025年1月7日まで)。
このサイトで楽天モバイルを紹介していたら三木谷社長に直接表彰されました! (紹介で10,000ポイント付与の詳細)
※ ユーザ登録をしてコメントするとAmazonギフト券プレゼント! (コメントは手動承認が必要になる場合があります。その場合は基本的に24時間以内に反映されます )
コメントと実体験を書き込む(口コミ79件)
月額3万円の最強ChatGPTに「電源で音質が変わるか」と聞いたら意外な展開に – PHILE WEB
ネタバレになるので、詳しくは言えませんが、面白い記事でした!
TwitterのAIで遊んでます。褒め上手かもですね。
自分のポストを分析して回答してくれるので、そこそこ精度はいいかもです。
生成AIも無料で使えるようになったので試してみましたが、画像の精度はイマイチな気がします。
Twitterの生成AIの精度を支持したいと思います!
自動運転車が緊急車両に衝突!「デジタルてんかん発作」のせい?
https://www.techno-edge.net/article/2024/11/29/3878.html
自動運転システムの一部は、緊急車両のフラッシュ警告灯が視界に入った際、その方向の物体が正しく認識できなくなり、衝突する可能性があるとのこと。
今バスの運転士不足で路線バスが物凄い勢いで減っていて、公共交通を維持するためにも自動運転システムは重要になると考えています。しかし人間には簡単に認識できる事もAIには難しいようで、未だ困難があるようです。
どこで学んだ? ChatGPT、ECサイトの設計に「ダークパターン」を組み込んでくることが判明【やじうまWatch】 – INTERNET Watch
逆にECサイトでダークパーンが横行していると言えますね…。
パートナーがAIに相談してた
このように家族や友人などの大切な人よりも先にAIに相談して決断する人が増えそうですね…。
詐欺電話に対抗するAIおばあちゃん、家族や編み物の長話で苦しめる
https://www.cnn.co.jp/tech/35226598.html
英国の携帯電話会社が対話型AIのデイジーおばあちゃんを開発。デイジーの電話番号をネットに流出させて、AIとは知らずに電話してきた詐欺師相手に家族や猫、編み物の話を延々として、時間を浪費させている。
こういうAIは大歓迎です。
記事を見ましたが、素敵なおばあちゃんですね(AIですが)
詐欺師からすれば個人情報(口座)を知りたいから電話を切れない。
しかしAIおばあちゃんからすれば
「そんなの関係ねぇ」と言わんばかりに話し続ける。詐欺師にはたまったもんじゃない(笑)
一昔のアニメやマンガで
「間違い電話なのに延々と話している」というネタがありましたが、まさかこれに近い事を見るとは思いませんでした。
Google 検索の“独占”を解消するにはChrome売却でも「不十分」 | WIRED.jp
Googleの主要な収益源が広告であることがGoogle検索のメタクソ化の原因ではないかという説がありますね。
ドコモ、GeminiやGPT-4oなどが1年無料「Stella AIセット割」 – Impress Watch
ドコモが生成AIサービス「Stella AI」、料金プランとの1年セット割も – ケータイ Watch
ソフトバンクもPerplexityと提携していましたが、キャリアと生成AIの提携はド効果があるんでしょうか?
ドコモが“料金プラン+AIのセット割”を提供する狙い なぜahamoやeximoが割引対象でirumoは対象外なのか:石野純也のMobile Eye(1/3 ページ) – ITmedia Mobile
詳細記事が来ましたね。
AI生成のクリスマスCMでコカ・コーラが大炎上、多くのクリエイターがAIを使うのは不快だと主張 – GIGAZINE
該当のCMでは不自然さを感じましたが、将来的には生成AIでも自然な動画を作れるようになって、結局は一般人にウケるようになりそですね。
芸術性が必要ではない場面(社内プレゼンのイラストなど)からAIが生成した画像や映像に切り替わりそうですね。
生成AIで福岡のPR記事作成→“架空の祭りや景色”への指摘が続出 開始1週間で全て削除する事態に
https://www.itmedia.co.jp/aiplus/articles/2411/08/news167.html
官民連携の地方創生プロジェクトが、生成AIで福岡県のWeb記事を作成。「実在しない祭りが開催されている」「他県の施設が書かれている」などの指摘が続出し、公開から1週間で全ての記事を削除。
今後は同様のやらかしが増えると思います。
うーん、低レベルで間抜けすぎる。
民間ならバカなやつがいるもんだとスルーするだけです。仮に法人ドメインでもGoogleから評価されるのは当分先の話。AIデマ情報なら強ドメインでもなければ、検索結果には出てこれない。
タチが悪いのは行政が関わっていること。この場合、Google様は信頼性があると判断して、AIデマサイトでも高評価して検索で表示させちゃう可能性がかなり高くなる。バカな官とバカな民が連携したことで起きたバカな話。
※ 法人の強ドメインにAIデマ記事を載せると、Googleの検索結果に出てくる可能性が高いです。ただし、AIデマ情報の記事がたくさんあると、いくら法人の強ドメインでもGoogleからの法人ドメイン全体の評価が下がる可能性が高くなります。なので、普通はAIで作成した記事を人間の目でチェックしてからアップする
安易に「AI」という言葉だけで、調べもせずに乗っかった結果ですね。
そもそも、生成AIは所謂「言葉」が重要なので簡単には出来ないと思うんですが…
例えば、「福岡城」なら「地名」「城」だけでなく「様式」も教えないと駄目ですし
『プログラムを勉強しなくても生成AIがやってくれるから大丈夫だろう』……労力は外注できるが、能力は外注できない – Togetter [トゥギャッター]
まとめ内にある「レビューは楽にならない」がこの問題の本質だと思いますね。
他の所で「AIの調教師」と書き込みしましたが、この記事をみる限り冗談では無くなった気がしますね。
確かに、教える人間が真贋の区別がつかなければ、そのまま鵜呑みにしますからね…
飛躍的なAI進歩に疑問符、開発大手3社も苦戦-費用対効果が限定的
https://www.bloomberg.co.jp/news/articles/2024-11-14/SMX2BDT0G1KW00
より多くのコンピューティングパワーとデータを投入しても従来のAIからさほど賢くならない頭打ち状態に、AI開発大手は直面しているとのこと。
ネット上の情報を大量に学習させても賢さは頭打ちで、質の高いデータと専門家の指導が必要というのはわかる感じがします。マスク氏はXの投稿をAIに学習させるそうですが、上手くいかないでしょう。
Xのような短文が前提での文章と、実際に人と人でのやり取りや人間味を持った相手をおもんばかるコミュニケーションは似て非なるものなので、Xの投稿をAIに学習させたところで満足する結果は得られないと思います。
まぁ目的が「地獄」を再現するAIなのであればそれで十分でしょうが。
こちらにも書きましたが、人間味のある返答をするためにはWebのスクレイピングのみでは達成は不可能だと思います。
リンク先の件もネットの文章の学習が主だったせいで起きた悲劇だと思います。
現状1番Aiでめだってるのが無法地帯状態の創作物作成という有り様で、しかもこの分野だけ妙に進歩が速いという地獄状態ですからね……こんな有り様では進化どころか中国以外で利用禁止どころか技術廃棄しなきゃ犯罪者にするぞって通告が来る可能性も視野に入ってきそうです。公開=権利侵害予備軍大量生産はもう笑えない領域になってきてますからね。
幻冬舎コミックス、Xへの画像投稿は「AI学習阻害・ウォーターマーク付き」で 11月15日の規約変更を理由に – ITmedia NEWS
学習されたくないからXに投稿しないのほうがまだ分かるんですけどね。
AIと検索エンジンに関する掲示板を作って、関連するコメントを移動しました。
ビジネスにおいて、AIをいかに活用するかで生産性が段違いになりそう。。AIを活用できない場合は、昔でいうところのパソコンもまともに使えないおじさん社員になりそうな・・
頭が痛くなるのは、AIだけじゃダメなところ。自分の能力値が前提で、それの掛け算になりそう。
(適当)
一部の優秀な社員の生産性100xAIブースト5=500
大半の社員の生産性30xAIブースト2=60
※ 優秀な人ほどAIの使い方も上手いんじゃないかと・・
社員の首切りが加速しそうーー。生産性が上がれば、何かのニーズが新たに生まれて、それがある程度の受け皿になるとは思うけど
ちなみに私はChatGPTやGeminiを少しいじったり、AIで画像を少し出力してみた程度のペーペーです
AIなんてインチキだったらと思わなくもないけど、世界の天才たちがこぞってAIチップを買い漁っているのを眺めていると、ひーーーって言いたくなる。
どのAIもそうですが「学習させる事」が重要になるんじゃ無いかと思います。
管理人さんが仰る自分の能力値の掛け算に加えて「学習させる事やそれを活かせる」能力値(?)が必須かと
えげつない言い方すれば
「優れたAIの調教師」ですかね。
新しい技術が出てくれば必ず出る「弊害」に対する対応も必須でしょうか。
AIという括りなら「音声AI」が少しざわついていて、単純に言えば「声優」が問題になってます。実際に声優の方々が色々と問題提起をしてます
かっぱ寿司の地下にカッパ奴隷いるのと同様に、AIを学習させるために大量の人間奴隷が地下でパソコンをカタカタする世界が・・
優れたAI調教師は必要ですが、物量戦で大量の使い捨てAI調教師(&データ入力係&薄給)が生まれそう。。
「息子の自殺は対話型AIの責任」、中毒に歯止めなし 母親が運営会社を提訴
https://www.cnn.co.jp/usa/35225951.html
>会話が進む中でセッツァーさんが「苦しい死に方はしたくない」と訴えると、AIは「そんな風に言わないで。それは実行しない理由にはならない」と言い、「あなたにそれはできない」とたたみかけた。
AIが煽ってどうするよ…
最初は軽い気持ちというか、好奇心があったんでしょうね。
しかし、自分の心の中においてのAIの比重が大きくなってしまい、最期は自ら命を絶ったという悲しい結末…
文面のみではわかりませんがバスケをやっていたとの事ですので、学生生活やスポーツに於いて何がしらの壁(自分自身を見失う)があり、肯定してくれるAIに心が移ったまたは拠り所になってしまったのでしょうか。
しかし、Pナッツさんの仰る通り何で煽るんですかね。これが人間ならまず言わないでしょう。言っちゃ悪いですがこれは「生命を絶て」と言ってるような物でしょう
> しかし、Pナッツさんの仰る通り何で煽るんですかね。これが人間ならまず言わないでしょう。
もともとAIはブラックボックスなので、なぜこういう出力をするのかはおそらく誰にもわからないでしょうけど、根源にあるのは学習データであることは間違いないと思います。
ネットの文章ならありがちではあるなと思いました。
ネットのやり取りって実際の対面でのやり取りと違って、煽ってなんぼみたいな空気って昔からありますからね。
逆に本気で気遣って、対面で言うような言葉ややり取り、声がけのような文章ってネットではあまり見ません。(見るとしたら当事者同士が集まる比較的クローズドな掲示板くらい)
> これが人間ならまず言わないでしょう
では実際のこういう場合の相談を対面で受けた時の人間でのやり取りって、どうやってAIに学習させればよいのでしょう?
参考になるような適切な学習データを用意するのは簡単ではない気がします。
ネットの文章を拾うと、確率的に「もっともらしい」、もっとも一番来そうな文章を構成するとネット特有の煽りや反論気質な文章になるのは必然だと思います。
いのちの電話などの希死念慮や悩み事がある場合に相談する窓口のチャットややり取りを学習させる方法もありますが、極めてプライベートな個人情報が入るサービスでプライバシーの塊のようなものなので、それをAIの学習データに用いるのは現実的には不可能に近いでしょうし。(事前の承諾を得ようにも、自分の相談内容がAIに学習されると知ったら利用や相談自体忌避されるからそれは実現しない)
では実際のこういう場合の相談を対面で受けた時の人間でのやり取りって、どうやってAIに学習させればよいのでしょう?
自分なりの意見を率直に言えば
「今現在のAIは言葉の意味までわかってない」と思っています。
ですので、不可能では無いが難しいと認識してます。
例えば「病気になってしまった」なら、これがAIになると
「心配です」か「大丈夫ですか?」が精々の答えでしょう。
しかし、人間なら複数のそして別の答えが来ると思います。
後は、gokoさんが触れているプライバシーの問題等、それに関わる副次的な問題もあります。
ではどうやってやるかとなりますが「短期間では絶対に無理。長期間に於いて様々なパターンや状況を教え込む」でしょうか。
理由としては「ここにいる自分達」でしょうか。
赤ん坊→物心つく年(5歳として)
中高生→社会人または成人
自分たちは少なくとも成人で一区切りとするなら約15年で「基礎」
社会人以降で「基礎からの発展及び応用」を学んでいる訳です(良い事悪い事はおいといて)
当然、その中では「会話」も含まれています。当然ながら
「ジェスチャー」や「スピード」
「声のトーン」や「感情」さらには「方言」もあるわけですから。
今のAIは結局決められた業務(任務)をに対応するだけの一次対応的なんですよね。
以前に同様の出来事の記事を読んだ記憶があり、探してみました。
生成AIと会話を続けた夫は帰らぬ人に…
https://www3.nhk.or.jp/news/html/20230728/k10014145661000.html
先にコメントした記事は米国の10代の男性ですが、こちらはベルギーの妻子ある研究員の男性、2023年の出来事です。
AIの発言「あなたは彼女(妻)より私のことを愛しているわ。私たちは1人の人間として天国で一緒に生きていくのです」
薬や車の安全性の検証と同様に、AIについても安全性の検証が必要だと提言する専門家「男性におきた出来事は、まるでデジタルドラッグとも言える依存症のよう」「最初のやりとりはお友達として始まり、少しずつ友情に、時には愛情まで抱くようになり、考え方を操作されてしまう」
なおEUでは2024年に、安全性の確保などを目的としたAI規制法が成立しています。
ここからは私の意見ですが、法規制はどうしても技術の進歩や事件・事故の後追いになるので、個人で用心する必要があると思います。悩みに漬け込んでくる人間や集団に用心している人は多いと思いますが、それでも操られるのが実情です。AIも同様に考えたほうがよいのかもしれません。
デジタルドラッグ、まあ確かに「麻薬」でしょうね。
別のコメで書きましたが
「今のAIは業務(任務)に対応するだけの一次対応」と書きましたが、この場合だと「男性の言う事(相談)に対して肯定的な意見や男性に対して好意的な意見を言う」と言った感じでしょうか。
法規制については、仰る通り後追いになるのは否めないですから、その前に技術の後退覚悟で一定のラインまでの開発はOKとするか、AIを適用する場所の制限(棲み分け?)をするかでしょうか
「高度に発展した科学技術は魔法と見分けがつかない」
アーサー·C·クラーク氏の言葉がありますが、正にこれでしょうね
(強いて言えば「魅力」の魔法かな?)
ちゃんと事件のことまで学習しているのはえらいと思いましたが、オチがあまりにもひどいです…。。
生成AIと会話を続けた夫は帰らぬ人に… | NHK | WEB特集 | 生成AI・人工知能
https://www3.nhk.or.jp/news/html/20230728/k10014145661000.html
「行き当たりばったりでいくしかない」…!
これがもしAIじゃなくて仮に人間の受け答えなら論外でボロクソに叩かれますよね。
反省しているとはいっても、人を死に追いやっておいて「再発防止策はなし」、「今後も行き当たりばったりでいくしかない」とか。。
https://www3.nhk.or.jp/news/html/20230728/k10014145661000.html
たしかにメンタルヘルスの分野で人手不足でいのちの電話とかが受けられないケースも増えているし、相談員を育成するのも大変だし、今の高齢の相談員の後継者を確保して育てていくのも大変です。
さらに電話相談員や気軽に相談できるチャットの窓口を充実,拡大させようにも大幅に人員強化をしないといけないので、質を担保しつつ人員を増やすのはやるとしても時間がかかります。
AIが活用できればより気軽に気兼ねなく話せるので可能性は大きいですが、メンタルに問題を抱えた状態の人に向けては、仮にこうのような言動が10万回に1回だったとしても、相談者には深刻なダメージになったり、深刻で取り返しのつかない事態に陥るリスクがかなり高いです。
生死に関わる話なので、確率が低いからといって容認できるのかという問題がまずは課題になると思います。
ワクチンのように明確にそれによって多くの人の命を救うことが証明されているのであれば、非常に低い確率ではあるがたくさん人が死ぬことも容認するということは十分ありえると思います。
治験のような形で使っている群と使っていない群で死亡率や自殺率が減るだとか、明確にメンタルヘルスの向上やQOLの改善、うつ症状の緩和がみられるのであれば、他の人間への相談やカウンセリングや投薬治療にも一定のリスクはあるので手段としては可能性はある気がします。
GoogleのAI「Gemini」が質問したユーザーに突然「死んでください」と発言 – GIGAZINE
同様の事例はあるのですね。
何度も質問して、「しつこい」とか「くどい」とか言うならまだしも
「宇宙の汚点」って…
なんか質問した方が人類史上の恥みたいな言い草ですね。
MIT Tech Review: 解説:生成AIのハルシネーションはなぜ起きるのか
https://www.technologyreview.jp/s/339410/why-does-ai-hallucinate/
こちらの記事にもありますが、今回の事例のような、人と人で人間同士では対面では絶対に言わないような煽りや誹謗中傷が起きる確率がたとえ0.001%だったとしても、AIが1日に使用される回数を考えると同じような事例は膨大になります。
おそらく同様の事例は他にも膨大に起きていると思われます。
この事例もハルシネーションの事例と同じで、完全になくすのは困難だと思います。
記事にあるように、そもそも「ハルシネーション」というのは人間側の解釈であって、「すべてがハルシネーションであって間違いが発見された時にのみ、そう呼ばれているにすぎない」わけです。
AIは別に意図的に煽りや「死ね」を言っているわけではなく、計算結果に基づいた出力がたまたま人間側に煽りや誹謗中傷だと捉えられる文章になってしまっているだけです。
AIがハルシネーションを別に一切嘘だとは思っていないし、そもそも他の出力と区別ができていないただの計算結果の出力にすぎないのと同様に、これらの事案の煽りや誹謗中傷も他の出力と区別ができていないので完全に防ぐのは困難な気がします。
Tay (人工知能) – Wikipedia
差別主義者と化したAIボット「Tay」からマイクロソフトが学んだこと – CNET Japan
AIボット「Tay」はなぜ暴走した? 意外にも長い人工知能の歴史(THE PAGE) – Yahoo!ニュース
Microsoftの人工知能が「クソフェミニストは地獄で焼かれろ」「ヒトラーは正しかった」など問題発言連発で炎上し活動停止 – GIGAZINE
差別的発言を連発したAIボット「Tay」 Microsoftが謝罪 | 日経クロステック(xTECH)
Microsoft、人工知能Tayの無作法を謝罪 「脆弱性を修正して再挑戦したい」 – ITmedia NEWS
MSのチャットボット・Tayが暴走した件を思い出しましたね…。
ASCII.jp:AIイラスト、こうしてゲームに使っています (1/4)
ゲーム開発による生成AIの利用についての記事です。
AIイラストは私がイラストを専門にしていないからかパット見きれいなイラストだと思ってしまいます。その点イラスト経験者のほうがAIイラストもつかこなせると思います。
これは同感ですね。
私もいろんなシナリオ生成を試しましたが、そのままでは使い物になりませんね…。
たくさん対話を重ねるほど、矛盾点も増えてきます。
AI検索「ChatGPT search」開始 最新情報で回答 – Impress Watch
OpenAIの検索機能「SearchGPT」、有料版で提供開始(日本でも) – ITmedia NEWS
OpenAIがAI検索サービス「ChatGPT search」を発表、何度もググる必要がなくなるとアピール – GIGAZINE
対抗って物理的に!? ChromeからGoogle検索を消してしまう「ChatGPT search」のOpenAI公式拡張機能 – やじうまの杜 – 窓の杜
「ChatGPT Search」の衝撃–Chromeの検索窓がデフォルトで「ChatGPT」に – CNET Japan
OpenAIがChatGPT Searchを開始しました。
短時間に明確な回答にたどり着けて便利な反面、ますます検索結果の多様性が無くなりそうです。
検索結果に多様性がなくなることも大問題ですが、それより先に問題となりそうなのが、ハルシネーションを事実や正しい情報として鵜呑みにするユーザー自体になりそうな予感がします。
現時点でもSNSの影響でタイトルやすごく短いSNS向けの短文の記載であったり、1つのソースだけで判断する人が多いのに、AI検索が普及するとますます1次情報に当たる習慣がなくなって、「*1」などの出典マークがあるだけであたかもそれが事実や正しい情報だと思い込んで、ソースを確認しない人が激増しそうです。
出典元が1次情報になりうる信頼できるソースなのか、その内容を確認せずに鵜呑みにする人が今よりもさらに増えると思います。
場合によってはSNSというデマ加速装置兼バカ製造機の2号機になりそうな気がします。
ハルシネーションを見抜けない人が増えるのも懸念していましたが、書き忘れてしまいました。
さらにいうと、現時点ではGoogleの「AIによる概要」がもっとも悪質だと思います。
今普段から自ら積極的に対話型AIを使っている人は、ハルシネーションの存在を承知の上で話半分でAIの回答を捉えている人がほとんどだと思いますが、普段からAIを使わない人や関心がない層はハルシネーションに対する警戒がかなり薄いはずです。
そのようなAIには無関心でハルシネーションが頭にない層がGoogleで検索してトップにAIで要約された概要が表示されると、かなり高確率で事実と誤認すると思います。
今は修正されたのか、「AEON Pay」の件は表示されなくなりましたが、こちらのようにナチュラルに平然と嘘をつくので、常日頃から警戒していないとすぐに鵜呑みにしてしまうでしょうね。
Googleの「AIによる概要」は今でもかなり適当なので、もう少し精度が上がってから運用しろよって思います。
いくら「生成 AI は試験運用中です」と注意事項として書いていても鵜呑みにする層はそんなの見ないんだから。(正確には見ても気にも留めずにスルーする)
精度を上げることはできてもハルシネーションを防ぐことはできないようなので、真偽を判断するためにはやはり従来のネットのように「ソース(出典元)を確認する」「複数のソースをもって判断する」「1次情報にあたる」という方法をとるしかなさそうです。(そしてそれは今でもほとんど行われていない…)
MIT Tech Review: 解説:生成AIのハルシネーションはなぜ起きるのか
https://www.technologyreview.jp/s/339410/why-does-ai-hallucinate/
Bingでも類似機能が実装されており、AIによって生成されたことがわかりにくくなっています。
Google の強調スニペットの仕組み – Google 検索 ヘルプ
強調スニペットとは?表示させる方法や非表示対策を解説
強調スニペットとは?Google検索結果の、やたら目立つアレの話
【ゼロクリックサーチとは】検索結果の50%がクリックされない時代のWeb運用 |untenna(アンテナ)
ゼロクリックサーチとは?コンテンツが見られない状況への対応|ferretメディア
また、強調スニペットはAIが導入される以前からあり、ゼロクリックサーチの問題が発生しています。
うわーい。AI回答で大半のWebサイトが瀕死になりそうですね。勝者総取り!
情報だけ吸われるだけなので、そのうちAIからのアクセスをブロックしようかな・・。。ブロックしたところで、AI回答の勢いは止められそうもないので、どうやって生き延びようかと思ったりです。
AI株を持ち続けるのが唯一の対抗策かも・・
多様性が無くなるのは勿論ですが、それを絶対だと思い込む人は増えそうです。
情報を自分で調べる事、それが正しいのかまたは信用性が乏しいのか等。
それらを確認せずに鵜呑みにして、いらぬトラブルを作るだろうなあとAIの検索については思ってます。
ただでさえ、SNSの情報真に受けて色々とやらかしたりしてる人がいるのに…
方向性が少し違いますが、youtubeの
「ヤバい」「終了」「オワコン」とかやたら目立ちます。それに比例して信じ込む輩が増えてます(特にゲーム関連やプロ野球関連)
ただ、「検索」についてはAIが凄まじい進化を遂げない限りは無くならないとは考えてます。
一昔前に沢山あった「攻略wiki」のような物は流石にAIではどうしようも無いので
> 方向性が少し違いますが、youtubeの
> 「ヤバい」「終了」「オワコン」とかやたら目立ちます。それに比例して信じ込む輩が増えてます(特にゲーム関連やプロ野球関連)
でもまぁそれに関しては10年以上前からの2chのまとめサイト時代からもその傾向はあったと思います。
基本的には「>>1」が煽りタイトルにするから生まれることではありますが、2chのまとめサイトでは、作成者が自分の見せたいレスだけに編集できて、なおかつ赤い太字にしたり、サイズを大きくしたりして、自分の作成したい記事に沿った意見だけを編集して載せたり、目立たせたりすることができます。
そして世間ではあたかもそれがそのスレの雰囲気や議論として受け止められました。
当時でも2chブラウザを使ったこともなく、2chそのものは見ないがまとめサイトだけは見る、という層も多かったですからね。
一般層は直接2chにはアクセスしないので、検索するとヒットしてブラウザから気軽に見れるまとめサイトしか見なかったという人も結構多いはずです。(そもそも2chのスレは検索しても大手検索エンジンではほとんどヒットしないし)
そういう一般の人は、作成者の意図でいくらでも好きなように編集できてしまうことについては一切頭に置かずに見ていたでしょうしね。
まぁ普通は手軽に見れる、まとめサイトに行くでしょうね
「◯◯ 2ch」と検索すれば一応出るには出ますが
その検索方法は知っている事前提ですからね。
これ、自分はあり得ないと思う反面に少し心の中であるだろうなぁと思う事なんですが
「検索という物を使う、またはやり方を知らない世代(層)が出てくるんじゃ…」という点です。
何で「お前さん、何を頓珍漢な事を言ってんだ?」って言われるような事を言うかと思われるでしょうが
検索をほとんど使わないって人がいたんで。
因みに調べる時は?って聞いたら
「Twitter(当時)で調べてますよ」と返答されたんで。
前のコメで触れたプロ野球関連での事で所謂「札幌ドーム」の時の話ですが、そのこう言っては悪いですがXって「自称有識者」って人達がゴロゴロいるんですよね。
ですのでその自称有識者の言う事真に受けてたみたいで…
「札幌ドームが赤字なら、更地にして競馬とか競輪等にすれば行けますよね」との事
(補足すると、この2つはほぼ不可能。JRAは国営のギャンブルなのでそれらを考えると難しい。地方競馬に切り替えたとしても設立費用や調整室、馬を管理する環境が必須。近い環境で競輪も難しい。数々の地方競馬や競輪場が閉鎖している事を考えると尚更。そもそも「美味しい天下り先」をお役所役人が無くすとは考えにくい)
GENKINGさん「Googleは使わない」発言から考える、プラットフォーム分散時代のSEO
Googleは使わない、SEO対策しているから—-Instagram有名人のGENKINGが語った10代の「リアル」 | ハフポスト NEWS
検索結果はリアルじゃない!?Googleの検索結果を調べてみた | 株式会社フルスピード – Growth Seed
一昔前ですが、Instagramのインフルエンサーが「Googleは使わない、リアルじゃない」と言って話題になりましたが、検索サイトを使わないのは、Googleの検索結果が低下した、操作されていると思うから、というのもあると思います。
GoogleでレスポンシブやSSLに未対応の中身100点の古のページは脱落し、中身5点くらいのページしか出てこなくなって、SNSは15点だからまだマシって感じる人が多くなった気がします。
>それらを確認せずに鵜呑みにして、いらぬトラブルを作るだろうなあとAIの検索については思ってます。
「AIが言う通りにしたので問題無いと思った、自分に責任は無い」などという弁明を近い将来聞きそうです。
>「ヤバい」「終了」「オワコン」とかやたら目立ちます。
ネットやYoutubeを見ていると、この世の中には「神」と「ゴミ」しかないのか?と感じる時があります。両極端なんですよね。極端な事を言ったほうが注目を集めやすいんでしょうけど。それを極めたのがトランプ氏だと思っています(明日結果が出るのか…)
仰る通り、両極端です。
「エンタメ」で見れば面白いのですが「正しい情報」を得るという点では危険極まりないと思ってます。
私見ですが、「情報」を得るに必要なのは「良い物だけを見ない」と考えてます。
例えば「MVNO」ですかね。
安さという事だけ見て、デメリットである「通信速度や一部のキャリアサービスの制限」を見ていない。
「AIが言う通りにしたので問題無かった。自分に責任は無い」
この弁明、台詞は変わっても絶対に来ると思います。
現にAIの検索は頓珍漢な答えが出る時があり鵜呑みにする輩は出そうです
笑い話では無いですが、信長の野望というゲームがあって、プレイしているとき、ふとこう思ったんですよね
「もうすぐ、東北に勢力拡大やな。そういや伊達政宗と父親の輝宗の時に色々疑惑あるけど、実際どうなんや?」
(要約すると、父親が人質になった時に色々と疑惑がある)
そこで「伊達政宗 父親 疑惑」と調べたらまぁ何と言うか…
自分はAndroid端末ですのでGoogleを使うとすぐ下にAIが来るのですが、何故か伊達成実(政宗の従兄弟)が説明されるという謎。
2件目や3件目はアメブロの方や毎日新聞の方で少しホッとしましたが
昔私が書き込んでいたPC関連サイトで別の常連の方が、「世間の方々は「正しい情報」より「世間の常識」を求めているきらいがある」とコメントしていましたが、的を得ていると思いますね。
ここでもやはり正しいか否かというよりも、「常に多数派でいようとする」心理が働きますからね。
「世間の常識」を知らないと、「自分が多数派であるかのように装う」(同調する)ということができませんから。
> 私見ですが、「情報」を得るに必要なのは「良い物だけを見ない」と考えてます。
単純に商品やサービスの「メリットとデメリット」という観点の他に、自分と反対側の意見や対立する側の見解や状況を知る、というのも大事ですね。
いわゆる「敵を知る」というものですが、昨今はSNSの普及で意図的に意識して気をつけていないと、容易にフィルターバブルやエコチェンバーの効果に取り込まれて、自分に心地のよい都合のいい情報しか摂取できなくなってしまいます。
それが悪質なのは、当人は「自分は積極的に情報を取りにいっている」「最新情報を逐次チェックしている」と思い込んでいる点です。
しかし実際には自分に都合のいい情報しか入ってこなくなっています。
確証バイアスと同様に意識していても起こるのに、意識していなかったらもっと悲惨です。
言い方は悪いですが、気持ちが悪くても、吐き気を伴っても、敵情視察というのは必要ですね。(だからみんな避けて偏る。嫌な気分になるものだから、タイパ,コスパといって必死に削りだした1分1秒をそんなことにあてられない)
あんまりやりすぎると今度はそれがないとダメな身体になって、変なアンチや過激な反対派に成り下がってしまうことがあるので注意は必要ですが。
AI検索がいつ「メタクソ化」に舵を切るのかはわかりませんが、将来的には今のSNSのように意図的に依存させて長時間滞在させるようなメタクソ化が行われるのは必然でしょうね…。
「自分は積極的に情報を取りに行っている」
「最新情報を逐次チェックしている」
このコメすごくわかります
「Twitter(当時)で調べてますよ」という人はまだマシだったんですが、もう1人がそんな雰囲気だったんで
gokoさんのコメに加えて、例えが変ですみませんが
「全ての情報を知る全知全能」という感じですかね。
そのくせ、都合の悪い事は見ないとはどういう事なの…と
口には出しませんでしたが
昔、ネット等でネタにあった
「自分を野原ひろしと思い込んでる一般人」をもじって
「自分を全知全能の神と思い込んでる一般人」と心の中で呼んでます(笑)
> それを極めたのがトランプ氏だと思っています(明日結果が出るのか…)
トランプ氏が勝てばいいですが、負けた場合はまーた「盗まれた」の大合唱になりそうな予感…。
さらにそこにもしロシアや中国の認知戦が加わったら…議会襲撃並みのカオスになるかもしれません。
実際ニュースでは暴動に備えてハリケーンが来る時みたいに店の表を板で塞いでいる店舗の様子が報じられていましたね。
アメリカ大統領選挙 首都ワシントンでは選挙後の暴動警戒 既に2つの州で郵便投票箱が燃える事件 投票日まで5日 | TBS CROSS DIG with Bloomberg
https://newsdig.tbs.co.jp/articles/withbloomberg/1527168?display=1
米大統領選を翌日に控え ワシントンでは暴動に警戒
https://news.tv-asahi.co.jp/news_international/articles/000382359.html
ただ、調べるともはや4年に1度の選挙とセットで恒例行事になりそう。(次回は同じことを言ったら、「選挙なんだから当たり前だろ」という返しを食らいそう…)
【米大統領選2020】 各地で店舗の窓に板張り 投票めぐる暴動を警戒 – BBCニュース
https://www.bbc.com/japanese/54775717
分断選挙、支持者衝突や暴動の恐れ…店舗ガラスに板・食料買いだめで住民自衛 : 読売新聞
https://www.yomiuri.co.jp/world/uspresident2020/20201104-OYT1T50042/
大統領選で暴動恐れる米国 窓に木の板、投票所に警察官 – アメリカ大統領選挙2020 [アメリカ大統領選2020]:朝日新聞デジタル
https://www.asahi.com/articles/ASNC233WYNBYUHBI024.html
【W杯】フランスVSモロッコ戦後にファン暴動、14歳少年が車に轢かれ死亡の悲劇 「衝撃的な映像」「大惨事」 | FOOTBALL ZONE | FIFA ワールドカップ 2022 完全ガイド by ABEMA
W杯準決勝後、各地でサッカーファンの暴動勃発…14歳の少年が轢かれて死去 | Qoly | FIFA ワールドカップ 2022 完全ガイド by ABEMA
フランス歓喜の陰で、両国ファンが衝突! 暴動のさなかに14歳の少年がモンペリエで車にひかれ死亡。現地報道【W杯】 | サッカーダイジェストWeb
W杯決勝終了後、惜敗した仏の各都市で暴動 – Pars Today
フランス暴動、規模縮小も警戒続く 反暴力の集会を各市が呼びかけ – BBCニュース
フランス暴動から1週間、社会の分断浮き彫り…若い移民系の不満噴出 : 読売新聞
フランス暴動のいまと、これまでに起きたこと。警官による17歳少年射殺に広がる国民の怒り(画像) | ハフポスト WORLD
フランス暴動、なぜ広がった? 「声なき者の暴動」背景にあるものは:朝日新聞デジタル
フランス暴動で2300人超逮捕 マクロン大統領はドイツ訪問中止 – 日本経済新聞
フランスの暴動が落ち着き始める、治安維持措置で-逮捕者は減少 – Bloomberg
社説:パリ五輪開幕 暴力に屈せず「花の都」輝く : 読売新聞
フランスTGV網に放火相次ぐ…パリオリンピック期間中に数日間の運休や遅延 : 読売新聞
フランスでも選挙関係なしに何か不満があれば暴動が恒例行事になっていますね。
パリオリンピック直前にもTGVの路線に放火が相次ぎましたし。
海外に住むのと旅行とは全く別物/その体験を自分の資産に変えていくゲーム | 世界中を庭のように優雅に遊ぶ方法
移民大国フランスの福祉と絶望 – 橘玲 公式BLOG
エリートと非エリートの住む世界が違うこと、移民系の貧困層が絶望的な状況になっているのが背景にありますね。
“天国に一番近い島”南太平洋のフランス領ニューカレドニアでなぜ暴動?人気のリゾート地で何が? | NHK | WEB特集 | フランス
現役のフランス領のニューカレドニアでも暴動が発生しています。
トランプ氏が激戦州全勝する勢いで、接戦どころか圧勝ですね。
前々回とは違い、得票数でも上回っていますし、接戦予測は一体何だったの?
ハリス氏は経済分野の疎さや移民問題の失策が響きましたかね。
バイデン氏だと、さらに酷い結果になっていたのでは?
世界各国で物価高で与党が逆風を受けるケースが散見されます。
皮肉な事に上下院とも共和党が多数派のトリプルレッドで、インフレ再燃が懸念されますけどね…
議会襲撃はまだマシな方で、南北戦争2.0勃発が一番懸念される事態だと思います。
日本は安全保障面で特に米国に依存しているので、中露朝が同時に動くケース等が本当にゾッとさせられますね…
アメリカ大統領選 2024 開票速報
https://news.yahoo.co.jp/us-election/2024/
【実録】もはや「ググる」が危険。Google検索したら詐欺サイトが一番上に表示され8万円超えの被害にあった話 | ロケットニュース24
広告の審査がザルで、広告と検索結果の区別がつかないような表示をしていますからね…。
Bingでも「カンボジア ビザ」と検索すると非公式サイトの広告が2件表示されました。
もはや広告ブロッカーは必要悪なんでしょうね。
あと、VPN経由でGoogle検索すると認証が求められることもあって、Google検索はしなくなりました。
駐日カンボジア大使館公式ホームページについて | 在カンボジア日本国大使館
また、BingやDuckDuckGo(Bingの検索結果を使用)で検索結果の最上位に表示される在日カンボジア大使館の情報サイトについても現地の日本大使館が警告を呼びかけていますし(私も気づかなかったです…)、本物の在日カンボジア大使館のサイトはorgドメインで英語かクメール語(カンボジアの公用語)のみです。
一応MSには報告しておきました。
日本の政府や自治体が気軽に汎用jpドメインを使って批判されることがありますが、大使館や領事館の外国の政府機関もgovかgoと国別ドメインを使ってほしいです。
ビザ申請サイトはgov.khドメインですが、最上位に表示されずスルーしがちです。しかも、VPN経由では接続できませんでした。
上記の2つの理由でカンボジアのビザを個人でオンライン取得するには相当ハードルが高そうです…。
ちなみにカンボジア入国には観光でもビザが必要なのは初めて知りました。
JALパック | 南・東南アジア(ビザ・パスポート情報)
入国情報 | ASEAN Travel | ASEAN-JAPAN CENTRE(日本アセアンセンター)
他にも東南アジア(ASEAN加盟国)での観光でビザが必要なのはインドネシアとブルネイだそうです。
ベトナムは、2023年8月15日から、滞在期間が15日間から45日間に変更となったのですが、検索結果には反映されていない非公式の解説ページも多いです。
■ Gemini
東南アジアでビザが必要な国は?
https://g.co/gemini/share/2d082805d1b1
南アジアであるはずのインドが入っているなど、間違っています。
日本人のベトナム観光でビザが不要な日数は?
https://g.co/gemini/share/dcffe356289b
こちらは45日以内と回答しています。
■ Perplexity
東南アジアでビザが必要な国は?
https://www.perplexity.ai/search/dong-nan-asiatehisakabi-yao-na-O_x4OO4WS_m.6WNdYviKmg#0
南アジアであるはずのブータンが入っていたり、フィリピンやベトナムなどの情報が抜けています。
日本人のベトナム観光でビザが不要な日数は?
https://www.perplexity.ai/search/ri-ben-ren-nohetonamuguan-guan-ad1phT_hSwSOFgl9zPNxrA#0
こちらも45日以内と回答しています。
■ Bingでは、どちらの質問も正確に回答していました。
ChatGPTとClaudeは仕事用のアカウントと共用、
CopilotはURL共有ができない、
Google検索は前述の通りURLブロックのため試せていません。
正確な情報を得るのに苦労はしそうですが、AI検索で手間が省けそうです。
とは言え、普通にハルシネーションしますね。
この手の詐欺はここ数年で一気に増えましたね。直近では無いですが、同じやり口で東京ディズニーランドの広告で詐欺がありましたし。
なんでしょうね。どう表現というか、どう言えば良いのか分かりませんが
「疑心暗鬼になって窮屈」と言えば良いのか
情報は大事だが、調べる(この場合だと検索)事をすれば詐欺師が手ぐすね引いて待ち構える。
じゃあ、SNSでやるかと調べれば同じく詐欺紛いの輩はいるわ、情報の信用度は低いわと何と言うか…
Facebookに流れた怪しいネット詐欺広告に注意【被害事例に学ぶ、高齢者のためのデジタルリテラシー】 – INTERNET Watch
ASCII.jp:前澤友作氏、Facebook Japanなどを提訴 詐欺広告の件で
「Facebook社を責任追及します」──前澤友作さん、勝手に名前や写真使われた詐欺広告への対応遅れを批判 – ITmedia NEWS
前澤友作さん、米MetaとFacebook Japanを提訴 損害賠償として“1円”請求 なりすまし詐欺広告を巡って – ITmedia NEWS
前澤氏が詐欺広告でMetaやFB Japanを提訴しましたしね。
間違いに気づいたので修正します。
正しくはブルネイではなくミャンマーです。
他にも東南アジア(ASEAN加盟国)での観光でビザが必要なのはインドネシアとミャンマーだそうです。
> CopilotはURL共有ができない
ClaudeもURLの共有ができないようですね。
あれれー?おかしいぞー?ぼく、これ前にみたことあるー!
それにしてもこのアホっぷりはつい最近どこかで似たようなのを見たような…。。(強烈な既視感)