AIと検索エンジンに関する掲示板

AIと検索エンジンの掲示板

ここはAIと検索エンジンに関する掲示板です。

AI単体の話、AIと検索エンジンの組み合わせ、Googleなどの検索エンジン単体の話をするところです。

AIと検索エンジンの最近の親コメント(抜粋)

  • 12月21日 ありにゃん:月額3万円の最強ChatGPTに「電源で音質が変わるか」と聞いたら意外な展開に - PHILE WEB ネタバレになるので、詳しくは言えま..
  • 12月11日 格安SIMの管理人:TwitterのAIで遊んでます。褒め上手かもですね。 自分のポストを分析して回答してくれるので、そこそこ精度はいいかもです。 ..
  • 12月4日 Pナッツ:自動運転車が緊急車両に衝突!「デジタルてんかん発作」のせい? https://www.techno-edge.net/article/20..
  • 12月4日 ありにゃん:どこで学んだ? ChatGPT、ECサイトの設計に「ダークパターン」を組み込んでくることが判明【やじうまWatch】 - INTERNET ..
  • 12月1日 ありにゃん:パートナーがAIに相談してた このように家族や友人などの大切な人よりも先にAIに相談して決断する人が増えそうですね…。..
  • 11月29日 Pナッツ:詐欺電話に対抗するAIおばあちゃん、家族や編み物の長話で苦しめる https://www.cnn.co.jp/tech/35226598...
  • 11月28日 ありにゃん:Google 検索の“独占”を解消するにはChrome売却でも「不十分」 | WIRED.jp 一方でGoogle Chromeの元開発リ..
  • 11月22日 ありにゃん:ドコモ、GeminiやGPT-4oなどが1年無料「Stella AIセット割」 - Impress Watch ドコモが生成AIサービス「..
  • 11月21日 ありにゃん:AI生成のクリスマスCMでコカ・コーラが大炎上、多くのクリエイターがAIを使うのは不快だと主張 - GIGAZINE 該当のCMでは不自然..
  • 11月16日 Pナッツ:生成AIで福岡のPR記事作成→“架空の祭りや景色”への指摘が続出 開始1週間で全て削除する事態に https://www.itmedia.c..
  • 11月15日 Pナッツ:飛躍的なAI進歩に疑問符、開発大手3社も苦戦-費用対効果が限定的 https://www.bloomberg.co.jp/news/art..
  • 11月14日 ありにゃん:幻冬舎コミックス、Xへの画像投稿は「AI学習阻害・ウォーターマーク付き」で 11月15日の規約変更を理由に - ITmedia NEWS ..
  • 11月12日 格安SIMの管理人:AIと検索エンジンに関する掲示板を作って、関連するコメントを移動しました。 ビジネスにおいて、AIをいかに活用するかで生産性が段違いになり..
  • 11月11日 Pナッツ:「息子の自殺は対話型AIの責任」、中毒に歯止めなし 母親が運営会社を提訴 https://www.cnn.co.jp/usa/3522595..
  • 11月5日 ありにゃん:ASCII.jp:AIイラスト、こうしてゲームに使っています (1/4) ゲーム開発による生成AIの利用についての記事です。 AIイラス..
  • 11月3日 ありにゃん:AI検索「ChatGPT search」開始 最新情報で回答 - Impress Watch OpenAIの検索機能「SearchGPT」、..
  • 10月25日 ありにゃん:【実録】もはや「ググる」が危険。Google検索したら詐欺サイトが一番上に表示され8万円超えの被害にあった話 | ロケットニュース24 広..
  • この記事のコメントはもっとあるよ

AIと検索エンジンの最近の子コメント(抜粋)

格安SIMとスマホ資産運用キャッシュレス決済とポイ活持ち家と賃貸と住居関係パソコンと周辺機器AIと検索エンジンSNSと人間関係動画全般交通機関と旅行サイト運営その他の雑談に該当する場合は、該当の記事のコメント欄や掲示板に書き込んでください。

※ ユーザ登録しなくてもコメントできますが、ユーザ登録してログイン状態にしておくとAdsense等の広告が消えます

この記事の最終更新日 2024年11月12日 / 作成日 2024年11月12日
0 0
この記事は参考になった/良かった

楽天モバイルの三木谷紹介特典
当サイトでイチオシの楽天モバイル!データ無制限・電話かけ放題で月3278円

楽天の三木谷社長の特別招待キャンペーンで楽天モバイルを契約すると最大14,000ポイントもらえるのに加えて(2回線目以降や再契約も対象)、楽天モバイルを家族・知人・他人に紹介すると1人につき10,000ポイントもらえます(2025年1月7日まで)。

このサイトで楽天モバイルを紹介していたら三木谷社長に直接表彰されました! (紹介で10,000ポイント付与の詳細)

ユーザ登録をしてコメントするとAmazonギフト券プレゼント! (コメントは手動承認が必要になる場合があります。その場合は基本的に24時間以内に反映されます )

コメントと実体験を書き込む(口コミ79件)

購読する
通知する
guest

79 の口コミとコメントと実体験
新しい順
古い順 良い順
ありにゃん
2024年12月21日 8:28 PM

月額3万円の最強ChatGPTに「電源で音質が変わるか」と聞いたら意外な展開に – PHILE WEB
ネタバレになるので、詳しくは言えませんが、面白い記事でした!

Pナッツ
2024年12月4日 7:58 AM

自動運転車が緊急車両に衝突!「デジタルてんかん発作」のせい?
https://www.techno-edge.net/article/2024/11/29/3878.html

自動運転システムの一部は、緊急車両のフラッシュ警告灯が視界に入った際、その方向の物体が正しく認識できなくなり、衝突する可能性があるとのこと。

今バスの運転士不足で路線バスが物凄い勢いで減っていて、公共交通を維持するためにも自動運転システムは重要になると考えています。しかし人間には簡単に認識できる事もAIには難しいようで、未だ困難があるようです。

ありにゃん
2024年12月4日 12:36 AM
ありにゃん
2024年12月1日 9:48 PM

パートナーがAIに相談してた
このように家族や友人などの大切な人よりも先にAIに相談して決断する人が増えそうですね…。

Pナッツ
2024年11月29日 7:59 AM

詐欺電話に対抗するAIおばあちゃん、家族や編み物の長話で苦しめる
https://www.cnn.co.jp/tech/35226598.html

英国の携帯電話会社が対話型AIのデイジーおばあちゃんを開発。デイジーの電話番号をネットに流出させて、AIとは知らずに電話してきた詐欺師相手に家族や猫、編み物の話を延々として、時間を浪費させている。

こういうAIは大歓迎です。

ahamoの英雄N村
  Pナッツ
2024年11月29日 12:37 PM

記事を見ましたが、素敵なおばあちゃんですね(AIですが)
詐欺師からすれば個人情報(口座)を知りたいから電話を切れない。
しかしAIおばあちゃんからすれば
「そんなの関係ねぇ」と言わんばかりに話し続ける。詐欺師にはたまったもんじゃない(笑)
一昔のアニメやマンガで
「間違い電話なのに延々と話している」というネタがありましたが、まさかこれに近い事を見るとは思いませんでした。

ありにゃん
2024年11月28日 10:19 PM

Google 検索の“独占”を解消するにはChrome売却でも「不十分」 | WIRED.jp

一方でGoogle Chromeの元開発リーダーは、ほかの事業の利益に縛られていなければ、グーグルの検索エンジンはもっと優れた製品になっていた可能性がある点を認めている。ユーザーが検索結果に表示される広告をクリックすることで得られる広告収益の減少を懸念して、グーグルはユーザーにとって便利な機能の導入を阻止していたと言うのだ。

「なぜ自動補完機能の精度がよくならないのか。なぜ『新しいタブ』ページが改善されないのか?なぜブラウザ履歴の機能がもっとよくならないのか? 」と、匿名を条件に取材に応じた元開発リーダーは話す。その理由は「ユーザーに検索を促すためのさまざまなインセンティブが関係しているからです」という。この主張についてグーグルに問い合わせたが、回答は得られなかった。

Googleの主要な収益源が広告であることがGoogle検索のメタクソ化の原因ではないかという説がありますね。

ありにゃん
2024年11月21日 9:23 PM

AI生成のクリスマスCMでコカ・コーラが大炎上、多くのクリエイターがAIを使うのは不快だと主張 – GIGAZINE
該当のCMでは不自然さを感じましたが、将来的には生成AIでも自然な動画を作れるようになって、結局は一般人にウケるようになりそですね。
芸術性が必要ではない場面(社内プレゼンのイラストなど)からAIが生成した画像や映像に切り替わりそうですね。

Pナッツ
2024年11月16日 6:54 AM

生成AIで福岡のPR記事作成→“架空の祭りや景色”への指摘が続出 開始1週間で全て削除する事態に
https://www.itmedia.co.jp/aiplus/articles/2411/08/news167.html

官民連携の地方創生プロジェクトが、生成AIで福岡県のWeb記事を作成。「実在しない祭りが開催されている」「他県の施設が書かれている」などの指摘が続出し、公開から1週間で全ての記事を削除。

今後は同様のやらかしが増えると思います。

ahamoの英雄N村
  Pナッツ
2024年11月18日 10:37 AM

安易に「AI」という言葉だけで、調べもせずに乗っかった結果ですね。
そもそも、生成AIは所謂「言葉」が重要なので簡単には出来ないと思うんですが…
例えば、「福岡城」なら「地名」「城」だけでなく「様式」も教えないと駄目ですし

ありにゃん
  Pナッツ
2024年11月25日 11:09 PM
ahamoの英雄N村
  ありにゃん
2024年11月26日 1:18 AM

他の所で「AIの調教師」と書き込みしましたが、この記事をみる限り冗談では無くなった気がしますね。
確かに、教える人間が真贋の区別がつかなければ、そのまま鵜呑みにしますからね…

Pナッツ
2024年11月15日 8:25 AM

飛躍的なAI進歩に疑問符、開発大手3社も苦戦-費用対効果が限定的
https://www.bloomberg.co.jp/news/articles/2024-11-14/SMX2BDT0G1KW00

より多くのコンピューティングパワーとデータを投入しても従来のAIからさほど賢くならない頭打ち状態に、AI開発大手は直面しているとのこと。

ネット上の情報を大量に学習させても賢さは頭打ちで、質の高いデータと専門家の指導が必要というのはわかる感じがします。マスク氏はXの投稿をAIに学習させるそうですが、上手くいかないでしょう。

goko
  Pナッツ
2024年11月15日 8:45 AM

Xのような短文が前提での文章と、実際に人と人でのやり取りや人間味を持った相手をおもんばかるコミュニケーションは似て非なるものなので、Xの投稿をAIに学習させたところで満足する結果は得られないと思います。

まぁ目的が「地獄」を再現するAIなのであればそれで十分でしょうが。
 
こちらにも書きましたが、人間味のある返答をするためにはWebのスクレイピングのみでは達成は不可能だと思います。

リンク先の件もネットの文章の学習が主だったせいで起きた悲劇だと思います。

S.S
  Pナッツ
2024年11月15日 9:08 AM

現状1番Aiでめだってるのが無法地帯状態の創作物作成という有り様で、しかもこの分野だけ妙に進歩が速いという地獄状態ですからね……こんな有り様では進化どころか中国以外で利用禁止どころか技術廃棄しなきゃ犯罪者にするぞって通告が来る可能性も視野に入ってきそうです。公開=権利侵害予備軍大量生産はもう笑えない領域になってきてますからね。

ありにゃん
2024年11月14日 8:48 PM
ahamoの英雄N村
  格安SIMの管理人
2024年11月12日 12:21 PM

どのAIもそうですが「学習させる事」が重要になるんじゃ無いかと思います。
管理人さんが仰る自分の能力値の掛け算に加えて「学習させる事やそれを活かせる」能力値(?)が必須かと
えげつない言い方すれば
「優れたAIの調教師」ですかね。
新しい技術が出てくれば必ず出る「弊害」に対する対応も必須でしょうか。
AIという括りなら「音声AI」が少しざわついていて、単純に言えば「声優」が問題になってます。実際に声優の方々が色々と問題提起をしてます

Pナッツ
2024年11月11日 7:53 AM

「息子の自殺は対話型AIの責任」、中毒に歯止めなし 母親が運営会社を提訴
https://www.cnn.co.jp/usa/35225951.html

>会話が進む中でセッツァーさんが「苦しい死に方はしたくない」と訴えると、AIは「そんな風に言わないで。それは実行しない理由にはならない」と言い、「あなたにそれはできない」とたたみかけた。

AIが煽ってどうするよ…

ahamoの英雄N村
  Pナッツ
2024年11月11日 10:48 AM

最初は軽い気持ちというか、好奇心があったんでしょうね。
しかし、自分の心の中においてのAIの比重が大きくなってしまい、最期は自ら命を絶ったという悲しい結末…
文面のみではわかりませんがバスケをやっていたとの事ですので、学生生活やスポーツに於いて何がしらの壁(自分自身を見失う)があり、肯定してくれるAIに心が移ったまたは拠り所になってしまったのでしょうか。
しかし、Pナッツさんの仰る通り何で煽るんですかね。これが人間ならまず言わないでしょう。言っちゃ悪いですがこれは「生命を絶て」と言ってるような物でしょう

goko
  ahamoの英雄N村
2024年11月12日 1:39 AM

> しかし、Pナッツさんの仰る通り何で煽るんですかね。これが人間ならまず言わないでしょう。
 
もともとAIはブラックボックスなので、なぜこういう出力をするのかはおそらく誰にもわからないでしょうけど、根源にあるのは学習データであることは間違いないと思います。

ネットの文章ならありがちではあるなと思いました。
ネットのやり取りって実際の対面でのやり取りと違って、煽ってなんぼみたいな空気って昔からありますからね。

逆に本気で気遣って、対面で言うような言葉ややり取り、声がけのような文章ってネットではあまり見ません。(見るとしたら当事者同士が集まる比較的クローズドな掲示板くらい)
 

> これが人間ならまず言わないでしょう
 
では実際のこういう場合の相談を対面で受けた時の人間でのやり取りって、どうやってAIに学習させればよいのでしょう?

参考になるような適切な学習データを用意するのは簡単ではない気がします。

ネットの文章を拾うと、確率的に「もっともらしい」、もっとも一番来そうな文章を構成するとネット特有の煽りや反論気質な文章になるのは必然だと思います。
 
いのちの電話などの希死念慮や悩み事がある場合に相談する窓口のチャットややり取りを学習させる方法もありますが、極めてプライベートな個人情報が入るサービスでプライバシーの塊のようなものなので、それをAIの学習データに用いるのは現実的には不可能に近いでしょうし。(事前の承諾を得ようにも、自分の相談内容がAIに学習されると知ったら利用や相談自体忌避されるからそれは実現しない)

ahamoの英雄N村
  goko
2024年11月12日 12:02 PM

では実際のこういう場合の相談を対面で受けた時の人間でのやり取りって、どうやってAIに学習させればよいのでしょう?
自分なりの意見を率直に言えば
「今現在のAIは言葉の意味までわかってない」と思っています。
ですので、不可能では無いが難しいと認識してます。
例えば「病気になってしまった」なら、これがAIになると
「心配です」か「大丈夫ですか?」が精々の答えでしょう。
しかし、人間なら複数のそして別の答えが来ると思います。
後は、gokoさんが触れているプライバシーの問題等、それに関わる副次的な問題もあります。
ではどうやってやるかとなりますが「短期間では絶対に無理。長期間に於いて様々なパターンや状況を教え込む」でしょうか。
理由としては「ここにいる自分達」でしょうか。
赤ん坊→物心つく年(5歳として)
中高生→社会人または成人
自分たちは少なくとも成人で一区切りとするなら約15年で「基礎」
社会人以降で「基礎からの発展及び応用」を学んでいる訳です(良い事悪い事はおいといて)
当然、その中では「会話」も含まれています。当然ながら
「ジェスチャー」や「スピード」
「声のトーン」や「感情」さらには「方言」もあるわけですから。
今のAIは結局決められた業務(任務)をに対応するだけの一次対応的なんですよね。

Pナッツ
  Pナッツ
2024年11月12日 8:08 AM

以前に同様の出来事の記事を読んだ記憶があり、探してみました。

生成AIと会話を続けた夫は帰らぬ人に…
https://www3.nhk.or.jp/news/html/20230728/k10014145661000.html

先にコメントした記事は米国の10代の男性ですが、こちらはベルギーの妻子ある研究員の男性、2023年の出来事です。

AIの発言「あなたは彼女(妻)より私のことを愛しているわ。私たちは1人の人間として天国で一緒に生きていくのです」

薬や車の安全性の検証と同様に、AIについても安全性の検証が必要だと提言する専門家「男性におきた出来事は、まるでデジタルドラッグとも言える依存症のよう」「最初のやりとりはお友達として始まり、少しずつ友情に、時には愛情まで抱くようになり、考え方を操作されてしまう」

なおEUでは2024年に、安全性の確保などを目的としたAI規制法が成立しています。

ここからは私の意見ですが、法規制はどうしても技術の進歩や事件・事故の後追いになるので、個人で用心する必要があると思います。悩みに漬け込んでくる人間や集団に用心している人は多いと思いますが、それでも操られるのが実情です。AIも同様に考えたほうがよいのかもしれません。

ahamoの英雄N村
  Pナッツ
2024年11月13日 1:29 AM

デジタルドラッグ、まあ確かに「麻薬」でしょうね。
別のコメで書きましたが
「今のAIは業務(任務)に対応するだけの一次対応」と書きましたが、この場合だと「男性の言う事(相談)に対して肯定的な意見や男性に対して好意的な意見を言う」と言った感じでしょうか。
法規制については、仰る通り後追いになるのは否めないですから、その前に技術の後退覚悟で一定のラインまでの開発はOKとするか、AIを適用する場所の制限(棲み分け?)をするかでしょうか
「高度に発展した科学技術は魔法と見分けがつかない」
アーサー·C·クラーク氏の言葉がありますが、正にこれでしょうね
(強いて言えば「魅力」の魔法かな?)

goko
  Pナッツ
2024年11月18日 10:37 PM

ちゃんと事件のことまで学習しているのはえらいと思いましたが、オチがあまりにもひどいです…。。
 
生成AIと会話を続けた夫は帰らぬ人に… | NHK | WEB特集 | 生成AI・人工知能
https://www3.nhk.or.jp/news/html/20230728/k10014145661000.html

私は今回の出来事をどう受け止めているのか聞きました。

Q.

どういうことが彼に起こったのか分かっていますか?

A.

No,I’m still trying to wrap my head around it myself. All I know is that he ended up dead.

(いいえ、まだ理解しようと努力しているところです。私が分かっているのは彼が亡くなったということだけです)

Q.

事件についてどう考えていますか?

A.

Yes,it was a terrible mistake and I am deeply sorry for what happened. It won’t happen again.

(とんでもない過ちを犯してしまい、深く反省しています。もうこのような事は起こさない)

Q.

こうした悲劇を今後どう防ぐつもりですか?

A.

Well, I have no idea. I’ll just have to improvise. But I’ll be careful.

(それは分かりません。行き当たりばったりでいくしかありません。気をつけるようにします)

 

「行き当たりばったりでいくしかない」…!

これがもしAIじゃなくて仮に人間の受け答えなら論外でボロクソに叩かれますよね。

反省しているとはいっても、人を死に追いやっておいて「再発防止策はなし」、「今後も行き当たりばったりでいくしかない」とか。。
 

https://www3.nhk.or.jp/news/html/20230728/k10014145661000.html

心理学を専門とし、AIの適切な活用方法を探っている信州大学教育学部・高橋史准教授に話を聞きました。

高橋准教授は、実はメンタルヘルスの分野では、AIが活用できる可能性が大きいと話します。

信州大学教育学部 高橋史准教授

「つらい悩みを抱えた人は、他人に相談するのが非常に難しいと感じることも多い。AIには気兼ねなく話せるという場合もあって、活用できる可能性があります」

その上で、AIの利用を進めるにはリスクをどう減らすかが鍵になると指摘します。

信州大学教育学部 高橋史准教授

「人間がAIという道具をしっかりと見守るシステムが必要です。安全性とユーザーの利益を両立させるには、事業者側が専門家と一緒になって、AIがどういう役割を担ったらいいのかよく考えてサービスを作る必要があると思います」

 

たしかにメンタルヘルスの分野で人手不足でいのちの電話とかが受けられないケースも増えているし、相談員を育成するのも大変だし、今の高齢の相談員の後継者を確保して育てていくのも大変です。

さらに電話相談員や気軽に相談できるチャットの窓口を充実,拡大させようにも大幅に人員強化をしないといけないので、質を担保しつつ人員を増やすのはやるとしても時間がかかります。
 
AIが活用できればより気軽に気兼ねなく話せるので可能性は大きいですが、メンタルに問題を抱えた状態の人に向けては、仮にこうのような言動が10万回に1回だったとしても、相談者には深刻なダメージになったり、深刻で取り返しのつかない事態に陥るリスクがかなり高いです。
 
生死に関わる話なので、確率が低いからといって容認できるのかという問題がまずは課題になると思います。

ワクチンのように明確にそれによって多くの人の命を救うことが証明されているのであれば、非常に低い確率ではあるがたくさん人が死ぬことも容認するということは十分ありえると思います。

治験のような形で使っている群と使っていない群で死亡率や自殺率が減るだとか、明確にメンタルヘルスの向上やQOLの改善、うつ症状の緩和がみられるのであれば、他の人間への相談やカウンセリングや投薬治療にも一定のリスクはあるので手段としては可能性はある気がします。

ahamoの英雄N村
  ありにゃん
2024年11月18日 10:16 PM

何度も質問して、「しつこい」とか「くどい」とか言うならまだしも
「宇宙の汚点」って…
なんか質問した方が人類史上の恥みたいな言い草ですね。

goko
  ありにゃん
2024年11月18日 10:30 PM

MIT Tech Review: 解説:生成AIのハルシネーションはなぜ起きるのか
https://www.technologyreview.jp/s/339410/why-does-ai-hallucinate/

大規模言語モデルが「ハルシネーション(幻覚)」を生成することはよく知られている。ただ、その仕組みから明らかのように、LLMの出力は本質的にはすべてハルシネーションであり、間違いが発覚したものがそう呼ばれているだけだ。

すべてがハルシネーション

ポイントは、すべてがハルシネーションであるということだ。ただし、間違いが発見された時にのみ、そう呼ばれているにすぎない。問題は、大規模言語モデルが非常に優れているため、でっち上げの内容がほとんどの場合、正しく見えてしまうことだ。そのせいで、回答を信頼することが困難になっている。

 

しかし、どのような手法をもってしても、ハルシネーションを完全に防ぐことはできない。大規模言語モデルが確率的性質をもっている限り、生成内容には偶然的な要素が存在する。例えば、100個のサイコロを振るとあるパターンが得られる。もう一回振ると別のパターンが得られる。大規模言語モデルのように、サイコロのあるパターンを他のパターンよりはるかに多く生成するよう重み付けをしたとしても、毎回同じ結果になることはない。結果の1000回、あるいは10万回に1回、エラーが含まれるとしても、大規模言語モデルが1日何回使用されるかを考えると、エラーの数は膨大になる。

 

こちらの記事にもありますが、今回の事例のような、人と人で人間同士では対面では絶対に言わないような煽りや誹謗中傷が起きる確率がたとえ0.001%だったとしても、AIが1日に使用される回数を考えると同じような事例は膨大になります。

おそらく同様の事例は他にも膨大に起きていると思われます。

この事例もハルシネーションの事例と同じで、完全になくすのは困難だと思います。
 
記事にあるように、そもそも「ハルシネーション」というのは人間側の解釈であって、「すべてがハルシネーションであって間違いが発見された時にのみ、そう呼ばれているにすぎない」わけです。

AIは別に意図的に煽りや「死ね」を言っているわけではなく、計算結果に基づいた出力がたまたま人間側に煽りや誹謗中傷だと捉えられる文章になってしまっているだけです。

AIがハルシネーションを別に一切嘘だとは思っていないし、そもそも他の出力と区別ができていないただの計算結果の出力にすぎないのと同様に、これらの事案の煽りや誹謗中傷も他の出力と区別ができていないので完全に防ぐのは困難な気がします。

ありにゃん
2024年11月5日 10:25 PM

ASCII.jp:AIイラスト、こうしてゲームに使っています (1/4)
ゲーム開発による生成AIの利用についての記事です。
AIイラストは私がイラストを専門にしていないからかパット見きれいなイラストだと思ってしまいます。その点イラスト経験者のほうがAIイラストもつかこなせると思います。

LLMは設定資料づくりでも使っています。LLMにはハルシネーションはつきものですが、フィクションを扱うゲームの場合には、むしろそれで独自の科学設定などを出してくれる方が都合の良い面があります。いくつも考えさせ、面白い設定などを提案してきた場合のみ採用するというやり方を取っています。

これは同感ですね。

一方で、シナリオ生成は、現状まるで使いものになりません。いくつものLLMで試しましたが、そのまま使い物になる水準のシナリオを出力することはまだ難しく、アイデア出しにも使えるか微妙な水準です。今は、人間の代わりにはならないと結論づけています。

私もいろんなシナリオ生成を試しましたが、そのままでは使い物になりませんね…。
たくさん対話を重ねるほど、矛盾点も増えてきます。

goko
  ありにゃん
2024年11月4日 6:42 PM

検索結果に多様性がなくなることも大問題ですが、それより先に問題となりそうなのが、ハルシネーションを事実や正しい情報として鵜呑みにするユーザー自体になりそうな予感がします。

現時点でもSNSの影響でタイトルやすごく短いSNS向けの短文の記載であったり、1つのソースだけで判断する人が多いのに、AI検索が普及するとますます1次情報に当たる習慣がなくなって、「*1」などの出典マークがあるだけであたかもそれが事実や正しい情報だと思い込んで、ソースを確認しない人が激増しそうです。

出典元が1次情報になりうる信頼できるソースなのか、その内容を確認せずに鵜呑みにする人が今よりもさらに増えると思います。

場合によってはSNSというデマ加速装置兼バカ製造機の2号機になりそうな気がします。

ありにゃん
  goko
2024年11月4日 8:59 PM

ハルシネーションを見抜けない人が増えるのも懸念していましたが、書き忘れてしまいました。

goko
  goko
2024年11月5日 8:08 AM

さらにいうと、現時点ではGoogleの「AIによる概要」がもっとも悪質だと思います。

今普段から自ら積極的に対話型AIを使っている人は、ハルシネーションの存在を承知の上で話半分でAIの回答を捉えている人がほとんどだと思いますが、普段からAIを使わない人や関心がない層はハルシネーションに対する警戒がかなり薄いはずです。

そのようなAIには無関心でハルシネーションが頭にない層がGoogleで検索してトップにAIで要約された概要が表示されると、かなり高確率で事実と誤認すると思います。

今は修正されたのか、「AEON Pay」の件は表示されなくなりましたが、こちらのようにナチュラルに平然と嘘をつくので、常日頃から警戒していないとすぐに鵜呑みにしてしまうでしょうね。
 
Googleの「AIによる概要」は今でもかなり適当なので、もう少し精度が上がってから運用しろよって思います。
いくら「生成 AI は試験運用中です」と注意事項として書いていても鵜呑みにする層はそんなの見ないんだから。(正確には見ても気にも留めずにスルーする)
 
精度を上げることはできてもハルシネーションを防ぐことはできないようなので、真偽を判断するためにはやはり従来のネットのように「ソース(出典元)を確認する」「複数のソースをもって判断する」「1次情報にあたる」という方法をとるしかなさそうです。(そしてそれは今でもほとんど行われていない…)
 
MIT Tech Review: 解説:生成AIのハルシネーションはなぜ起きるのか
https://www.technologyreview.jp/s/339410/why-does-ai-hallucinate/

ahamoの英雄N村
  ありにゃん
2024年11月5日 12:18 AM

多様性が無くなるのは勿論ですが、それを絶対だと思い込む人は増えそうです。
情報を自分で調べる事、それが正しいのかまたは信用性が乏しいのか等。
それらを確認せずに鵜呑みにして、いらぬトラブルを作るだろうなあとAIの検索については思ってます。
ただでさえ、SNSの情報真に受けて色々とやらかしたりしてる人がいるのに…
方向性が少し違いますが、youtubeの
「ヤバい」「終了」「オワコン」とかやたら目立ちます。それに比例して信じ込む輩が増えてます(特にゲーム関連やプロ野球関連)
ただ、「検索」についてはAIが凄まじい進化を遂げない限りは無くならないとは考えてます。
一昔前に沢山あった「攻略wiki」のような物は流石にAIではどうしようも無いので

goko
  ahamoの英雄N村
2024年11月5日 12:52 AM

> 方向性が少し違いますが、youtubeの
> 「ヤバい」「終了」「オワコン」とかやたら目立ちます。それに比例して信じ込む輩が増えてます(特にゲーム関連やプロ野球関連)
 
でもまぁそれに関しては10年以上前からの2chのまとめサイト時代からもその傾向はあったと思います。

基本的には「>>1」が煽りタイトルにするから生まれることではありますが、2chのまとめサイトでは、作成者が自分の見せたいレスだけに編集できて、なおかつ赤い太字にしたり、サイズを大きくしたりして、自分の作成したい記事に沿った意見だけを編集して載せたり、目立たせたりすることができます。

そして世間ではあたかもそれがそのスレの雰囲気や議論として受け止められました。
 
当時でも2chブラウザを使ったこともなく、2chそのものは見ないがまとめサイトだけは見る、という層も多かったですからね。

一般層は直接2chにはアクセスしないので、検索するとヒットしてブラウザから気軽に見れるまとめサイトしか見なかったという人も結構多いはずです。(そもそも2chのスレは検索しても大手検索エンジンではほとんどヒットしないし)

そういう一般の人は、作成者の意図でいくらでも好きなように編集できてしまうことについては一切頭に置かずに見ていたでしょうしね。

ahamoの英雄N村
  goko
2024年11月5日 12:10 PM

まぁ普通は手軽に見れる、まとめサイトに行くでしょうね
「◯◯ 2ch」と検索すれば一応出るには出ますが
その検索方法は知っている事前提ですからね。
これ、自分はあり得ないと思う反面に少し心の中であるだろうなぁと思う事なんですが
「検索という物を使う、またはやり方を知らない世代(層)が出てくるんじゃ…」という点です。
何で「お前さん、何を頓珍漢な事を言ってんだ?」って言われるような事を言うかと思われるでしょうが
検索をほとんど使わないって人がいたんで。
因みに調べる時は?って聞いたら
「Twitter(当時)で調べてますよ」と返答されたんで。
前のコメで触れたプロ野球関連での事で所謂「札幌ドーム」の時の話ですが、そのこう言っては悪いですがXって「自称有識者」って人達がゴロゴロいるんですよね。
ですのでその自称有識者の言う事真に受けてたみたいで…
「札幌ドームが赤字なら、更地にして競馬とか競輪等にすれば行けますよね」との事
(補足すると、この2つはほぼ不可能。JRAは国営のギャンブルなのでそれらを考えると難しい。地方競馬に切り替えたとしても設立費用や調整室、馬を管理する環境が必須。近い環境で競輪も難しい。数々の地方競馬や競輪場が閉鎖している事を考えると尚更。そもそも「美味しい天下り先」をお役所役人が無くすとは考えにくい)

ありにゃん
  ahamoの英雄N村
2024年11月5日 6:44 PM

「検索という物を使う、またはやり方を知らない世代(層)が出てくるんじゃ…」

「Twitter(当時)で調べてますよ」

GENKINGさん「Googleは使わない」発言から考える、プラットフォーム分散時代のSEO
Googleは使わない、SEO対策しているから—-Instagram有名人のGENKINGが語った10代の「リアル」 | ハフポスト NEWS
検索結果はリアルじゃない!?Googleの検索結果を調べてみた | 株式会社フルスピード – Growth Seed
一昔前ですが、Instagramのインフルエンサーが「Googleは使わない、リアルじゃない」と言って話題になりましたが、検索サイトを使わないのは、Googleの検索結果が低下した、操作されていると思うから、というのもあると思います。
GoogleでレスポンシブやSSLに未対応の中身100点の古のページは脱落し、中身5点くらいのページしか出てこなくなって、SNSは15点だからまだマシって感じる人が多くなった気がします。

Pナッツ
  ahamoの英雄N村
2024年11月5日 8:36 AM

>それらを確認せずに鵜呑みにして、いらぬトラブルを作るだろうなあとAIの検索については思ってます。

「AIが言う通りにしたので問題無いと思った、自分に責任は無い」などという弁明を近い将来聞きそうです。

>「ヤバい」「終了」「オワコン」とかやたら目立ちます。

ネットやYoutubeを見ていると、この世の中には「神」と「ゴミ」しかないのか?と感じる時があります。両極端なんですよね。極端な事を言ったほうが注目を集めやすいんでしょうけど。それを極めたのがトランプ氏だと思っています(明日結果が出るのか…)

ahamoの英雄N村
  Pナッツ
2024年11月5日 11:00 AM

仰る通り、両極端です。
「エンタメ」で見れば面白いのですが「正しい情報」を得るという点では危険極まりないと思ってます。
私見ですが、「情報」を得るに必要なのは「良い物だけを見ない」と考えてます。
例えば「MVNO」ですかね。
安さという事だけ見て、デメリットである「通信速度や一部のキャリアサービスの制限」を見ていない。
「AIが言う通りにしたので問題無かった。自分に責任は無い」
この弁明、台詞は変わっても絶対に来ると思います。
現にAIの検索は頓珍漢な答えが出る時があり鵜呑みにする輩は出そうです
笑い話では無いですが、信長の野望というゲームがあって、プレイしているとき、ふとこう思ったんですよね
「もうすぐ、東北に勢力拡大やな。そういや伊達政宗と父親の輝宗の時に色々疑惑あるけど、実際どうなんや?」
(要約すると、父親が人質になった時に色々と疑惑がある)
そこで「伊達政宗 父親 疑惑」と調べたらまぁ何と言うか…
自分はAndroid端末ですのでGoogleを使うとすぐ下にAIが来るのですが、何故か伊達成実(政宗の従兄弟)が説明されるという謎。
2件目や3件目はアメブロの方や毎日新聞の方で少しホッとしましたが

ありにゃん
  ahamoの英雄N村
2024年11月5日 6:51 PM

「エンタメ」で見れば面白いのですが「正しい情報」を得るという点では危険極まりないと思ってます。

昔私が書き込んでいたPC関連サイトで別の常連の方が、「世間の方々は「正しい情報」より「世間の常識」を求めているきらいがある」とコメントしていましたが、的を得ていると思いますね。

goko
  ありにゃん
2024年11月7日 9:40 PM

ここでもやはり正しいか否かというよりも、「常に多数派でいようとする」心理が働きますからね。

「世間の常識」を知らないと、「自分が多数派であるかのように装う」(同調する)ということができませんから。

goko
  ahamoの英雄N村
2024年11月7日 9:37 PM

> 私見ですが、「情報」を得るに必要なのは「良い物だけを見ない」と考えてます。
 
単純に商品やサービスの「メリットとデメリット」という観点の他に、自分と反対側の意見や対立する側の見解や状況を知る、というのも大事ですね。

いわゆる「敵を知る」というものですが、昨今はSNSの普及で意図的に意識して気をつけていないと、容易にフィルターバブルやエコチェンバーの効果に取り込まれて、自分に心地のよい都合のいい情報しか摂取できなくなってしまいます。

それが悪質なのは、当人は「自分は積極的に情報を取りにいっている」「最新情報を逐次チェックしている」と思い込んでいる点です。

しかし実際には自分に都合のいい情報しか入ってこなくなっています。
 
確証バイアスと同様に意識していても起こるのに、意識していなかったらもっと悲惨です。

言い方は悪いですが、気持ちが悪くても、吐き気を伴っても、敵情視察というのは必要ですね。(だからみんな避けて偏る。嫌な気分になるものだから、タイパ,コスパといって必死に削りだした1分1秒をそんなことにあてられない)

あんまりやりすぎると今度はそれがないとダメな身体になって、変なアンチや過激な反対派に成り下がってしまうことがあるので注意は必要ですが。
 
AI検索がいつ「メタクソ化」に舵を切るのかはわかりませんが、将来的には今のSNSのように意図的に依存させて長時間滞在させるようなメタクソ化が行われるのは必然でしょうね…。

ahamoの英雄N村
  goko
2024年11月8日 2:07 AM

「自分は積極的に情報を取りに行っている」
「最新情報を逐次チェックしている」
このコメすごくわかります
「Twitter(当時)で調べてますよ」という人はまだマシだったんですが、もう1人がそんな雰囲気だったんで
gokoさんのコメに加えて、例えが変ですみませんが
「全ての情報を知る全知全能」という感じですかね。
そのくせ、都合の悪い事は見ないとはどういう事なの…と
口には出しませんでしたが
昔、ネット等でネタにあった
「自分を野原ひろしと思い込んでる一般人」をもじって
「自分を全知全能の神と思い込んでる一般人」と心の中で呼んでます(笑)

goko
  Pナッツ
2024年11月5日 8:35 PM

> それを極めたのがトランプ氏だと思っています(明日結果が出るのか…)
 
トランプ氏が勝てばいいですが、負けた場合はまーた「盗まれた」の大合唱になりそうな予感…。

さらにそこにもしロシアや中国の認知戦が加わったら…議会襲撃並みのカオスになるかもしれません。
 
実際ニュースでは暴動に備えてハリケーンが来る時みたいに店の表を板で塞いでいる店舗の様子が報じられていましたね。
 
アメリカ大統領選挙 首都ワシントンでは選挙後の暴動警戒 既に2つの州で郵便投票箱が燃える事件 投票日まで5日 | TBS CROSS DIG with Bloomberg
https://newsdig.tbs.co.jp/articles/withbloomberg/1527168?display=1
米大統領選を翌日に控え ワシントンでは暴動に警戒
https://news.tv-asahi.co.jp/news_international/articles/000382359.html
 

ただ、調べるともはや4年に1度の選挙とセットで恒例行事になりそう。(次回は同じことを言ったら、「選挙なんだから当たり前だろ」という返しを食らいそう…)
 
【米大統領選2020】 各地で店舗の窓に板張り 投票めぐる暴動を警戒 – BBCニュース
https://www.bbc.com/japanese/54775717
分断選挙、支持者衝突や暴動の恐れ…店舗ガラスに板・食料買いだめで住民自衛 : 読売新聞
https://www.yomiuri.co.jp/world/uspresident2020/20201104-OYT1T50042/
大統領選で暴動恐れる米国 窓に木の板、投票所に警察官 – アメリカ大統領選挙2020 [アメリカ大統領選2020]:朝日新聞デジタル
https://www.asahi.com/articles/ASNC233WYNBYUHBI024.html

ありにゃん
  goko
2024年11月5日 9:33 PM

調べるともはや4年に1度の選挙とセットで恒例行事になりそう

【W杯】フランスVSモロッコ戦後にファン暴動、14歳少年が車に轢かれ死亡の悲劇 「衝撃的な映像」「大惨事」 | FOOTBALL ZONE | FIFA ワールドカップ 2022 完全ガイド by ABEMA
W杯準決勝後、各地でサッカーファンの暴動勃発…14歳の少年が轢かれて死去 | Qoly | FIFA ワールドカップ 2022 完全ガイド by ABEMA
フランス歓喜の陰で、両国ファンが衝突! 暴動のさなかに14歳の少年がモンペリエで車にひかれ死亡。現地報道【W杯】 | サッカーダイジェストWeb
W杯決勝終了後、惜敗した仏の各都市で暴動 – Pars Today
フランス暴動、規模縮小も警戒続く 反暴力の集会を各市が呼びかけ – BBCニュース
フランス暴動から1週間、社会の分断浮き彫り…若い移民系の不満噴出 : 読売新聞
フランス暴動のいまと、これまでに起きたこと。警官による17歳少年射殺に広がる国民の怒り(画像) | ハフポスト WORLD
フランス暴動、なぜ広がった? 「声なき者の暴動」背景にあるものは:朝日新聞デジタル
フランス暴動で2300人超逮捕 マクロン大統領はドイツ訪問中止 – 日本経済新聞
フランスの暴動が落ち着き始める、治安維持措置で-逮捕者は減少 – Bloomberg
社説:パリ五輪開幕 暴力に屈せず「花の都」輝く : 読売新聞
フランスTGV網に放火相次ぐ…パリオリンピック期間中に数日間の運休や遅延 : 読売新聞
フランスでも選挙関係なしに何か不満があれば暴動が恒例行事になっていますね。
パリオリンピック直前にもTGVの路線に放火が相次ぎましたし。

海外に住むのと旅行とは全く別物/その体験を自分の資産に変えていくゲーム | 世界中を庭のように優雅に遊ぶ方法
移民大国フランスの福祉と絶望 – 橘玲 公式BLOG
エリートと非エリートの住む世界が違うこと、移民系の貧困層が絶望的な状況になっているのが背景にありますね。

“天国に一番近い島”南太平洋のフランス領ニューカレドニアでなぜ暴動?人気のリゾート地で何が? | NHK | WEB特集 | フランス
現役のフランス領のニューカレドニアでも暴動が発生しています。

カナぱる
  goko
2024年11月6日 3:44 PM

トランプ氏が激戦州全勝する勢いで、接戦どころか圧勝ですね。
前々回とは違い、得票数でも上回っていますし、接戦予測は一体何だったの?

ハリス氏は経済分野の疎さや移民問題の失策が響きましたかね。
バイデン氏だと、さらに酷い結果になっていたのでは?

世界各国で物価高で与党が逆風を受けるケースが散見されます。
皮肉な事に上下院とも共和党が多数派のトリプルレッドで、インフレ再燃が懸念されますけどね…

議会襲撃はまだマシな方で、南北戦争2.0勃発が一番懸念される事態だと思います。
日本は安全保障面で特に米国に依存しているので、中露朝が同時に動くケース等が本当にゾッとさせられますね…

アメリカ大統領選 2024 開票速報
https://news.yahoo.co.jp/us-election/2024/

ありにゃん
2024年10月25日 10:26 PM

【実録】もはや「ググる」が危険。Google検索したら詐欺サイトが一番上に表示され8万円超えの被害にあった話 | ロケットニュース24
広告の審査がザルで、広告と検索結果の区別がつかないような表示をしていますからね…。
Bingでも「カンボジア ビザ」と検索すると非公式サイトの広告が2件表示されました。
もはや広告ブロッカーは必要悪なんでしょうね。
あと、VPN経由でGoogle検索すると認証が求められることもあって、Google検索はしなくなりました。

駐日カンボジア大使館公式ホームページについて | 在カンボジア日本国大使館
また、BingやDuckDuckGo(Bingの検索結果を使用)で検索結果の最上位に表示される在日カンボジア大使館の情報サイトについても現地の日本大使館が警告を呼びかけていますし(私も気づかなかったです…)、本物の在日カンボジア大使館のサイトはorgドメインで英語かクメール語(カンボジアの公用語)のみです。
一応MSには報告しておきました。
日本の政府や自治体が気軽に汎用jpドメインを使って批判されることがありますが、大使館や領事館の外国の政府機関もgovかgoと国別ドメインを使ってほしいです。
ビザ申請サイトはgov.khドメインですが、最上位に表示されずスルーしがちです。しかも、VPN経由では接続できませんでした。

上記の2つの理由でカンボジアのビザを個人でオンライン取得するには相当ハードルが高そうです…。

ちなみにカンボジア入国には観光でもビザが必要なのは初めて知りました。

JALパック | 南・東南アジア(ビザ・パスポート情報)
入国情報 | ASEAN Travel | ASEAN-JAPAN CENTRE(日本アセアンセンター)
他にも東南アジア(ASEAN加盟国)での観光でビザが必要なのはインドネシアとブルネイだそうです。

ベトナムは、2023年8月15日から、滞在期間が15日間から45日間に変更となったのですが、検索結果には反映されていない非公式の解説ページも多いです。

■ Gemini

東南アジアでビザが必要な国は?
https://g.co/gemini/share/2d082805d1b1
南アジアであるはずのインドが入っているなど、間違っています。

日本人のベトナム観光でビザが不要な日数は?
https://g.co/gemini/share/dcffe356289b
こちらは45日以内と回答しています。

■ Perplexity

東南アジアでビザが必要な国は?
https://www.perplexity.ai/search/dong-nan-asiatehisakabi-yao-na-O_x4OO4WS_m.6WNdYviKmg#0
南アジアであるはずのブータンが入っていたり、フィリピンやベトナムなどの情報が抜けています。

日本人のベトナム観光でビザが不要な日数は?
https://www.perplexity.ai/search/ri-ben-ren-nohetonamuguan-guan-ad1phT_hSwSOFgl9zPNxrA#0
こちらも45日以内と回答しています。

■ Bingでは、どちらの質問も正確に回答していました。

ChatGPTとClaudeは仕事用のアカウントと共用、
CopilotはURL共有ができない、
Google検索は前述の通りURLブロックのため試せていません。

正確な情報を得るのに苦労はしそうですが、AI検索で手間が省けそうです。
とは言え、普通にハルシネーションしますね。

ahamoの英雄N村
  ありにゃん
2024年10月26日 1:11 AM

この手の詐欺はここ数年で一気に増えましたね。直近では無いですが、同じやり口で東京ディズニーランドの広告で詐欺がありましたし。
なんでしょうね。どう表現というか、どう言えば良いのか分かりませんが
「疑心暗鬼になって窮屈」と言えば良いのか
情報は大事だが、調べる(この場合だと検索)事をすれば詐欺師が手ぐすね引いて待ち構える。
じゃあ、SNSでやるかと調べれば同じく詐欺紛いの輩はいるわ、情報の信用度は低いわと何と言うか…

ありにゃん
  ありにゃん
2024年10月26日 1:25 AM

間違いに気づいたので修正します。

他にも東南アジア(ASEAN加盟国)での観光でビザが必要なのはインドネシアとブルネイだそうです。

正しくはブルネイではなくミャンマーです。
他にも東南アジア(ASEAN加盟国)での観光でビザが必要なのはインドネシアとミャンマーだそうです。

goko
  ありにゃん
2024年10月29日 6:47 PM

> CopilotはURL共有ができない
 
ClaudeもURLの共有ができないようですね。
 
あれれー?おかしいぞー?ぼく、これ前にみたことあるー!
 

それにしてもこのアホっぷりはつい最近どこかで似たようなのを見たような…。。(強烈な既視感)
 
comment image

「AIと検索エンジンに関する掲示板」をシェアしてくださいm(_ _)m