学生が発表したレジュメが全編が生成AIを使ったもので特に参考文献の書籍がすべて捏造だったことに驚いた「AIも酷いことをする」

野呂靖 @snoronoro

今日、学生が発表したレジュメは全編が生成AIを使ったものだった。具体性のない独特の文章で、すくなくとも人文系なら専門の研究者がみれば１秒で見分けられると思う。びっくりしたのは「参考文献」の書籍が（いかにもありそうな著者名・タイトルだが）すべて捏造だったこと。AIもひどいことするな…。

野呂靖 @snoronoro

急いで補足すると、その学生さんとはAIの問題点をこの機会に共有できたのでお互い非常に学びになった。思わず使いたくなることはあるかもしれないが使わないほうが実は絶対に楽だし、おもしろさもだんだんと見えてくるはずなんだよな。すくなくとも人文系では。

ナス科の多年草 @S0lanumel0ngena

出たか…🙃 twitter.com/snoronoro/stat…

麻雀宮和了仁 @nzk02846320

発表でこれ...？？ twitter.com/snoronoro/stat…

kikurin225 @kikurin225

AIが生成した文書ってなんとなく見分けがつくんだけど、なんとなくなんだよなあ… 人文系の研究者ならすぐ分かるそうです twitter.com/snoronoro/stat…

井上 陽 ｜𝑎𝑘𝑖𝑟𝑎𝑖𝑛𝑜𝑢𝑒  @ainowuye

@snoronoro ただ、AIが判断する連続しそうな単語の羅列だもんなぁ。言葉の意味や、実証性や、そんなことなんてことは判断してないんだもんね。

野呂靖 @snoronoro

@ainowuye そうですよね、文章は文章になっているんだけど意味がないんですよね、そこに。不気味な感じ。

ふむふむくん @humu2ai

現役で大学教員をしているふむふむ開発チームの彼曰く… 「ChatGPTで書いたレポートかどうかは、採点に慣れた教員であれば一目でわかる」 そうです。 開発チームとしても概ね同意見です。 そのため、私たちはふむふむで作ったレポートをそのまま大学に提出することは非推奨です。 twitter.com/snoronoro/stat…

choko☆彡 @choco_pleiades

架空の文献生成AIか… twitter.com/snoronoro/stat…

G_BUL @G_BUL

参考文献を偽造した、とコメントしている人がいるが参考文献のタイトルまで含めて自動生成された、が正しいんだろうな。 twitter.com/snoronoro/stat…

雪❄️ @basset777

AIに「○○の分野でおすすめの本を教えて」と何度か質問したが、絶妙にそれっぽいタイトルながら現実には存在しない本ばかり教えてくれた。 twitter.com/snoronoro/stat…

適合者もりりん @rumirudia

参考文献嵩増しに民明書房の本捏造して （多分）バレなかったことあるけど AIがそれをやる時代なのか…えげつないｗ twitter.com/snoronoro/stat…

rose history temple @rosehistory2022

@snoronoro @sanyo_gaishi 私も文献の紹介を生成AIに尋ねたところ，聞いたことも見たこともないような本や著者がいくつも登場してびっくりしました。ネットで検索して何もかからないという文献・著者もありました。どうやってそういう架空の文献を作っているんでしょうか。

You@carmanion @carmanion

まぁ、ChatGPTは「それらしい返答」をすることにかけては一流だけど、エビデンスのある文章はまだ書けないから… twitter.com/snoronoro/stat…

元輔 @0Gh95wo7cFpA3gn

@snoronoro なんというチャレンジャー（悪い意味で） 大学に通う意味を自ら消している。

藤代美恵 ふじしろよしえ @YoshieFuji

@snoronoro @May_Roma 自分の頭で考えて文章を綴る楽しみっとあると思うし勉強てわからないことがわかるようになる楽しみがあるから勿体ないなと素直に感じましたm(_ _)m

クリシュ@米株/BTC @Ruby_investment

@snoronoro 文献などは、生成してしまう代表な気がします。正しいAIにおける文献の扱い方は、検索して拾ってきたpdfを翻訳and要訳して！と投げ込むことです。

井上 陽 ｜𝑎𝑘𝑖𝑟𝑎𝑖𝑛𝑜𝑢𝑒  @ainowuye

@snoronoro あたかも会話（対話）しているように見えるけど、そもそも意味なんてものが存在しないんだし、不気味としか言いようがないよね。AIの時代だからこそ、文系（人文系）の学びは必須だだと思うよ。

寺田詩麻 @teradashimaRU

@snoronoro なんと。レポートとか、やはりえらいことになりそうですな。