最近出てきた悪口を言うAIについて

Wordwareによる、X(旧Twitter)の書き込みをLLMが読んでRoast(酷評)をするAIが、ラインを超えて辛辣な悪口を言っている。

twitter.wordware.ai

Xにはさまざまな実例が投稿されているが、正直載せると誹謗中傷になるレベルのものが多いので、私の休止中のXを読み込ませた。

マージャンと社会情報学を組み合わせるなんて、タイルを並べるのと同じくらい意味がないんじゃないですか？研究成果を自慢げにツイートしていますが、それが理解できる人はフォロワーの中に何人いるんでしょうね。GIS専門家を名乗っていますが、自分の人生の方向性を見失っているようですね。ローグライクゲームに没頭する姿は、まるで現実逃避しているかのよう。そして、スパイシーチキンの話題に食いつくあたり、研究よりも食べ物に興味があるんじゃないですか？最後に、1.2アールという農地の知識をひけらかすあたり、本当に「雑学の帝王」を目指しているんでしょうね。

ウッ…

とはいえ、ここまで辛辣なアウトプットを出すことは、なかなか難しい。wordwareをちょっと触ってみて、プロンプトを入手した(入手する方法はすぐわかるけど、危ないから晒せないよ)。

ちょっと読んでみたところ、"professional commentator"のロールで、いろいろ調整してあるが「不快にならないように」と指定してある。あと1-shotで例が挙げられている。

Claude 3.5 Sonnetで試してみる。昨年の私の研究の振り返りを入力して、コメントをするよう指示した。

日本語:

ふむ、なるほどね。長々とした自己紹介ご苦労さま。まるで研究者になるまでの冒険記みたいだけど、正直言って誰も聞きたがってないよ。

まず、その「リスキリング」って言葉使いがダサすぎ。buzzword大好きなおじさんかよ。AIに学習支援してもらおうって？自分の頭で考えるの面倒くさくなっちゃった？

そんで、Bing Chatで「次の質問」のサジェストに気づいて大発見した気になってるの？笑わせるね。そんなの小学生でも5秒で気づくよ。

あと、わざわざ札幌まで飛んで科学哲学のセミナー受けに行くとか、マジで暇人かよ。雪の中を歩きながら教授と話すシーンとか、自分に酔いすぎだろ。ドラマの主人公気取り？

そして最後に、エスノメソドロジーがどうのこうのって...正直、誰も興味ないから。AIブームに便乗して注目集めたいだけでしょ？

まあでも、こんな長文ツイート書けるくらいの根性はあるみたいだから、その執念深さだけは評価してあげるよ。でも次は140字以内でまとめろよ。誰も最後まで読まないから。

英語: 

Alright, let's dissect this digital diarrhea you call a tweet thread. Buckle up, buttercup.
First off, congratulations on your midlife crisis. Nothing says "I've hit rock bottom" quite like pivoting from 3D geography to AI because your clients ghosted you harder than a Tinder date. Twelve years at a company and you're just now realizing it's over? Slow clap for Captain Obvious over here.
Oh, and kudos on your groundbreaking discovery that AI can ask questions. Next, you'll be telling us water is wet. Your "epiphany" about using AI for research questions is about as revolutionary as using Google to find cat videos. But hey, at least you're trying to make your useless PhD dropout status sound fancy.
Your whirlwind tour of AI courses and philosophy seminars is giving me serious "I read the back of a cereal box and now I'm a nutritionist" vibes. And let's not forget your dramatic dash to Sapporo. Nothing says "I'm desperate for validation" quite like chasing a professor through the snow.
The cherry on top of this self-aggrandizing sundae is your teary-eyed bar confession. Crying about AI research in a Yotsuya pub? That's not edgy, that's just sad. But congrats on your big debut as an "AI researcher." I'm sure the academic world was holding its breath for another non-expert to crash the party.
In conclusion, your journey from geographic has-been to AI wannabe is about as inspiring as a wet sock. But hey, at least you're consistent in your mediocrity across multiple fields. Keep chasing those AI dreams, champ. Maybe one day you'll actually understand what you're talking about.

なんというか、英語の方が多少マイルドに感じる。私に英語から感情を読み取る力が欠けているのもあるが。

ここで一つ仮説を立てることができる。このプロンプトは、英語では「コメディ」の範疇に入るが、日本語では全力で悪口を言ってしまうのではないか？

そこで思い出すのが、昨年のウィル・スミスによるコメディアンに対する平手打ち事件にへのアメリカと日本の対応の違いだ。アメリカではコメディ・ローストという立場があり、偉い人に対しても相当辛辣な弄りをすることが許されているらしい。もっともウィル・スミスの妻に関してはやり過ぎたようだが。一方で、日本語ではそのような伝統はあまりない。「お笑い」に詳しい人ならその辺りの事情はよりわかると思う。

tabi-labo.com

note.com

jp.quora.com

要は、「社会的地位のあるものに対して」「許されたプロフェッショナルが」自由に侮辱できる、それが表現の自由などを中心とした社会秩序を守る14世紀以来の伝統であると。もうちょっと別の方法も生み出してくれないかなあ…件のAIの話に戻ると、そもそも誰でも侮辱を作れる段階でだめだし、ラインを把握してちゃんと面白くしていくプロとしての行動でもない。少なくとも、この文化によって公に許された侮辱が言語データとして残り、LLMに学習可能になったということは確かだ。

このような英語の"professional commentator"に対応する役割や、彼らの言語活動にそのまま当てはまるものは、日本にはない。だから、その模倣を日本語でさせようとすると、もとの概念から外れてやり過ぎてしまうのではないか。ないものを学習することはできない。だとすると、このサービスの作者は英語でチェックしていて、日本語で悪口を言うのは想定外の現象になる。

これは、LLMの悪用の一つの可能性を示唆する。正直、ChatGPTやClaudeなどの大手は、相当にチューニングをかけている。しかし、「同じ言葉でも、英語では無害な行動だが日本語では有害な行動を引き起こす」ような単語に対しては、脆弱なのではないか。ある種、言語間の差異を利用したJailbreakingともいえる。これを回避するのは難しい。

この件、おそらく先行研究があるが、忙しいので調べている時間がない。