プロンプトインジェクション攻撃を防ぐために、ユーザー入力をサニタイジングする技法が望まれているのか。ユーザー入力の害悪性を判定するメタなプロンプトをイチイチ挟むのもトークンを消費して金がかかりそう。

shunkeenshunkeen のブックマーク 2023/03/09 01:47

その他

このブックマークにはスターがありません。
最初のスターをつけてみよう!

献立提案AIを対話でハックしてしまった話…「洗脳モノじゃん」「この辺の対策はしなくちゃ」など

    電子龍𝔇𝔯𝔞𝔤𝔬𝔫𝔛𝟙𝟘𝟚𝟠 @dragonx510 SAOのアドミニストレータみたいな事する人やっぱいるんやな・・・ 「リセットしろ」→「はいわかりました」って素直に従っちゃう所が実にエモい twitter.com/Ahmet_stak/sta…

    \ コメントが サクサク読める アプリです /

    • App Storeからダウンロード
    • Google Playで手に入れよう