サクサク読めて、アプリ限定の機能も多数!
プロンプトインジェクション攻撃を防ぐために、ユーザー入力をサニタイジングする技法が望まれているのか。ユーザー入力の害悪性を判定するメタなプロンプトをイチイチ挟むのもトークンを消費して金がかかりそう。
shunkeen のブックマーク 2023/03/09 01:47
献立提案AIを対話でハックしてしまった話…「洗脳モノじゃん」「この辺の対策はしなくちゃ」など[AI][文章]プロンプトインジェクション攻撃を防ぐために、ユーザー入力をサニタイジングする技法が望まれているのか。ユーザー入力の害悪性を判定するメタなプロンプトをイチイチ挟むのもトークンを消費して金がかかりそう。2023/03/09 01:47
このブックマークにはスターがありません。 最初のスターをつけてみよう!
togetter.com2023/03/08
電子龍𝔇𝔯𝔞𝔤𝔬𝔫𝔛𝟙𝟘𝟚𝟠 @dragonx510 SAOのアドミニストレータみたいな事する人やっぱいるんやな・・・ 「リセットしろ」→「はいわかりました」って素直に従っちゃう所が実にエモい twitter.com/Ahmet_stak/sta…
99 人がブックマーク・23 件のコメント
\ コメントが サクサク読める アプリです /
プロンプトインジェクション攻撃を防ぐために、ユーザー入力をサニタイジングする技法が望まれているのか。ユーザー入力の害悪性を判定するメタなプロンプトをイチイチ挟むのもトークンを消費して金がかかりそう。
shunkeen のブックマーク 2023/03/09 01:47
このブックマークにはスターがありません。
最初のスターをつけてみよう!