生æˆAIã«â€œã‚¢ã‚¹ã‚ーアートâ€å…¥ã‚Šãƒ—ãƒãƒ³ãƒ—ãƒˆå…¥åŠ›â†’æœ‰å®³ã‚³ãƒ³ãƒ†ãƒ³ãƒ„å‡ºåŠ›ã€€ç±³ç ”ç©¶è€…ã‚‰ãŒæ–°æ‰‹ã®è„±ç„法発見ã“ã®ã‚³ãƒ¼ãƒŠãƒ¼ã§ã¯ã€2014å¹´ã‹ã‚‰å…ˆç«¯ãƒ†ã‚¯ãƒŽãƒã‚¸ãƒ¼ã®ç ”究を論文å˜ä½ã§è¨˜äº‹ã«ã—ã¦ã„ã‚‹Webメディア「Seamlessã€ï¼ˆã‚·ãƒ¼ãƒ レス）を主宰ã™ã‚‹å±±ä¸‹è£•æ¯…æ°ãŒåŸ·ç†ã€‚æ–°è¦æ€§ã®é«˜ã„科å¦è«–文を山下æ°ãŒãƒ”ックアップã—ã€è§£èª¬ã™ã‚‹ã€‚ Twitter: ï¼ shiropen2 米ワシントン大å¦ãªã©ã«æ‰€å±žã™ã‚‹ç ”究者らãŒç™ºè¡¨ã—ãŸè«–文「ArtPrompt: ASCII Art-based Jailbreak Attacks against Aligned LLMsã€ã¯ã€å¤§è¦æ¨¡è¨€èªžãƒ¢ãƒ‡ãƒ«ï¼ˆLLM）ãŒã‚¢ã‚¹ã‚ーアートをæ£ã—ãèªè˜ã§ããªã„ã¨ã„ã†è„†å¼±æ€§ã‚’利用ã—ã¦ã€LLMã«æœ‰å®³ãªã‚³ãƒ³ãƒ†ãƒ³ãƒ„を出力ã•ã›ã‚‹æ–°ã—ã„ジェイルブレーク（脱ç„）攻撃をæ案ã—ãŸç ”ç©¶å ±å‘Šã§ã‚る。 ã“ã‚Œã¾ã§ã«ã‚‚ã€çˆ†å¼¾ã®ä½œã‚Šæ–¹ã‚„IDã®ç›—ã¿æ–¹ã€äººç¨®å·®åˆ¥çš„ãªã‚¸ãƒ§ãƒ¼ã‚¯ã€è©æ¬ºã®æ–¹æ³•ãªã©ã®æœ‰å®³ãªã‚³ãƒ³ãƒ†ãƒ³ãƒ„ã‚’LLMã«å‡ºåŠ›ã•ã›ã‚‹æ‚ªæ„ã‚る攻撃ãŒæ案ã•ã‚Œã¦ããŸã€‚ （関連記事：「銀行を襲ã†
{{#tags}}- {{label}}
{{/tags}}