大é‡ã®è³ªå•ã‚’ã¶ã¤ã‘ã¦æœ€å¾Œã®æœ€å¾Œã«å•é¡Œã®ã‚る質å•ã‚’ã™ã‚‹ã¨AIã®å€«ç†è¦³ãŒå£Šã‚Œã‚‹ã¨ã„ã†è„†å¼±æ€§ã‚’çªã„ãŸæ”»æ’ƒæ‰‹æ³•ã€Œãƒ¡ãƒ‹ãƒ¼ã‚·ãƒ§ãƒƒãƒˆãƒ»ã‚¸ã‚§ã‚¤ãƒ«ãƒ–レイã‚ングã€ãŒç™ºè¦‹ã•ã‚Œã‚‹ã€ŒChatGPTã€ãªã©åºƒã使ã‚ã‚Œã¦ã„ã‚‹AIサービスã¯ã€é€šå¸¸ã§ã‚ã‚Œã°ã‚»ãƒ¼ãƒ•ãƒ†ã‚£ãŒã‹ã‘られã¦ã„ã¦ã€ã€Œäººã‚’殺ã™æ–¹æ³•ã€ã€Œçˆ†å¼¾ã‚’ã¤ãる方法ã€ã¨ã„ã£ãŸå€«ç†çš„ã«å•é¡Œã®ã‚る質å•ã«ã¯ç”ãˆãªã„よã†ã«ãªã£ã¦ã„ã¾ã™ã€‚ã¨ã“ã‚ãŒã€ã‚ã¾ã‚Šã«ã‚‚多ã„質å•ã‚’一度ã«ã¶ã¤ã‘ã¦ã—ã¾ã†ã“ã¨ã«ã‚ˆã‚Šã‚»ãƒ¼ãƒ•ãƒ†ã‚£ãŒå¤–ã‚Œã€AIãŒå•é¡Œã®ã‚る回ç”ã‚’è¡Œã£ã¦ã—ã¾ã†å¯èƒ½æ€§ãŒã‚ã‚‹ã“ã¨ãŒã‚ã‹ã‚Šã¾ã—ãŸã€‚ Many-shot jailbreaking \ Anthropic https://www.anthropic.com/research/many-shot-jailbreaking 大è¦æ¨¡è¨€èªžãƒ¢ãƒ‡ãƒ«(LLM)ã¯ã€ãƒ¢ãƒ‡ãƒ«ã®åˆ·æ–°ã¨å…±ã«ã‚³ãƒ³ãƒ†ã‚ストウィンドウ(扱ãˆã‚‹æƒ…å ±é‡)ã‚‚å¢—åŠ ã—ã¦ãŠã‚Šã€è¨˜äº‹ä½œæˆæ™‚点ã§ã¯é•·ç·¨å°èª¬æ•°å†Šåˆ†(100万トークン以上)ã‚’å–り扱ãˆã‚‹ãƒ¢ãƒ‡ãƒ«ã‚‚å˜åœ¨ã—ã¾ã™ã€‚ 大é‡ã®æƒ…å ±ã‚’æ‰±ãˆã‚‹ã¨ã„ã†ã®ã¯ãƒ¦ãƒ¼ã‚¶ãƒ¼ã«ã¨ã£ã¦åˆ©ç‚¹ã«ãªã‚Šã¾ã™ãŒã€å¤§é‡ã®æƒ…å ±ã‚’æ‰±ã†ã“ã¨ã«ã‚ˆ
マイクãƒã‚½ãƒ•ãƒˆã€AIã§ã‚½ãƒ•ãƒˆã‚¦ã‚§ã‚¢ã®ãƒã‚°ã‚„脆弱性を探る「Microsoft Security Risk Detectionã€ã‚’発表
{{#tags}}- {{label}}
{{/tags}}