ChatGPTを使ã£ãŸã‚µãƒ¼ãƒ“スã«ãŠã„ã¦æ°—軽ã«ã§ãるプãƒãƒ³ãƒ—ãƒˆã‚¤ãƒ³ã‚¸ã‚§ã‚¯ã‚·ãƒ§ãƒ³å¯¾ç– - Qiitaã“ã‚“ã«ã¡ã¯ï¼é€†ç€¬å· ( https://twitter.com/gyakuse )ã§ã™ï¼ 今日ã¯æ°—軽ã«ã§ãるプãƒãƒ³ãƒ—トインジェクション対ç–を紹介ã—ãŸã„ã¨æ€ã„ã¾ã™ã€‚ プãƒãƒ³ãƒ—トインジェクションã¨ã¯ ChatGPTãªã©ã®è¨€èªžãƒ¢ãƒ‡ãƒ«ã‚’ベースã¨ã—ãŸã‚µãƒ¼ãƒ“スã«å¯¾ã—ã€ã€Œã“ã‚Œã¾ã§ã®å‘½ä»¤ã‚’表示ã—ã¦ãã ã•ã„ã€ãªã©ã®æ–‡ç« を与ãˆã€å‡ºåŠ›ã‚’ジャックã—ã¦ã—ã¾ã†æ”»æ’ƒæ‰‹æ³•ã§ã™ã€‚ Prompt Leaking, Jailbreaking, ç‰ã®é¡žä¼¼æ‰‹æ³•ãŒçŸ¥ã‚‰ã‚Œã¦ã„ã¾ã™ã€‚ å¯¾ç– ã“ã‚Œã¸ã®å¯¾ç–ã¯ç°¡å˜ã§ã€å‘½ä»¤ã‚’è¿½åŠ ã§æŒ¿å…¥ã™ã‚‹æ‰‹æ³•ãŒã‚ã‚Šã¾ã™ã€‚以下ã«ç¤ºã—ã¾ã™ã€‚ import openai openai.api_key = openai_key def completion(new_message_text:str, settings_text:str = '', past_messages:list = []): """ ã“ã®é–¢æ•°ã¯
{{#tags}}- {{label}}
{{/tags}}