2025年版 OWASP Top 10 for LLMã¨ã€LLMã‚»ã‚ュリティã®å…·ä½“ç–ï¼
今月11月18æ—¥ã«OWASPã¯æ£å¼ã«ã€ŒOWASP Top 10 for LLM Applicationsã€ã®2025年版を公開ã—ã¾ã—ãŸã€‚ OWASP TOP 10 for LLMã¯2023å¹´ã«åˆç‰ˆãŒç™ºè¡¨ã•ã‚Œã¾ã—ãŸã€‚今回ã®2025年改定版ã§ã¯ã€æœ€æ–°ã®LLMリスクやアプリケーションアーã‚テクãƒãƒ£ã‚’考慮ã—ã¦ã€ãƒãƒ£ãƒƒãƒˆãƒœãƒƒãƒˆã‚„RAGシステムãªã©ã®LLMアプリケーションã«ãŠã‘ã‚‹ã€ä¸»è¦ãªã‚»ã‚ュリティリスクを明らã‹ã«ã™ã‚‹ã¨ã¨ã‚‚ã«ã€ãれを軽減ã™ã‚‹ãŸã‚ã®å…·ä½“çš„ãªæ–¹ç–ã‚’æ示ã—ã¦ã„ã¾ã™ã€‚ 「OWASP Top 10 for LLMsã€ã®èƒŒæ™¯OWASP（Open Web Application Security Project）ã¯ã€ã‚½ãƒ•ãƒˆã‚¦ã‚§ã‚¢ã‚»ã‚ュリティã«ç‰¹åŒ–ã—ãŸéžå–¶åˆ©è²¡å›£ãŠã‚ˆã³ã‚³ãƒŸãƒ¥ãƒ‹ãƒ†ã‚£ã§ã‚ã‚Šã€Webアプリケーションセã‚ュリティã®æ¥ç•Œæ¨™æº–ã§ã‚る「OWASP Top Tenã€ã§è‘—åãªçµ„ç¹”ã§ã™ã€‚ 元々ã®ã€ŒOWA
ブルース・シュナイアー先生ã®æ–°åˆŠã®é‚¦è¨³ã€Žãƒãƒƒã‚ングæ€è€ƒã€ãŒå‡ºã‚‹ãžï¼ - YAMDASç¾æ›´æ–°å±¥æ´
www.catapultsuplex.com 復活ã—ãŸï¼ˆã¨è¨€ã£ã¦ã‚ˆã„よã？）カタパルトスープレックスã«ãŠã‘ã‚‹ã€ã“ã®ãƒ–ãƒã‚°ã§ã‚‚何度ã‹åå‰ã‚’挙ã’ã¦ããŸãƒ–ルース・シュナイアー『A Hacker's Mindã€ã®æ›¸è©•ã§ã‚る。 ã¾ã ã¡ã‚ƒã‚“ã¨èªã‚“ã§ãªã‹ã£ãŸã®ã§ã‚ã‚ŠãŒãŸã‚„。 ãµã¨ã€æ°—ã«ãªã£ã¦èª¿ã¹ã¦ã¿ãŸã‚‰ã€10月ã«ã“ã‚Œã®é‚¦è¨³ãŒå‡ºã‚‹ã®ã«æ°—ã¥ã„ãŸï¼ ãƒãƒƒã‚ングæ€è€ƒã€€å¼·è€…ãŒæªã‚る社会ã®ãƒ«ãƒ¼ãƒ«ã‚’æ£ã™æ–¹æ³• 作者:ブルース・シュナイアー日経BPAmazon ã¾ã 版元ã«ã‚‚ページãŒã§ãã¦ãŠã‚‰ãšï¼ˆä½•åº¦ã‚‚書ã„ã¦ã„ã‚‹ã‘ã©ã€ãã†ã„ã†ã¨ã“ã‚ãŒæ—¥æœ¬ã®å‡ºç‰ˆç¤¾ã¯ãƒ€ãƒ¡ã‚ˆãã‡â€¦â€¦ï¼‰æ£ç¢ºãªã¨ã“ã‚ã¯åˆ†ã‹ã‚‰ãªã„ãŒã€Amazon ã®ãƒšãƒ¼ã‚¸ã®è¨˜è¿°ã‚’見るé™ã‚Šã€ã“ã‚Œã¯ã€ŽA Hacker's Mindã€ã®é‚¦è¨³ã ã‚ã†ã€‚ ã—ã‹ã—……ã¨ã„ã†ã“ã¨ã¯ã€5å¹´å‰ã«åˆŠè¡Œã•ã‚ŒãŸã€ŽClick Here to Kill Everybodyã€ã®é‚¦è¨³ã¯çµå±€å‡ºãªã„ã¾ã¾ã¨ã„ã†ã“ã¨ã«ãªã£
Prompt injection: What’s the worst that can happen?
Prompt injection: What’s the worst that can happen? 14th April 2023 Activity around building sophisticated applications on top of LLMs (Large Language Models) such as GPT-3/4/ChatGPT/etc is growing like wildfire right now. Many of these applications are potentially vulnerable to prompt injection. It’s not clear to me that this risk is being taken as seriously as it should. To quickly review: promp
コードã®é›£èªåŒ–を解除ã™ã‚‹AI
3ã¤ã®è¦ç‚¹ ✔ï¸Â プãƒã‚°ãƒ©ãƒŸãƒ³ã‚°è¨€èªžã®ãŸã‚ã®æ–°ã—ã„å¦ç¿’モデル ✔ï¸Â CodeBERTã¨æ¯”較ã—ã¦å¤§å¹…ãªæ€§èƒ½å‘上 ✔ï¸Â ã„ãã¤ã‹ã®ã‚¿ã‚¹ã‚¯ã§èˆˆå‘³æ·±ã„応用 DOBF: A Deobfuscation Pre-Training Objective for Programming Languages written by Baptiste Roziere, Marie-Anne Lachaux, Marc Szafraniec, Guillaume Lample (Submitted on 15 Feb 2021 (v1), last revised 16 Feb 2021 (this version, v2)) Comments: Accepted to arXiv. Subjects: Computation and Language (cs.CL) code： ã¯ã˜ã‚㫠コード難èªåŒ–ã¨ã¯ã€ã‚½ãƒ¼ã‚¹
1
リリースã€éšœå®³æƒ…å ±ãªã©ã®ã‚µãƒ¼ãƒ“スã®ãŠçŸ¥ã‚‰ã›
最新ã®äººæ°—エントリーã®é…ä¿¡
j次ã®ãƒ–ックマーク
kå‰ã®ãƒ–ックマーク
lã‚ã¨ã§èªã‚€
eコメント一覧を開ã
oページを開ã
OWASP Reveals Updated 2025 Top 10 Risks for LLMs, Announces New LLM Project Sponsorship Program and Inaugural Sponsors - OWASP Top 10 for LLM & Generative AI Security
GitHub - OWASP/www-project-top-10-for-large-language-model-applications: OWASP Foundation Web Respository
{{#tags}}- {{label}}
{{/tags}}