å˜èªžãƒ™ã‚¯ãƒˆãƒ«ã§éŠã¼ã†æ—¥æœ¬èªžã®å˜èªžãƒ™ã‚¯ãƒˆãƒ«æ¼”ç®—ãŒã§ãるサイト。 pythonã§ãƒãƒƒã‚¯ã‚¨ãƒ³ãƒ‰ã®ç·´ç¿’
ã€15分】ベクトルデータベース&RAG爆速入門 - Qiita
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? ã¯ã˜ã‚㫠本記事ã§ã¯ã€ãƒ™ã‚¯ãƒˆãƒ«ãƒ‡ãƒ¼ã‚¿ãƒ™ãƒ¼ã‚¹ã®æ§‹ç¯‰ã¨RAGã§ã®æ¤œç´¢ã‚’åˆå¿ƒè€…å‘ã‘ã«ã¾ã¨ã‚ã¦ã„ã¾ã™ã€‚ GoogleColaboratory環境ã§å®Ÿè£…ã™ã‚‹ãŸã‚ã€ã‚„ã‚„ã“ã—ã„環境è¨å®šã¯ã»ã¨ã‚“ã©ã‚ã‚Šã¾ã›ã‚“。全部無料ã§ã™ã€‚ 生æˆAIã‚„RAGã€ãƒ™ã‚¯ãƒˆãƒ«ãƒ‡ãƒ¼ã‚¿ãƒ™ãƒ¼ã‚¹ã¯é›£ã—ã„イメージをæŒã¤äººãŒå¤šã„ã§ã™ãŒã€å®Ÿã¯ã¨ã¦ã‚‚シンプルã§å®Ÿè£…ã‚‚ç°¡å˜ã§ã™ã€‚15分程度ã§å®Ÿè£…ã§ãるよã†ã«ãªã‚Šã€ã‹ã¤èªžã‚Œã‚‹ã‚ˆã†ã«ãªã‚Šã¾ã™ã€‚ ベクトルデータベースã¨ã¯ï¼Ÿ ã“ã“ã‹ã‚‰ã–ã£ãり分ã‹ã‚Šã‚„ã™ã説明ã—ã¾ã™ã€‚イメージを掴むã“ã¨ã‚’優先ã—ã¾ã™ã€‚ ã¾ãšæ™®é€šã®ãƒ‡ãƒ¼ã‚¿ãƒ™ãƒ¼ã‚¹ã«ã¤ã„㦠普通ã®ãƒ‡ãƒ¼ã‚¿ãƒ™ãƒ¼ã‚¹ã«ã¯æ•°å—
RAGã«é–¢ã™ã‚‹ä¸»è¦ãªè«–æ–‡ã‚’æ™‚ç³»åˆ—é †ã«ã¾ã¨ã‚ã¦ã„ã(2024年度版)｜R
RAGã«é–¢ã™ã‚‹ä¸»è¦ãªè«–æ–‡ã¾ã¨ã‚ã¦ã„ãã¾ã™ã€‚(éŽåŽ»ã®åˆ†å«ã‚ã¦éšæ™‚更新予定) 見ã¤ã‘ãŸã‚‚ã®ã‹ã‚‰ã¾ã¨ã‚ã¦ã„ã‚‹ã®ã§ã€æœ€æ–°ã®2024年以é™ã®è«–文多ã‚ã§ã™ã€‚ Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks(22/05/2022) 一言紹介ⓠLLMã£ã¦ã€äº‹å‰å¦ç¿’ã•ã‚ŒãŸçŸ¥è˜ã«é–¢ã—ã¦ã¯ç”ãˆã¦ãれるã‘ã©ã€æœ€æ–°ã®ãƒ‹ãƒ¥ãƒ¼ã‚¹ã ã£ãŸã‚Šã€å°‚門的ãªæƒ…å ±ã‚„çµ„ç¹”å›ºæœ‰ã®æƒ…å ±ã«ã¯å¯¾å¿œã§ããªã„よãªã 💡 外部知è˜ã‚’LLMã«æ¤œç´¢ã•ã›ã‚ˆã†!→RAGã®èª•ç”Ÿ Abstract日本語訳大è¦æ¨¡ãªäº‹å‰å¦ç¿’済ã¿è¨€èªžãƒ¢ãƒ‡ãƒ«ã¯ã€ãã®ãƒ‘ラメータã«äº‹å®ŸçŸ¥è˜ã‚’è“„ç©ã—ã€ä¸‹æµã®è‡ªç„¶è¨€èªžå‡¦ç†ï¼ˆNLP）タスクã«å¾®èª¿æ•´ã•ã‚ŒãŸã¨ãã«æœ€å…ˆç«¯ã®æˆæžœã‚’é”æˆã™ã‚‹ã“ã¨ãŒç¤ºã•ã‚Œã¦ã„ã¾ã™ã€‚ã—ã‹ã—ã€çŸ¥è˜ã‚’アクセスã—ã¦æ£ç¢ºã«æ“作ã™ã‚‹èƒ½åŠ›ã¯ä¾ç„¶ã¨ã—ã¦é™ã‚‰ã‚Œã¦ãŠã‚Šã€çŸ¥è˜é›†ç´„型タスクã§ã¯ã€ã‚¿ã‚¹ã‚¯å›ºæœ‰ã®ã‚¢ãƒ¼ã‚
RAGã¯æ¤œç´¢ã‚¨ãƒ³ã‚¸ãƒ³ãŒå‘½ï¼Azure AI Searchåˆå¿ƒè€…入門 - Qiita
ã¯ã˜ã‚ã« ã“ã‚“ã«ã¡ã¯ï¼ AI エンジニアã®ãƒ¤ãƒžã‚¾ãƒ¼ã§ã™ã€‚ è¿‘å¹´ã€ç”Ÿæˆ AI ã®é€²åŒ–ãŒç›®è¦šã¾ã—ãã€ç”Ÿæˆ AI を活用ã—ãŸã‚·ã‚¹ãƒ†ãƒ ã®é–‹ç™ºãŒç››ã‚“ã«è¡Œã‚ã‚Œã¦ã„ã¾ã™ã€‚ãã®ä¸ã§æœ€ã‚‚有åãªãƒ†ã‚¯ãƒ‹ãƒƒã‚¯ãŒ RAG ã§ã™ã€‚RAG ã¨ã„ã†ã®ã¯æ¤œç´¢æ‹¡å¼µç”Ÿæˆ (Retrieval Augmented Generation) ã®ç•¥ã§ã€è³ªå•ã®é–¢é€£æƒ…å ±ã‚’æ¤œç´¢ã—ã€è³ªå•ã¨é–¢é€£æƒ…å ±ã‚’ã‚»ãƒƒãƒˆã§å…¥åŠ›ã—ã¦å›žç”ã•ã›ã‚‹æŠ€è¡“ã®ã“ã¨ã§ã™ã€‚ å„ä¼æ¥ã§ã¯ã“ã® RAG システムをç©æ¥µçš„ã«å°Žå…¥ã—ã¦ã„ã¾ã™ãŒã€ã»ã¼ç¢ºå®Ÿã«èª²é¡Œã«ãªã‚‹ã®ãŒæ¤œç´¢éƒ¨åˆ†ã®ç²¾åº¦ã§ã™ã€‚ãã—ã¦æ¤œç´¢ç²¾åº¦ã‚’上ã’ã‚‹ãŸã‚ã«ã¯æ¤œç´¢ã‚¨ãƒ³ã‚¸ãƒ³ã®çŸ¥è˜ãŒå¿…è¦ä¸å¯æ¬ ã§ã™ã€‚ 本記事ã§ã¯æ¤œç´¢ã‚¨ãƒ³ã‚¸ãƒ³ã®ç†é サービスã§ã‚ã‚‹ Azure AI Search ã‚’é¡Œæã«ã€æ¤œç´¢ã‚¨ãƒ³ã‚¸ãƒ³ã®åŸºæœ¬çš„ãªä»•çµ„ã¿ã‚„検索クエリã®æ›¸ãæ–¹ã«ã¤ã„ã¦åˆå¦è€…å‘ã‘ã«è§£èª¬ã—ã¾ã™ã€‚ RAG ã®æ¤œç´¢éƒ¨åˆ†ã‚’ "Retriever" ã¨å‘¼ã³ã¾ã™ãŒã€ã“ã®èªžæº
社内勉強会, RAG, CreationLine
自然言語処ç†æ¡ˆä»¶ã‚„AIソリューション開発案件をリードã—ã¦ã„ã‚‹é»’ç”°ã§ã™ã€‚ã“ã¡ã‚‰ã¯ã‚¯ãƒªã‚¨ãƒ¼ã‚·ãƒ§ãƒ³ãƒ©ã‚¤ãƒ³ã‚¢ãƒ‰ãƒ™ãƒ³ãƒˆã‚«ãƒ¬ãƒ³ãƒ€ãƒ¼ã€€16日目ã®è¨˜äº‹ã§ã™ã€‚ 先日社内ã§å®Ÿæ–½ã—ãŸå‹‰å¼·ä¼šã®å†…容を公開ã—ã¾ã™ã€‚テーマã¯RAG(Retrieval-Augmented Generationã®ç•¥ï¼‰ã§ã™ã€‚ 勉強会ã®çµŒç·¯ 今回ãªãœRAGã®è©±ã‚’ã™ã‚‹ã‹ã¨ã„ã†ã¨ã€å¼Šç¤¾ã®AIソリューション事æ¥æˆ¦ç•¥ã®ï¼‘ã¤ã§ã‚るエンタープライズLLMã¨å¯†æŽ¥ã«é–¢ä¿‚ãŒã‚るテーマã ã‹ã‚‰ã§ã™ã€‚ 目次 目次ã§ã™ã€‚è·ç¨®ã«é–¢ä¿‚ãªã全員ã«ã‚ã‹ã£ã¦ã‚‚らãˆã‚‹å†…容を目指ã—ã¾ã—ãŸã€‚今日ã®ç›®æ¨™ã¨ã—ã¦ã€ã“ã®è©±ã‚’èžã„ãŸå¾Œã«ã€RAGãŒã‚ã‹ã£ãŸæ°—ã«ãªã£ã¦ã€RAGã£ã¦é¢ç™½ãã†ã ãªã¨æ€ã£ã¦ã„ãŸã ã‘ãŸã‚‰ã€å¤§æˆåŠŸã‹ãªã¨æ€ã„ã¾ã™ã€‚ RAGã¨ã¯ RAGã®å˜èªžã®æ„味ã¯ãã®ã¾ã¾è¨³ã™ã¨æ¤œç´¢/増強/生æˆã«ãªã‚‹ã®ã§ã™ãŒã€ è¦ã™ã‚‹ã«å¤§é‡ã®æƒ…å ±ã‹ã‚‰å¿…è¦ãªã‚‚ã®ã‚’見ã¤ã‘出ã—ã€ãれを使ã£ã¦æ–°ã—ã„æ–‡ç« ã‚’ä½œã‚‹æŠ€è¡“ã§ã™ã€‚
話題ã®GraphRAGã¨ã¯ - å†…éƒ¨æ§‹é€ ã®è§£æžã¨å®Ÿç”¨æ€§ã®è€ƒå¯Ÿ
åˆã‚ã¾ã—ã¦ã€‚経営ä¼ç”»æœ¬éƒ¨AI推進室ã®é¡å‘³ã€çªªç”°ã€å°æž—ã¨ç”³ã—ã¾ã™ã€‚当社ã¯æœ¬å¹´åº¦ã€AI推進室ã¨ã„ã†æ–°çµ„織を発足ã•ã›ã€ä¸»ã«ç”ŸæˆAIã«ã¤ã„ã¦ã®ç¤¾å†…ã®åˆ©ç”¨ä¿ƒé€²ã€ãŠã‚ˆã³ãƒ¦ãƒ¼ã‚¶ãƒ¼ã¸ç”ŸæˆAIを活用ã—ãŸã‚½ãƒªãƒ¥ãƒ¼ã‚·ãƒ§ãƒ³ã®æ供を進ã‚ã‚‹ã¹ãã€æ–°æŠ€è¡“ã®å±•é–‹ã‚„検証を行ã£ã¦ã„ã¾ã™ã€‚ 今回ã¯ã€æœ€è¿‘話題ã¨ãªã£ã¦ã„ã‚‹ã€MicrosoftãŒç™ºè¡¨ã—ãŸRAG（Retrieval Augmented Generation）技術ã§ã‚ã‚‹GraphRAG ⧉ã«ã¤ã„ã¦ã€å…ƒã¨ãªã‚‹è«–文やブãƒã‚°è¨˜äº‹ã€GitHubã®ã‚³ãƒ¼ãƒ‰ã‚’å…ƒã«å†…部ã®æ§‹é€ を解æžã—ã€ã•ã‚‰ã«ç¾æ™‚点ã§ã©ã®ç¨‹åº¦å®Ÿç”¨çš„ã‹ã‚’考察ã—ã¦ã„ãã¾ã™ã€‚ GraphRAGã¨ã¯ GraphRAGã¯ã€ãƒŠãƒ¬ãƒƒã‚¸ã‚°ãƒ©ãƒ•ã¨ç”ŸæˆAIã®æŠ€è¡“を組ã¿åˆã‚ã›ã‚‹ã“ã¨ã§ã€å¾“æ¥ã®RAGã§ã¯å¯¾å¿œãŒé›£ã—ã‹ã£ãŸå•ã„åˆã‚ã›ã«å›žç”ã§ãるよã†ã«ãªã£ãŸRAGã§ã™ã€‚2024å¹´2月ã«Microsoftã«ã‚ˆã£ã¦ç™ºè¡¨ ⧉ã•ã‚Œã€ãã®å¾Œã€2024å¹´7月ã«ãƒª
RAGを専門用語ã«å¼·ãã™ã‚‹æ‰‹æ³•ã€ŒGolden-Retrieverã€
æ ªå¼ä¼šç¤¾ãƒŠãƒ¬ãƒƒã‚¸ã‚»ãƒ³ã‚¹ã¯ã€ç”ŸæˆAIã‚„RAGを使ã£ãŸãƒ—ãƒãƒ€ã‚¯ãƒˆã‚’ã€ã‚¨ãƒ³ã‚¿ãƒ¼ãƒ—ライズå‘ã‘ã«é–‹ç™ºæä¾›ã—ã¦ã„るスタートアップã§ã™ã€‚本記事ã§ã¯ã€RAGã®æ€§èƒ½ã‚’高ã‚ã‚‹ãŸã‚ã®ã€ŒGolden-Retrieverã€ã¨ã„ã†æ‰‹æ³•ã«ã¤ã„ã¦ã€ã–ã£ãã‚Šç†è§£ã—ã¾ã™ã€‚ ã“ã®è¨˜äº‹ã¯ä½• ã“ã®è¨˜äº‹ã¯ã€RAGシステムを専門用語ã«å¼·ãã™ã‚‹ãŸã‚ã®æ‰‹æ³•ã€ŒGolden-Retrieverã€ã®è«–æ–‡[1]ã«ã¤ã„ã¦ã€æ—¥æœ¬èªžã§ç°¡å˜ã«ã¾ã¨ã‚ãŸã‚‚ã®ã§ã™ã€‚ 今回も「ãã‚‚ãã‚‚RAGã¨ã¯ï¼Ÿã€ã«ã¤ã„ã¦ã¯ã€çŸ¥ã£ã¦ã„ã‚‹å‰æã§é€²ã¿ã¾ã™ã€‚確èªã™ã‚‹å ´åˆã¯ä»¥ä¸‹ã®è¨˜äº‹ã‚‚ã”å‚考下ã•ã„。 本題 ã–ã£ãりサマリー Golden-Retrieverã¯ã€RAG（Retrieval Augmented Generation）をã€æ¥ç•Œç‰¹æœ‰ã®ç”¨èªžãƒ»ç¤¾å†…用語をå«ã‚€ã‚ˆã†ãªè³ªå•ã«å¼·ãã™ã‚‹ãŸã‚ã®æ‰‹æ³•ã§ã™ã€‚カリフォルニア大å¦ã®ç ”究者らã«ã‚ˆã£ã¦2024å¹´8月ã«æ案ã•ã‚Œã¾ã—ãŸã€‚ 従æ¥ã®RAGシステãƒ
ゼãƒã‹ã‚‰RAGを作るãªã‚‰ã“ã‚“ãªãµã†ã«
ã©ã‚“ãªäººå‘ã‘ã®è¨˜äº‹ï¼Ÿ ã“ã‚Œã‹ã‚‰RAGを作ã£ã¦ã¿ãŸã„ Difyã‚„LangChainã«ã“ã ã‚らãšã€è‡ªåˆ†ã§é–‹ç™ºã‚’ãƒãƒ³ãƒ‰ãƒªãƒ³ã‚°ã—ãŸã„ ベクトルDBや埋ã‚è¾¼ã¿ãƒ¢ãƒ‡ãƒ«ã®é¸å®šã®å‹˜æ‰€ã‚’サッã¨çŸ¥ã‚ŠãŸã„ ã“ã“ã§ã¯RAGã¨ã¯ä½•ã‹ã®ã‚ˆã†ãªè©±é¡Œã¯æ‰±ã„ã¾ã›ã‚“。 RAGãŒã€ã»ã¼AI活用ã®ç¾å®Ÿçš„ãªæœ€é©è§£ã«ãªã‚Šã¤ã¤ã‚ã‚‹ LLMã¯é«˜åº¦ãªçŸ¥çš„タスクを実行å¯èƒ½ã§ã‚る。 ãã‚“ãªç†è§£ãŒä¸–ç•Œã«åºƒã¾ã£ã¦ã„ãä¸ã§ã€ä¼æ¥ã¯è‡ªã‚‰ãŒè“„ãˆãŸãƒ‡ãƒ¼ã‚¿ã‚’LLMã«çµ„ã¿åˆã‚ã›ã¦ã©ã†æ´»ç”¨ã™ã‚‹ã‹èºèµ·ã«ãªã£ã¦ã„ã¾ã™ã€‚ã“ã‚Œã‹ã‚‰ã¯ãƒ“ッグデータã ï¼ã¨ã„ã†æ™‚代を経ã¦ã„ã‚‹ãŸã‚ã€æƒ…å ±ã‚¤ãƒ³ãƒ•ãƒ©ã«æŠ•è³‡ã—ãŸä¼æ¥ã‚‚多ãã€AIã§ãƒ‡ãƒ¼ã‚¿ã‚’活用ã™ã‚‹æµã‚Œã¯ã‚‚ã¯ã‚„確定路線ã¨è¨€ãˆã¾ã™ã€‚ ã“ã®å•é¡Œã‚’解決ã™ã‚‹æ‰‹æ³•ã¨ã—ã¦ä¸€ç•ªæœ€åˆã«æ€ã„ã¤ãã®ã¯ã€ãƒ¢ãƒ‡ãƒ«è‡ªä½“を改変ã™ã‚‹ãƒ•ã‚¡ã‚¤ãƒ³ãƒãƒ¥ãƒ¼ãƒ‹ãƒ³ã‚°ã§ã™ã€‚ã—ã‹ã—ã€ãƒ•ã‚¡ã‚¤ãƒ³ãƒãƒ¥ãƒ¼ãƒ‹ãƒ³ã‚°ã«ã¯ã„ãã¤ã‹ã®å®Ÿç”¨ä¸Šã®å•é¡ŒãŒã‚ã‚Šã¾ã™ã€‚ファインãƒãƒ¥ãƒ¼ãƒ‹ãƒ³ã‚°è‡ªä½“ã«å°‚門知è˜ãŒå¿…è¦ã§ã‚ã‚‹
RAG入門: 精度改善ã®ãŸã‚ã®æ‰‹æ³•28é¸ - Qiita
RAGã®ç²¾åº¦æ”¹å–„ã™ã‚‹ãŸã‚ã«ä½•ãŒã‚ã‚‹ã‹ã‚’å¦ã³ã¾ã—ãŸã€‚基本系ã®Naive RAGを知ã£ã¦ã„る人å‘ã‘ã®è¨˜äº‹ã§ã™ã€‚ 方法ãŒå¤šã™ãŽã‚‹ã®ã§ã€Youtubeã®ã€ŒRAG From Scratchã€ã‚’ä¸å¿ƒã«å°‘ã—æ•´ç†ã—ã¦ã¿ã¾ã—ãŸã€‚LangChainをよã使ã£ã¦ã„ã‚‹ã®ã§ã€LangChain出典ãŒå¤šã„ã§ã™ã€‚ å…¨ä½“åƒ ã¾ãšã¯ã€RAGã®å…¨ä½“åƒã€‚IndexingãŒåŒã˜æµã‚Œã«ã‚ã‚‹ã®ãŒå°‘ã—ã‚ã‹ã‚Šã«ãã„ã®ã§ã™ãŒã€å®Ÿè¡Œã‚¿ã‚¤ãƒŸãƒ³ã‚°ã¨ã—ã¦ã¯RAGã®å‰æº–å‚™ã¨ã—ã¦ã‚„ã£ã¦ãŠãã¾ã™ã€‚ ç”»åƒå‡ºå…¸: RAG from scratch: Overview ã‚‚ã†å°‘ã—粒度を細ã‹ãã—ãŸå›³ã§ã™ã€‚ ç”»åƒå‡ºå…¸: RAG from scratch: Overview 表形å¼ã§åˆ†é¡žã—ã¾ã™ã€‚Generationã ã‘å°‘ã—特殊ã§ã™ã€‚ 大分類 ä¸åˆ†é¡ž 内容
ChatGPTãªã©æ•°ã€…ã®é«˜æ€§èƒ½AIを生ã¿å‡ºã—ãŸä»•çµ„ã¿ã€ŒAttentionã€ã«ã¤ã„ã¦ã®ä¸å¯§ãªè§£èª¬ãƒ ービーãŒå…¬é–‹ã•ã‚Œã‚‹
ã•ã¾ã–ã¾ãªæ•°å¦çš„トピックをムービー形å¼ã§è§£èª¬ã™ã‚‹ã‚µã‚¤ãƒˆã€Œ3Blue1Brownã€ã«ãŠã„ã¦ã€ChatGPTã«ä»£è¡¨ã•ã‚Œã‚‹AIを形作ã£ã¦ã„る「Transformerã€æ§‹é€ ã®å¿ƒè‡“部「Attention(アテンション)ã€ã«ã¤ã„ã¦ã®è§£èª¬ãŒè¡Œã‚ã‚Œã¦ã„ã¾ã™ã€‚ 3Blue1Brown - Visualizing Attention, a Transformer's Heart | Chapter 6, Deep Learning https://www.3blue1brown.com/lessons/attention AIã®ä¸èº«ã¨è¨€ãˆã‚‹å¤§è¦æ¨¡è¨€èªžãƒ¢ãƒ‡ãƒ«ã®ãƒ™ãƒ¼ã‚¹ã¨ãªã‚‹ä»•äº‹ã¯ã€Œæ–‡ç« ã‚’èªã‚“ã§æ¬¡ã«ç¶šãå˜èªžã‚’予測ã™ã‚‹ã€ã¨ã„ã†ã‚‚ã®ã§ã™ã€‚ æ–‡ç« ã¯ã€Œãƒˆãƒ¼ã‚¯ãƒ³ã€ã¨ã„ã†å˜ä½ã«åˆ†è§£ã•ã‚Œã€å¤§è¦æ¨¡è¨€èªžãƒ¢ãƒ‡ãƒ«ã§ã¯ã“ã®ãƒˆãƒ¼ã‚¯ãƒ³å˜ä½ã§å‡¦ç†ã‚’è¡Œã„ã¾ã™ã€‚実際ã«ã¯å˜èªžã”ã¨ã«1トークンã¨ã„ã†è¨³ã§ã¯ã‚ã‚Šã¾ã›ã‚“ãŒã€3Blue1Brownã¯å˜ç´”化ã—ã¦
1
リリースã€éšœå®³æƒ…å ±ãªã©ã®ã‚µãƒ¼ãƒ“スã®ãŠçŸ¥ã‚‰ã›
最新ã®äººæ°—エントリーã®é…ä¿¡
j次ã®ãƒ–ックマーク
kå‰ã®ãƒ–ックマーク
lã‚ã¨ã§èªã‚€
eコメント一覧を開ã
oページを開ã
{{#tags}}- {{label}}
{{/tags}}