Baseline OpenAI end-to-end chat reference architecture - Azure Reference Architectures
Enterprise chat applications can empower employees through conversational interaction. This is especially true due to the continuous advancement of language models, such as OpenAI's GPT models and Meta's LLaMA models. These chat applications consist of a chat user interface (UI), data repositories that contain domain-specific information pertinent to the user's queries, language models that reason
Azure OpenAI Service リファレンスアーã‚テクãƒãƒ£ã‹ã‚‰ã¿ã‚‹æœ¬ç•ªã‚·ã‚¹ãƒ†ãƒ レベル㮠LLM アプリã«å¿…è¦ãªæ¤œè¨Žé …ç›®ã®è§£èª¬ / From Azure OpenAI Reference Architecture to Production-Ready LLM Apps #serverlessdays #serverlesstokyo
ServerlessDays Tokyo 2023 㧠Azure OpenAI Service リファレンスアーã‚テクãƒãƒ£ã‹ã‚‰ã¿ã‚‹ã€æœ¬ç•ªã‚·ã‚¹ãƒ†ãƒ レベル㮠LLM アプリã«å¿…è¦ãªæ¤œè¨Žé …ç›®ã®è§£èª¬ / From Azure OpenAI Reference Architecture to Production-Ready LLM Apps ã¨ã„ã†ã‚¿ã‚¤ãƒˆãƒ«ã§ç´¹ä»‹ã—ã¾ã—㟠HP: https://tokyo.serverlessdays.io/ Ticket: https://serverless.connpass.com/event/290640/ #serverlessdays #serverlesstokyo
ã€2024年版】ChatGPT APIを社内利用ã™ã‚‹æ™‚ã«æŽ¡ç”¨ã™ã¹ãアーã‚テクãƒãƒ£ã‚’考ãˆãŸ - Qiita
çµè«– 社内システム上ã®å¤šæ•°ã®ã‚¢ãƒ—リケーションãŒChatGPT APIを活用ã—ã¦ã„ã‚‹ã¨ã„ã†ã‚·ãƒãƒ¥ã‚¨ãƒ¼ã‚·ãƒ§ãƒ³ã‚’想定ã—ã€AI共通基盤ãŒæŒã¤ã¹ã機能ã¨ã‚¢ãƒ¼ã‚テクãƒãƒ£ã‚’検討ã—ã¾ã—ãŸã€‚ ãƒã‚¤ãƒ³ãƒˆã¯ä»¥ä¸‹ã®ï¼“ã¤ã§ã™ã€‚ 社内システム上ã®ã‚らゆるアプリケーションã«ChatGPT APIãŒçµ„ã¿è¾¼ã¾ã‚Œã‚‹æœªæ¥ãŒæƒ³å®šã•ã‚Œã‚‹ アプリケーションã”ã¨ã«å¿…è¦ãªå®Ÿè£…ã¯é‡è¤‡ã™ã‚‹ãŸã‚共通化ãŒå¯èƒ½ Proxyサーãƒã‚’社内ã«é…ç½®ã—ãã“ã§å…±é€šçš„ãªå‡¦ç†ã‚’è¡Œã„ã€å„アプリケーションã¯API呼ã³å‡ºã—ã®ã¿ã‚’行ㆠ背景 -ChatGPT APIã®2024年を予想ã™ã‚‹- 2023å¹´5月ç¾åœ¨ã®ChatGPT APIã®æ´»ç”¨çŠ¶æ³ 2023å¹´3月1æ—¥ã«ChatGPT APIã§ã‚ã‚‹GPT3.5-turboãŒãƒªãƒªãƒ¼ã‚¹ã•ã‚Œã€ã‚らゆるプレイヤーã«ã‚ˆã£ã¦ã“ãžã£ã¦æ´»ç”¨æ–¹æ³•ãŒæ¨¡ç´¢ã•ã‚Œã¦ã„ã¾ã™ã€‚ ç¾åœ¨ã®æ´»ç”¨çŠ¶æ³ã«ã¤ã„ã¦çŸ¥è¦‹ã‚’æ·±ã‚ãŸã‹ã£ãŸãŸã‚ã€Twitterã«ã¦ChatGPT
サーãƒãƒ¼ãƒ¬ã‚¹ãŒã‚¢ãƒ—リケーションã«ã‚‚ãŸã‚‰ã™æœ¬å½“ã®ãƒ¡ãƒªãƒƒãƒˆã¨ã¯ï¼Ÿã€Œã‚µãƒ¼ãƒãƒ¼ãƒ¬ã‚¹ã®ãƒãƒ†ãƒ³ã‚·ãƒ£ãƒ«ã¨ã‚·ã‚¹ãƒ†ãƒ 表ç¾ã€#devsumi ｜ Developers.IO
サーãƒãƒ¼ãƒ¬ã‚¹ãŒã‚¢ãƒ—リケーションã«ã‚‚ãŸã‚‰ã™æœ¬å½“ã®ãƒ¡ãƒªãƒƒãƒˆã¨ã¯ï¼Ÿã€Œã‚µãƒ¼ãƒãƒ¼ãƒ¬ã‚¹ã®ãƒãƒ†ãƒ³ã‚·ãƒ£ãƒ«ã¨ã‚·ã‚¹ãƒ†ãƒ 表ç¾ã€ #devsumi 「ãã®ã‚µãƒ¼ãƒãƒ¼ãƒ¬ã‚¹ã€æœ¬å½“ã«æ„味ã‚ã‚‹ã®ï¼Ÿã€ AWS re:Invent 2014ã§ã€AWS LambdaãŒç™ºè¡¨ã•ã‚Œã¦ã‹ã‚‰ä¸¸3å¹´ãŒçµŒéŽã€‚サーãƒãƒ¼ãƒ¬ã‚¹ã¨ã„ã†å˜èªžã‚‚ã™ã£ã‹ã‚Šã“ã®ç•Œéšˆã§ã¯å®šç€ã—ãŸæ„Ÿã¯ã‚ã‚Šã¾ã™ã€‚ ã§ã™ãŒã€å®Ÿéš›ã®é–‹ç™ºãƒ»é‹ç”¨ãƒŽã‚¦ãƒã‚¦ã«ã¤ã„ã¦ã¯ã€ã¾ã ã¾ã 試行錯誤ãŒç¶šã„ã¦ã„ã‚‹ã®ãŒç¾çŠ¶ã˜ã‚ƒãªã„ã§ã—ょã†ã‹ã€‚ã¶ã£ã¡ã‚ƒã‘ã€æ—¢å˜ã‚¢ãƒ—リケーションã®EC2ã‚’Lambdaã«ç½®ãæ›ãˆã‚‹ã ã‘ã§ã¯ã»ã¨ã‚“ã©ãƒ¡ãƒªãƒƒãƒˆç„¡ã„ã§ã—ょã€ã¨ã„ã†æ„Ÿè§¦ã¯ã€ã‚る程度サーãƒãƒ¼ãƒ¬ã‚¹ã‚¢ãƒ—リケーションをゴリゴリ作ã£ã¦ã„る人ã§ã‚ã‚Œã°ã€ã‚ˆãæ„Ÿã˜ã¦ã„ã‚‹ã“ã¨ã ã¨æ€ã„ã¾ã™ã€‚ ãã‚“ãªãªã‹ä»Šå›žå—講ã—ãŸã“ã®ãƒ‡ãƒ–サミã®ã‚»ãƒƒã‚·ãƒ§ãƒ³ã§ã¯ã€æ–°ã—ã„観点ã§ã‚µãƒ¼ãƒãƒ¼ãƒ¬ã‚¹ãŒã‚‚ãŸã‚‰ã™æ©æµã‚„メリットをæ‰ãˆã‚‹ã“ã¨ãŒã§ãã¦ã”ã£ã¤æ–°é®®ã ã£ãŸã®ã§ã€ãã®æ¨¡æ§˜ã‚’ãŠå±Šã‘
Azure - Inside the Azure App Service Architecture
This browser is no longer supported. Upgrade to Microsoft Edge to take advantage of the latest features, security updates, and technical support. February 2017 Volume 32 Number 2 [Azure] Inside the Azure App Service Architecture By Yochay Kiriaty | February 2017 Azure App Service is considered an excellent Platform as a Service (PaaS), offering an application platform for developers to build Web,
本当ã¯æã‚ã—ã„分散システムã®è©±
2. 2Copyright©2017 NTT corp. All Rights Reserved. 諸説ã‚ã‚‹ãŒã€ã“ã“ã§ã®å®šç¾©ã¯ã€Œéƒ¨åˆ†çš„ãªæ•…障を許容ã™ã‚‹ã‚·ã‚¹ãƒ†ãƒ ã€ã®äº‹ 複数å°ã®ã‚³ãƒ³ãƒ”ュータを接続ã—ã¦ä¿¡é ¼æ€§ã‚’高ã‚ãŸã‚Š データãŒé€”ä¸ã§åŒ–ã‘ã¦ã‚‚å†é€ã—ãŸã‚Šè¨‚æ£ã—ãŸã‚Š 一部ã®ã‚³ãƒ³ãƒ”ュータãŒçªç„¶æ•…éšœã—ã¦ã‚‚引ã継ã„ã ã‚Š 故障をè¨è¨ˆã®ä¸€éƒ¨ã«çµ„ã¿è¾¼ã‚€äº‹ãŒå¿…é ˆã¨ãªã‚‹ 分散システムã¨ã¯ 3. 3Copyright©2017 NTT corp. All Rights Reserved. • 世ã¯ã¾ã•ã«åˆ†æ•£ã‚·ã‚¹ãƒ†ãƒ 戦国時代 • Hadoopを皮切りã«æ¬¡ã€…出ã¦ãる巨大分散OSS • シリコンãƒãƒ¬ãƒ¼ã§ã‚‚分散ミドルウェアベンãƒãƒ£ãƒ¼ãŒå¤šæ•°å‡ºç¾ • é«˜ä¿¡é ¼ãªã‚·ã‚¹ãƒ†ãƒ を作ã‚ã†ã¨æ€ã£ãŸå ´åˆã«ã¯è¤‡æ•°å°ã®ãƒžã‚·ãƒ³ã«ã‚ˆã‚‹é«˜å¯ç”¨æ§‹æˆ ãŒå‰æã«ãªã‚‹ • Googleã€Facebookã€Amazonç‰ã¯ã‚‚ã¡ã‚ã‚“ • 金èžã€æµé€šãªã©ã®ã‚¨ãƒ³ã‚¿ãƒ¼ãƒ—ラ
ãƒãƒ¼ãƒ‰ãƒãƒ©ãƒ³ã‚µã®ã‚¢ãƒ¼ã‚テクãƒãƒ£ã„ã‚ã„ã‚ - yunazuno.log
å°‘ã—å‰ã«ï¼ŒFacebookã®ãƒãƒ¼ãƒ‰ãƒãƒ©ãƒ³ã‚µãŒè©±é¡Œã«ãªã£ã¦ã„ãŸï¼Ž blog.stanaka.org ã“ã®ã‚¨ãƒ³ãƒˆãƒªã‚’èªã‚“ã§ï¼Œå„種Webサービス事æ¥è€…ãŒã©ã†ã„ã£ãŸãƒãƒ¼ãƒ‰ãƒãƒ©ãƒ³ã‚¹ã‚¢ãƒ¼ã‚テクãƒãƒ£ã‚’採用ã—ã¦ã„ã‚‹ã®ã‹æ°—ã«ãªã£ãŸã®ã§èª¿ã¹ã¦ã¿ãŸï¼Ž ã–ã£ãり検索ã—ãŸé™ã‚Šã ã¨ï¼ŒMicrosoft, CloudFlareã®äº‹ä¾‹ãŒè¦‹ã¤ã‹ã£ãŸã®ã§ï¼ŒFacebookã®ä¾‹ã‚‚ä½µã›ã¦ã¾ã¨ã‚ã¦ã¿ãŸï¼Ž アーã‚テクãƒãƒ£éƒ¨åˆ†ã«æ³¨ç›®ã—ã¦ã¾ã¨ã‚ãŸã®ã§ï¼Œãƒžãƒã‚¸ãƒ¡ãƒ³ãƒˆæ–¹æ³•ã‚„実装方法，ãƒãƒ¼ãƒ‰ãƒãƒ©ãƒ³ã‚¹ä»¥å¤–ã®æ©Ÿèƒ½ã‚„最é©åŒ–手法ã¨ã„ã£ãŸéƒ¨åˆ†ã®è©³ç´°ã«ã¯è§¦ã‚Œãªã„ã“ã¨ã«ã™ã‚‹ï¼Ž 事例1: Microsoft Azure 'Ananta' Microsoftã®Azureã§æŽ¡ç”¨ã•ã‚Œã¦ã„ã‚‹(ã„ãŸï¼Ÿ)ãƒãƒ¼ãƒ‰ãƒãƒ©ãƒ³ã‚µã®ã‚¢ãƒ¼ã‚テクãƒãƒ£ã¯ï¼Œä¸‹è¨˜ã®è«–æ–‡ãŒè©³ã—ã„． Parveen Patel et al., Ananta: cloud scale load balancing
サーãƒãƒ¬ã‚¹ã‚¢ãƒ¼ã‚テクãƒãƒ£ã¨ã¯ï¼Ÿ - プãƒã‚°ãƒ©ãƒžã§ã‚ã‚ŠãŸã„
サーãƒãƒ¬ã‚¹ã‚¢ãƒ¼ã‚テクãƒãƒ£ã®æ•´ç†ã§ã™ã€‚å°‘ã—å‰ã¯ã€2-Tier Architecture（クラウドãƒã‚¤ãƒ†ã‚£ãƒ–ãªã‚¢ãƒ¼ã‚テクãƒãƒ£ï¼‰ã¨3-Tier Architecture（従æ¥ã®ã‚¢ãƒ¼ã‚テクãƒãƒ£ï¼‰ã¨ã„ã†å¯¾æ¯”ã§è«–ã˜ã‚‰ã‚Œã‚‹ã“ã¨ãŒå¤šã‹ã£ãŸã§ã™ã€‚ã—ã‹ã—ã€API Gatewayã®ç™»å ´ã«ã‚ˆã‚Šã€3-Tierãªæ§‹é€ ã§ã‚‚クラウドãƒã‚¤ãƒ†ã‚£ãƒ–ãªã‚¢ãƒ¼ã‚テクãƒãƒ£ã«ã—ã‚„ã™ããªã‚Šã¾ã—ãŸã€‚ã¨ã„ã†ã“ã¨ã§ã€ã‚µãƒ¼ãƒãƒ¬ã‚¹ã‚¢ãƒ¼ã‚テクãƒãƒ£ï¼ˆServerLess Architecture）ã¨å‘¼ã°ã‚Œã‚‹ã“ã¨ãŒå¤šã„ã§ã™ã€‚ サーãƒãƒ¬ã‚¹ã‚¢ãƒ¼ã‚テクãƒãƒ£ã®ãƒ‘ターン ãã‚Œã§ã¯ã€å¾“æ¥åž‹ã®ã‚¢ãƒ¼ã‚テクãƒãƒ£ï¼ˆæ—§3-Tier）ã¨2-Tierパターンã€API Gatewayを利用ã—ãŸã‚µãƒ¼ãƒãƒ¬ã‚¹ã‚¢ãƒ¼ã‚テクãƒãƒ£ã‚’ãã‚Œãžã‚Œè¦‹ã¦ã¿ã¾ã—ょã†ã€‚ 従æ¥åž‹ã®ãƒ‘ターン（ アプリケーションサーãƒãƒ»ãƒ‘ターン） ã¾ãšã¯å¾“æ¥åž‹ã®ã‚¢ãƒ¼ã‚テクãƒãƒ£ã§ã™ã€‚é–“ã«ELBを挟んã§AutoScaleã«ã™ã‚‹ã“ã¨ã¯å¤š
1
リリースã€éšœå®³æƒ…å ±ãªã©ã®ã‚µãƒ¼ãƒ“スã®ãŠçŸ¥ã‚‰ã›
最新ã®äººæ°—エントリーã®é…ä¿¡
j次ã®ãƒ–ックマーク
kå‰ã®ãƒ–ックマーク
lã‚ã¨ã§èªã‚€
eコメント一覧を開ã
oページを開ã
Browse Azure Architectures - Azure Architecture Center
Azure Architecture Center - Azure Architecture Center
秒間数万ã®ãƒã‚°ã‚’ã„ã„æ„Ÿã˜ã«ã™ã‚‹ã‚¢ãƒ¼ã‚テクãƒãƒ£
{{#tags}}- {{label}}
{{/tags}}