Ethernetベースã®GPUクラスタ導入ã«ã‚ˆã‚‹å¦ã³ã¨å±•æœ›NVIDIA AI Summit Japan 2024ã«ã¦ç™ºè¡¨ã—ãŸå†…容ã§ã™ã€‚ 登壇日： 2024å¹´11月13æ—¥ イベントリンク： https://www.nvidia.com/ja-jp/events/ai-summit/ 登壇動画： https://www.nvidia.com/ja-jp/on…
DeNA ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯é‹ç”¨ç›£è¦–ツールã®ç´¹ä»‹ [DeNA インフラ SRE] | BLOG - DeNA Engineering
ã¯ã˜ã‚ã« ã“ã‚“ã«ã¡ã¯ã€‚IT基盤ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã‚°ãƒ«ãƒ¼ãƒ—ã®å®ˆå±‹ã¨ç”³ã—ã¾ã™ã€‚ 主ã«ç¤¾å†…ã®ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã€CDN (Content Delivery Network)関連ã®æ¥å‹™ã‚’担当ã—ã¦ã„ã¾ã™ã€‚ 今ã¾ã§ã®ãƒ–ãƒã‚°ã§ã¯ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã‚°ãƒ«ãƒ¼ãƒ—ã§æŽ¡ç”¨ã—ã¦ã„るサービスやã€ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ç§»è¡Œã«ã¤ã„ã¦ã”紹介ã—ã¦ãã¾ã—ãŸãŒã€ 今回㯠DeNA ã®ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯é‹ç”¨ç›£è¦–ã§ä½¿ç”¨ã—ã¦ã‚‹ãƒ„ールをã”紹介ã„ãŸã—ã¾ã™ã€‚ AWS BYOIP を使ã£ãŸè‡ªç¤¾ IPv4 é‹ç”¨æ‰‹æ³• DeNA ã§ã® GCP ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯é‹ç”¨ DeNA 本社移転ã§ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯æ§‹ç¯‰ãƒ»ç§»è¡Œä½œæ¥ã‚’実施ã—ã¾ã—㟠DeNA ã®ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã«ã¤ã„㦠ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã¯éšœå®³ã‚„å“質ãŒæ‚ªã„ã¨è¤‡æ•°ã®ã‚µãƒ¼ãƒ“スやユーザã«å½±éŸ¿ã‚’与ãˆã¾ã™ã€‚ ãã®ãŸã‚ã€24/365体制ã§ã€æ¥å‹™ã‚’円滑ã«é€²ã‚られるよã†ãªãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã‚’é‹ç”¨ç›£è¦–ã™ã‚‹ã“ã¨ãŒãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã‚°ãƒ«ãƒ¼ãƒ—ã®åŸºæœ¬æ–¹é‡ã¨ãªã‚Šã¾ã™ã€‚ ãŸã ã—ã€ãƒªã‚½ãƒ¼ã‚¹ã¯æœ‰é™ãª
![DeNA ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯é‹ç”¨ç›£è¦–ツールã®ç´¹ä»‹ [DeNA インフラ SRE] | BLOG - DeNA Engineering](https://cdn-ak-scissors.b.st-hatena.com/image/square/1b9acf5c47daa7b9d974947691fc12da8b40f44f/height=288;version=1;width=512/https%3A%2F%2Fengineering.dena.com%2Fblog%2F2024%2F10%2Fdena-network-monitoring%2Fcover.png)
生æˆAIå‘ã‘パブリッククラウドサービスをã¤ãã£ã¦ã¿ãŸè©± | ã•ãらã®ãƒŠãƒ¬ãƒƒã‚¸
ã“ã‚“ã«ã¡ã¯ã€‚ã•ãらã®ãƒŠãƒ¬ãƒƒã‚¸ç·¨é›†éƒ¨ã§ã™ã€‚ 7月ã«é–‹å‚¬ã•ã‚ŒãŸJANOG54 Meetingã§ã€Œç”ŸæˆAIå‘ã‘パブリッククラウドサービスをã¤ãã£ã¦ã¿ãŸè©±ã€ã«ã¤ã„ã¦ã€ã•ãらインターãƒãƒƒãƒˆ 高峯 èª ã•ã‚“ã€äº•ä¸Š 喬視ã•ã‚“ã€å¹³ç”° 大ç¥ã•ã‚“ãŒç™»å£‡ã—ã¾ã—ãŸã€‚ãã®å†…容をレãƒãƒ¼ãƒˆã—ã¾ã™ã€‚ 生æˆAIå‘ã‘基盤ã«ã¤ã„ã¦ã€ã¾ãšã¯æ™‚系列を用ã„ã¦æ¦‚è¦ã‚’説明ã—ã¾ã™ã€‚2011å¹´ã«ã€ã•ãらインターãƒãƒƒãƒˆã¯åŒ—æµ·é“石狩ã«è‡ªç¤¾é‹å–¶ã®çŸ³ç‹©ãƒ‡ãƒ¼ã‚¿ã‚»ãƒ³ã‚¿ã‚’開所ã—ã¾ã—ãŸã€‚2016å¹´9月ã«åˆã‚ã¦GPUã®ã‚³ãƒ³ãƒ”ューティングリソースをæä¾›ã™ã‚‹ã€Œã•ãらã®å°‚用サーム高ç«åŠ›ã€ã‚·ãƒªãƒ¼ã‚ºã®ã‚µãƒ¼ãƒ“スを開始ã—ã€2020å¹´7月ã«ã¯ã•ãらã®å°‚用サーãƒã®æ–°ã—ã„ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯åŸºç›¤ã€Œã•ãらã®å°‚用サームPHYã€ã¨ã„ã†ã‚µãƒ¼ãƒ“スもæ供開始ã—ã¾ã—ãŸã€‚ã•ã‚‰ã«ã€2021å¹´ã«ã¯2016å¹´ã«æ供開始ã—ãŸã•ãらã®å°‚用サーãƒé«˜ç«åŠ›ã®GPUサーãƒã‚’仮想化ã—ã€ã•ãらã®ã‚¯ãƒ©ã‚¦ãƒ‰ã«è¼‰ã›ã‚‹ã€Œã•ãらク
生æˆAI時代ã®ãƒ‡ãƒ¼ã‚¿ã‚»ãƒ³ã‚¿ãƒ¼ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ 「計算資æºã®ä¸€éƒ¨ã€ã¸å½¹å‰²ãŒå¤‰åŒ–｜BUSINESS NETWORK
通信ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã®å½¹å‰²ã¯â€œãƒ‡ãƒ¼ã‚¿ã‚’ä¼ãˆã‚‹â€ã“ã¨ã 。ã ãŒã€æ¡é•ã„ã®è¨ˆç®—能力を必è¦ã¨ã™ã‚‹ç”ŸæˆAI/機械å¦ç¿’ã®å ´ã§ã¯ãã®å¸¸è˜ãŒå¤‰ã‚る。ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã«ã‚‚計算リソースã®ä¸€éƒ¨ã¨ã—ã¦åƒã性能・機能ãŒæ±‚ã‚られる。 2022å¹´ãŒâ€œChatGPT公開â€ã®å¹´ãªã‚‰ã€2023å¹´ã¯ã€ãã®Open AIを追ã„ã‹ã‘る者ãŸã¡ã®è©±é¡Œã§æŒã¡åˆ‡ã‚Šã®å¹´ã ã£ãŸã€‚北米ã®ãƒ“ッグテックã¯ã‚‚ã¨ã‚ˆã‚Šã€å›½å†…ã®å‹•ãも活発ã 。 NTTやソフトãƒãƒ³ã‚¯ã€å¯Œå£«é€šã€ç†ç ”らãŒæ¬¡ã€…ã¨ã€ç”ŸæˆAIã®åŸºç›¤ã¨ãªã‚‹å¤§è¦æ¨¡è¨€èªžãƒ¢ãƒ‡ãƒ«ï¼ˆLLM）ã®é–‹ç™ºã‚’表明。サイãƒãƒ¼ã‚¨ãƒ¼ã‚¸ã‚§ãƒ³ãƒˆã¯5月ã€NECã¯7月ã«è‡ªç¤¾é–‹ç™ºã—ãŸLLMã®å…¬é–‹ã€æ供を開始ã—ãŸã€‚ãã®å¾Œã‚‚æ±äº¬å¤§å¦æ¾å°¾ç ”究室（æ¾å°¾è±Šæ•™æŽˆï¼‰ã‚„Preferred NetworksãŒLLMを公開。2024å¹´3月ã«ã¯ã€NTTãŒã€Œtsuzumiã€ã®ãƒ‡ãƒ“ューを予定ã—ã¦ã„る。 「計算ã®ãŸã‚ã®ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã€ 第三次AIブームã®è¡Œæ–¹ã«ã¯ã¾ã ä¸é€æ˜Žãªéƒ¨
AIデータセンターã®1万5000個ã®GPUを相互接続ã™ã‚‹æŠ€è¡“ã‚’Alibaba Cloudã®ç ”究者ãŒç™ºè¡¨ã€NVIDIA技術をæ¨ã¦ã¦ã‚¤ãƒ¼ã‚µãƒãƒƒãƒˆã‚’採用
Alibaba Cloudã®ã‚¨ãƒ³ã‚¸ãƒ‹ã‚¢å…¼ç ”究者ã§ã‚ã‚‹Ennan Zhaiæ°ãŒã€LLMトレーニングå‘ã‘データセンターã®GPUをイーサãƒãƒƒãƒˆã§ç›¸äº’接続ã™ã‚‹æ–¹æ³•ã«é–¢ã™ã‚‹ç ”究論文を発表ã—ã¾ã—ãŸã€‚ã“ã®æŠ€è¡“ã¯ç‰¹ã«ã€NVIDIAã®GPU相互接続プãƒãƒˆã‚³ãƒ«ã§ã‚ã‚‹NVLinkã§ã¯ãªãイーサãƒãƒƒãƒˆã‚’採用ã—ã¦ã„る点ã§æ–¬æ–°ã¨ã•ã‚Œã¦ã„ã¾ã™ã€‚ Alibaba HPN: A Data Center Network for Large Language Model Training (PDFファイル)https://ennanzhai.github.io/pub/sigcomm24-hpn.pdf Alibaba Cloud ditches Nvidia's interconnect in favor of Ethernet — tech giant uses own High Performance Network t
Cat.6A AWG26細径ソリューション「SMART75ã€ã®ã”案内 | LANケーブル・ヒューズ ãƒ¡ãƒ¼ã‚«ãƒ¼ï½œæ—¥æœ¬è£½ç·šæ ªå¼ä¼šç¤¾
å¹³ç´ ã¯ã€æ ¼åˆ¥ã®ã”高é…を賜り厚ããŠç¤¼ç”³ã—上ã’ã¾ã™ã€‚ ã“ã®åº¦ã¯ã€æ¨™æº–仕様ã¨ãªã‚Šã¾ã™AWG24（導体径0.5ï½ï½ï¼‰ã«åŠ ãˆã¦ã€AWG26（導体径0.4ï½ï½ï¼‰ç´°å¾„仕様をラインナップã—ã¦ãŠã‚Šã¾ã™ã€‚ 最大ãƒãƒ£ãƒãƒ«é•·75ï½ã§ã‚ã‚‹ã“ã¨ã‹ã‚‰ã€åŒè£½å“シリーズを「SMART75ã€ã¨å付ã‘ã¦è²©å£²ã—ã¦ãŠã‚Šã¾ã™ã€‚ Cat.6A AWG24ケーブル外径ãŒå¤ªã施工ãŒé›£ã—ã„ãŸã‚ã€å°‘ã—ã§ã‚‚ケーブルを細ãã™ã‚‹ã“ã¨ã§æ–½å·¥æ€§ã®å‘上を図りã¾ã—ãŸã€‚ 是éžã¨ã‚‚ã”覧ã„ãŸã ãã€ã”検討ã„ãŸã ã‘ã‚‹ã¨å¹¸ã„ã§ã™ã€‚
AIãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã«ãŠã‘ã‚‹GPUã¨å…‰ãƒ¢ã‚¸ãƒ¥ãƒ¼ãƒ«ã®æ¯”率ã¨éœ€è¦ã®åˆ†æž - Qiita
å¸‚å ´ã§ã¯ã€å…‰ãƒ¢ã‚¸ãƒ¥ãƒ¼ãƒ«ã¨GPUã®æ¯”率を計算ã™ã‚‹ãŸã‚ã®è¤‡æ•°ã®ã‚¢ãƒ—ãƒãƒ¼ãƒãŒå˜åœ¨ã—ã€ä¸€è²«æ€§ã®ãªã„çµæžœã‚’ã‚‚ãŸã‚‰ã—ã¦ã„ã¾ã™ã€‚ã“れらã®é•ã„ã®ä¸»ãªåŽŸå› ã¯ã€ã•ã¾ã–ã¾ãªãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯æ§‹é€ ã«å®Ÿè£…ã•ã‚Œã‚‹å…‰ãƒ¢ã‚¸ãƒ¥ãƒ¼ãƒ«ã®æ•°ã®å¤‰å‹•ã«ç”±æ¥ã—ã¦ã„ã¾ã™ã€‚å¿…è¦ãªå…‰ãƒ¢ã‚¸ãƒ¥ãƒ¼ãƒ«ã®æ£ç¢ºãªæ•°é‡ã¯ã€ã„ãã¤ã‹ã®é‡è¦ãªè¦å› ã«ä¸»ã«ä¾å˜ã—ã¦ã„ã¾ã™ã€‚ ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã‚«ãƒ¼ãƒ‰ãƒ¢ãƒ‡ãƒ« 主ã«2ã¤ã®ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯ã‚«ãƒ¼ãƒ‰ãŒå«ã¾ã‚Œã¦ãŠã‚Šã€ConnectX-6（200Gb/sã€ä¸»ã«A100ã¨ä½¿ç”¨ã•ã‚Œã‚‹ï¼‰ã¨ConnectX-7（400Gb/sã€ä¸»ã«H100ã¨ä½¿ç”¨ã•ã‚Œã‚‹ï¼‰ã§ã™ã€‚ åŒæ™‚ã«ã€æ¬¡ä¸–代ã®ConnectX-8 800Gb/sãŒ2024å¹´ã«ãƒªãƒªãƒ¼ã‚¹ã•ã‚Œã‚‹äºˆå®šã§ã™ã€‚ スイッãƒãƒ¢ãƒ‡ãƒ« 主ã«2種類ã®ã‚¹ã‚¤ãƒƒãƒãŒå«ã¾ã‚Œã¦ãŠã‚Šã€QM 9700スイッãƒï¼ˆ32ãƒãƒ¼ãƒˆOSFP 2x400Gb/s）ãŒã‚ã‚Šã¾ã™ã€‚åˆè¨ˆ64ãƒãƒ£ãƒ³ãƒãƒ«ã®400Gb/sã®è»¢é€é€Ÿåº¦ã¨ã€åˆè¨ˆ51.2Tb/sã®ã‚¹ãƒ«ãƒ¼
リリースã€éšœå®³æƒ…å ±ãªã©ã®ã‚µãƒ¼ãƒ“スã®ãŠçŸ¥ã‚‰ã›
最新ã®äººæ°—エントリーã®é…ä¿¡
j次ã®ãƒ–ックマーク
kå‰ã®ãƒ–ックマーク
lã‚ã¨ã§èªã‚€
eコメント一覧を開ã
oページを開ã
https://mpls.jp/2024/presentations/mpls2024-shtsuchi.pdf
MPLS Japan 2024: アクセラレータ間通信ã®å®Ÿéš›
Arista 7700R4 Series
Networking @Scale 2024
Exploring GPU-to-GPU Communication: Insights into Supercomputer Interconnects
OFA Virtual Workshop 2024 Day Keynote
Fully Adaptive Routing Ethernet using BGP
SeqBalance: Congestion-Aware Load Balancing with no Reordering for RoCE
新人ã®ãŸã‚ã®ã‚¤ãƒ³ã‚¿ãƒ¼ãƒãƒƒãƒˆ&ãƒãƒƒãƒˆãƒ¯ãƒ¼ã‚¯è¶…入門2024
https://www.janog.gr.jp/meeting/janog54/wp-content/uploads/2024/06/janog54-lt2-kobayashi-00-3.pdf
https://www.jstage.jst.go.jp/article/bplus/17/1/17_68/_pdf
How Drivenets Leverages Ethernet Fabrics For AI Networking (Sponsored)
Efficient RDMA Communication Protocols
{{#tags}}- {{label}}
{{/tags}}