自然言語ã¨Vision&Language
æ±äº¬å¤§å¦å¤§å¦é™¢ã®2024å¹´åº¦è¬›ç¾©ã€ŒçŸ¥èƒ½æƒ…å ±è«–ã€ã§ä½¿ç”¨ã—ãŸè³‡æ–™ã§ã™ï¼Ž Vision&Language関連ã®ç ”究ã«ã¤ã„ã¦ï¼Œæ·±å±¤å¦ç¿’åˆæœŸã‹ã‚‰å¤§è¦æ¨¡ãƒ¢ãƒ‡ãƒ«ã«ã„ãŸã‚‹ã¾ã§ã‚’概観ã—ã¦ã„ã¾ã™ï¼Ž ãªãŠï¼Œè³‡æ–™ä½œæˆæ™‚期ã¯2024å¹´5月下旬ã§ã‚り，内容ã¯ãã®æ™‚点ã§ç™ºè¡¨ã•ã‚Œã¦ã„ãŸç ”究ç‰ã«åŸºã¥ã„ã¦ã„ã¾ã™ï¼Ž
世界変é©ã®å‰å¤œã¯æ€ã£ãŸã‚ˆã‚Šé™ã‹ï½œæ·±æ´¥ 貴之 (fladdict)
世界ã®ãƒ«ãƒ¼ãƒ«ãŒæ ¹æœ¬çš„ã«å¤‰ã‚ã£ã¦ã—ã¾ã†â€¦ ãã†ã„ã†å±•é–‹ã¯ã€ãƒžãƒ³ã‚¬ã‚„æ˜ ç”»ã§ã¯ã‚ˆãèµ·ã“る。ãã‚ŒãŒç¾å®Ÿã§ã‚‚èµ·ããã†ã 。 ã‚ã¨æ•°æ—¥ï¼ˆã‹ã‚‰æ•°é€±é–“）ã§ã€Œãƒˆãƒƒãƒ—レベルã®ç”»åƒç”ŸæˆAIã€ãŒã€ä¸–ç•Œä¸ã«ãƒ•ãƒªãƒ¼ã§é…布ã•ã‚Œã‚‹ã€‚ イラストã€ãƒžãƒ³ã‚¬ã¯ãŠã‚ã‹3D CGや建築ã€å‹•ç”»ã€æ˜ åƒâ€¦æžœã¦ã¯ãƒ•ã‚§ã‚¤ã‚¯ãƒ‹ãƒ¥ãƒ¼ã‚¹ã‹ã‚‰ãƒãƒ«ãƒŽã¾ã§â€¦ã‚らゆる創作ã«æºã‚ã‚‹å…¨ã¦ã®äººã‚’å·»ã込むã€æ´å²çš„ãªè»¢æ›ç‚¹ãŒè¨ªã‚Œã‚ˆã†ã¨ã—ã¦ã„る。 凄ã•çš„ã«ã¯ã€æ‚ªé”ã®å®ŸãŒãƒ¡ãƒ«ã‚«ãƒªã§è²·ãˆã‚‹ã‚ˆã†ã«ãªã‚‹ã€‚念能力トレーニング動画ãŒYoutubeã«ã‚¢ãƒƒãƒ—ã•ã‚Œã‚‹ã€‚ãã‚Œãらã„ヤãƒã„。 メルカリã§æ‚ªé”ã®å®ŸãŒè²·ãˆã‚‹ä¸–ç•Œã§ã¯ã€èª°ã‚‚ãŒèƒ½åŠ›è€…（一æµã¨ã¯é™ã‚‰ãªã„）ã«ãªã‚Œã‚‹ã€‚ãã‚“ãªã€æ¼«ç”»ã‚„ゲームã®ãƒ©ã‚¹ãƒœã‚¹ãŒèªžã‚‹ã‚ˆã†ãªãƒ¦ãƒ¼ãƒˆãƒ”ã‚¢ãŒã€ã‚ã¨æ•°æ—¥ã§ç¾å®Ÿã«ãªã£ã¦ã—ã¾ã†ã‹ã‚‚ã—ã‚Œãªã„。 Stable Diffusionã§å‡ºåŠ›ã—ãŸãƒ‰ãƒ¯ãƒ¼ãƒ•ã®çŽ‹æ§˜Stable Diffusionã§å‡ºåŠ›ã—ãŸãƒ›ãƒ“ットã®ã‚¹ã‚¿ãƒ‡ã‚£ Stabl
ç”»åƒèªè˜ã®å¤§é©å‘½ã€‚AIç•Œã§è©±é¡Œçˆ†ç™ºä¸ã®ã€ŒVision Transformerã€ã‚’è§£èª¬ï¼ - Qiita
0. å¿™ã—ã„方㸠完全ã«ç•³ã¿è¾¼ã¿ã¨ã•ã‚ˆã†ãªã‚‰ã—ã¦SoTAé”æˆã—ãŸã‚ˆ Vision Transformerã®é‡è¦ãªã“ã¨ã¯æ¬¡ã®3ã¤ã よ ç”»åƒãƒ‘ッãƒã‚’å˜èªžã®ã‚ˆã†ã«æ‰±ã†ã‚ˆ アーã‚テクãƒãƒ£ã¯Transformerã®ã‚¨ãƒ³ã‚³ãƒ¼ãƒ€ãƒ¼éƒ¨åˆ†ã よ 巨大ãªãƒ‡ãƒ¼ã‚¿ã‚»ãƒƒãƒˆJFT-300Mã§äº‹å‰å¦ç¿’ã™ã‚‹ã‚ˆ SoTAを上回る性能を約$\frac{1}{15}$ã®è¨ˆç®—コストã§å¾—られãŸã‚ˆ 事å‰å¦ç¿’データセットã¨ãƒ¢ãƒ‡ãƒ«ã‚’ã•ã‚‰ã«å¤§ããã™ã‚‹ã“ã¨ã§ã¾ã ã¾ã 性能å‘上ã™ã‚‹ä½™åœ°ãŒã‚るよ 1. Vision Transformerã®è§£èª¬ Vision Transformer(=ViT)ã®é‡è¦ãªéƒ¨åˆ†ã¯æ¬¡ã®3ã¤ã§ã™ã€‚ å…¥åŠ›ç”»åƒ ã‚¢ãƒ¼ã‚テクãƒãƒ£ 事å‰å¦ç¿’ã¨ãƒ•ã‚¡ã‚¤ãƒ³ãƒãƒ¥ãƒ¼ãƒ‹ãƒ³ã‚° ãã‚Œãžã‚Œã«ã¤ã„ã¦è¦‹ã¦ã„ãã¾ã—ょã†ã€‚ 1.1 å…¥åŠ›ç”»åƒ ã¾ãšå…¥åŠ›ç”»åƒã«ã¤ã„ã¦ã§ã™ã€‚ViTã¯Transformerをベースã¨ã—ãŸãƒ¢ãƒ‡ãƒ«(ã¨ã„ã†ã‚ˆã‚Šä¸€éƒ¨ã‚’丸々使ã£ã¦ã„ã‚‹)ã§ã™ãŒã€
ã²ã¨ã‚Šã§ä½œã‚‹ç”»åƒæ¤œç´¢
ã²ã¨ã‚Šã§ä½œã‚‹ ç”»åƒæ¤œç´¢ã‚·ã‚¹ãƒ†ãƒ OLTAæ ªå¼ä¼šç¤¾ 山際 康貴
1
リリースã€éšœå®³æƒ…å ±ãªã©ã®ã‚µãƒ¼ãƒ“スã®ãŠçŸ¥ã‚‰ã›
最新ã®äººæ°—エントリーã®é…ä¿¡
処ç†ã‚’実行ä¸ã§ã™
j次ã®ãƒ–ックマーク
kå‰ã®ãƒ–ックマーク
lã‚ã¨ã§èªã‚€
eコメント一覧を開ã
oページを開ã
{{#tags}}- {{label}}
{{/tags}}