機械å¦ç¿’を「社会実装ã€ã™ã‚‹ã¨ã„ã†ã“㨠2024年版 / Social Implementation of Machine Learning 2024
機械å¦ç¿’を「社会実装ã€ã™ã‚‹éš›ã«å¾…ã¡å—ã‘ã¦ã„ã‚‹ç½ ã¨ã€ãã®è§£æ±ºæ–¹æ³•ã®è€ƒå¯Ÿ (2024年版) ã§ã™ã€‚今回ã¯ã€ç”ŸæˆAI時代ã¨ã‚‚呼ã°ã‚Œã‚‹æ˜¨ä»Šã«ãŠã„ã¦ã€æˆ‘々ã¯æ©Ÿæ¢°å¦ç¿’プãƒã‚¸ã‚§ã‚¯ãƒˆã‚’ã©ã®ã‚ˆã†ã«æ‰ãˆã€ã©ã®ã‚ˆã†ã«å‘ãåˆãˆã°ã‚ˆã„ã‹ï¼Ÿã®ç¾…é‡ç›¤ã«ãªã‚‹å†…容を盛り込ã¿ã¾ã—ãŸã€‚ ※ã“ã®è³‡æ–™ã¯ã€æ±äº¬å¤§å¦ãƒ¡ã‚¿ãƒãƒ¼ã‚¹å·¥å¦éƒ¨ãƒªã‚¹ã‚リン…
ã€ç„¡æ–™ã€‘データサイエンス入門:機械å¦ç¿’編全35回ã¾ã¨ã‚ã¨ç›®æ¬¡
ã“ã‚“ã«ã¡ã¯ï¼Œç±³å›½ãƒ‡ãƒ¼ã‚¿ã‚µã‚¤ã‚¨ãƒ³ãƒ†ã‚£ã‚¹ãƒˆã®ã‹ã‚(@usdatascientist)ã§ã™ï¼Ž (追記)動画版も公開ã—ã¾ã—ãŸï¼å…¨38時間ã®3部作ã¨ã„ã†è¶…大作ã§ã™ ã€æ—¥æœ¬ä¸€ã®é«˜è©•ä¾¡ã€‘機械å¦ç¿’超入門講座(å‰ç·¨&後編)を公開ã—ã¾ã—ãŸ!! ã€ã¤ã„ã«3部完çµã€‘機械å¦ç¿’超入門講座ã®æœ¬ç•ªç·¨ã‚’公開ã—ã¾ã—ãŸ!! ã„やーã¤ã„ã«é•·ã‹ã£ãŸãƒ‡ãƒ¼ã‚¿ã‚µã‚¤ã‚¨ãƒ³ã‚¹å…¥é–€æ©Ÿæ¢°å¦ç¿’ç·¨35回分ã®è¨˜äº‹ã‚’書ã終ãˆã¾ã—ãŸï¼ï¼ 本記事ã¯ãã®ã¾ã¨ã‚ã§ã™ï¼Žç›®æ¬¡ã¨ã—ã¦ä½¿ã£ã¦ãã ã•ã„． 目次 線形回帰 第1回: 機械å¦ç¿’ã¨ã¯ï¼Ÿãªã«ã‚’ã—ã¦ã„ã‚‹ã®ã‹ï¼Ÿ 第2回: 線形回帰ã®æ失関数をã‚ã‹ã‚Šã‚„ã™ã解説 第3回: 最急é™ä¸‹æ³•ã‚’図ã¨æ•°å¼ã§ç†è§£ã™ã‚‹(超é‡è¦) 第4回: æ£è¦æ–¹ç¨‹å¼ã‚’完全解説(導出ã‚ã‚Š) 第5回: scikit-learnを使ã£ã¦ç·šå½¢å›žå¸°ãƒ¢ãƒ‡ãƒ«ã‚’構築ã™ã‚‹ 第6回: 線形回帰ã®ä¿‚æ•°ã®è§£é‡ˆã®ä»•æ–¹(p値) 評価 第7回: (超é‡è¦)éŽå¦ç¿’ã¨æ±ŽåŒ–性能をç†è§£ã™ã‚‹(
最近話題ã«ãªã£ãŸå¤§è¦æ¨¡è¨€èªžãƒ¢ãƒ‡ãƒ«ã¾ã¨ã‚｜npaka
最近話題ã«ãªã£ãŸå¤§è¦æ¨¡è¨€èªžãƒ¢ãƒ‡ãƒ«ã‚’ã¾ã¨ã‚ã¾ã—ãŸã€‚ 1. クラウドサービス1-1. GPT-4「GPT-4ã€ã¯ã€ã€ŒOpenAIã€ã«ã‚ˆã£ã¦é–‹ç™ºã•ã‚ŒãŸå¤§è¦æ¨¡è¨€èªžãƒ¢ãƒ‡ãƒ«ã§ã™ã€‚ マルãƒãƒ¢ãƒ¼ãƒ€ãƒ«ã§ã€ãƒ†ã‚ストã¨ç”»åƒã®ãƒ—ãƒãƒ³ãƒ—トをå—ã‘入れるã“ã¨ãŒã§ãるよã†ã«ãªã‚Šã¾ã—ãŸã€‚最大トークン数ãŒ4Kã‹ã‚‰32kã«å¢—ãˆã¾ã—ãŸã€‚推論能力も飛èºçš„ã«å‘上ã—ã¦ã„ã¾ã™ã€‚ ç¾åœ¨ã€ã€ŒChatGPT Plusã€(有料版)ã§åˆ¶é™ä»˜ãã§åˆ©ç”¨ã§ãã‚‹ä»–ã€ã‚¦ã‚§ã‚¤ãƒˆãƒªã‚¹ãƒˆã®ç™»éŒ²è€…を対象ã«ã€ŒOpenAI APIã€ã§ã®åˆ©ç”¨ã‚‚開始ã—ã¦ã„ã¾ã™ã€‚
JAX/Flaxを使ã£ã¦MNISTã‚’å¦ç¿’ã•ã›ã¦ã¿ã‚‹ | TC3æ ªå¼ä¼šç¤¾ï½œGIG INNOVATED.
本記事ã¯20分程度ã§ãŠèªã¿ã„ãŸã ã‘ã¾ã™ã€‚ ã“ã‚“ã«ã¡ã¯ã€‚TC3データサイエンス部門ã®æ¢…本ã§ã™ã€‚ 普段ã¯PyTorchを使ã£ã¦ã„ã‚‹ã®ã§ã™ãŒã€æ–°ã—ã„ライブラリを触るã®ã‚‚勉強ã«ãªã‚‹ã¨æ€ã„ã¾ã™ã®ã§ã€ä»Šæ—¥ã¯æ–°é€²æ°—é‹ã®æ·±å±¤å¦ç¿’ライブラリã§ã‚ã‚‹JAX/Flaxを使ã£ã¦ã€MNISTã‚’å¦ç¿’ã•ã›ã¦ã¿ã‚ˆã†ã¨æ€ã„ã¾ã™ã€‚ ã¯ã˜ã‚㫠皆ã•ã‚“ã”å˜çŸ¥ã®é€šã‚Šã€TensorFlowã€Kerasã€PyTorch(Chainer…)ã¨è¿‘å¹´ã¯æ§˜ã€…ãªæ·±å±¤å¦ç¿’ライブラリãŒä½¿ã‚ã‚Œã¦ã„ã¾ã™ã€‚最近ã€JAXã¨ã„ã†ãƒ©ã‚¤ãƒ–ラリãŒè©±é¡Œã«ãªã£ã¦ã„ã‚‹ã‚‚ã®ã®ã€å分ã™ãŽã‚‹ãƒ©ã‚¤ãƒ–ラリãŒã‚ã‚‹ä¸ã§ãªãœJAXãŒæ–°ãŸã«å‡ºã¦ããŸã®ã§ã—ょã†ã‹ï¼Ÿï¼ˆãã—ã¦ãªãœä½¿ã†ã¹ããªã®ã‹ï¼‰ã€‚ã“ã®ç†ç”±ã«ã¯å¾Œç™ºãƒ©ã‚¤ãƒ–ラリã®å¼·ã¿ã¨ã—ã¦ã€å…ˆè¡Œãƒ©ã‚¤ãƒ–ラリã®å•é¡Œç‚¹ã‚’改良ã—ã¦ã„ã‚‹ã¨ã„ã†ç‚¹ãŒæŒ™ã’られã¾ã™ã€‚ç¾çŠ¶ä»¥ä¸‹ã®ã‚ˆã†ãªåˆ©ç‚¹ãŒæŒ™ã’られã¾ã™ XLAコンパイルã«ã‚ˆã‚‹é«˜é€Ÿæ€§ 厳密ãªä¹±æ•°ã®ç®¡ç†ã«ã‚ˆã‚‹å†ç¾æ€§ã®æ‹…ä¿
OSS 分散近似近å‚密ベクトル検索エンジンVald～導入ã¨æ´»ç”¨äº‹ä¾‹ï½ž
ãƒ¤ãƒ•ãƒ¼æ ªå¼ä¼šç¤¾ã¯ã€2023å¹´10月1æ—¥ã«LINEãƒ¤ãƒ•ãƒ¼æ ªå¼ä¼šç¤¾ã«ãªã‚Šã¾ã—ãŸã€‚LINEãƒ¤ãƒ•ãƒ¼æ ªå¼ä¼šç¤¾ã®æ–°ã—ã„ブãƒã‚°ã¯ã“ã¡ã‚‰ã§ã™ã€‚LINEヤフー Tech Blog ベクトル検索技術ã¯ã€ç”»åƒã‚„音声ãªã©ã®ã‚ªãƒ–ジェクトデータをã€æ©Ÿæ¢°å¦ç¿’モデルãªã©ã‚’利用ã—ã¦ãƒ™ã‚¯ãƒˆãƒ«ã§è¡¨ç¾ã—ã€ãƒ™ã‚¯ãƒˆãƒ«é–“ã®è·é›¢ã‚’計算ã™ã‚‹ã“ã¨ã§ã€é¡žä¼¼ã™ã‚‹ãƒ™ã‚¯ãƒˆãƒ«ã‚’検索ã™ã‚‹æ‰‹æ³•ã§ã™ã€‚ 高次元ベクトルã®é¡žä¼¼æ¤œç´¢ã§ã¯è¨ˆç®—é‡ãŒå¢—åŠ ã™ã‚‹ã“ã¨ã‹ã‚‰ã€kNN（k-Nearest Neighbor）ã§ã¯ãªãANN（Approximately Nearest Neighbor）ãŒåºƒã利用ã•ã‚Œã¦ã„ã¾ã™ã€‚検索ã§åˆ©ç”¨ã§ãるデータ形å¼ã¯ã€ãƒ™ã‚¯ãƒˆãƒ«ã¸ã®å¤‰æ›ãŒå¯èƒ½ã§ã‚ã‚Œã°ã€ãƒ†ã‚ストã€ç”»åƒã€éŸ³å£°ã€å‹•ç”»ã€ãƒã‚¤ãƒŠãƒªãªã©ã•ã¾ã–ã¾ãªãƒ‡ãƒ¼ã‚¿ã‚’利用ã§ãã¾ã™ã€‚ ベクトル検索ã¯ã€é¡žä¼¼ç”»åƒæ¤œç´¢ã¯ã‚‚ã¡ã‚ã‚“ã®ã“ã¨ã€ãƒ¬ã‚³ãƒ¡ãƒ³ãƒ‡ãƒ¼ã‚·ãƒ§ãƒ³ã‚„データ解æžã«ã‚‚利用ã§ãã¾ã™ã€‚ヤフーã§ã‚‚ã€å¾Œè¿°ã™ã‚‹ã€ŒYaho
図解Stable Diffusion
ジェイ・アラマールã®ãƒ–ãƒã‚°ã‚ˆã‚Šã€‚ AIã«ã‚ˆã‚‹ç”»åƒç”Ÿæˆã¯ã€(ç§ã‚’å«ã‚ã¦)人々ã®åº¦è‚ã‚’ã¬ã最新ã®AIã®èƒ½åŠ›ã§ã™ã€‚テã‚ストã®èª¬æ˜Žã‹ã‚‰å°è±¡çš„ãªãƒ“ジュアルを作り出ã™èƒ½åŠ›ã¯ã€é”法ã®ã‚ˆã†ãªå“質をæŒã¡ã€äººé–“ãŒã‚¢ãƒ¼ãƒˆã‚’å‰µé€ ã™ã‚‹æ–¹æ³•ã®å¤‰åŒ–を明確ã«æŒ‡ã—示ã—ã¦ã„ã¾ã™ã€‚Stable Diffusionã®ãƒªãƒªãƒ¼ã‚¹ã¯ã€é«˜æ€§èƒ½(画質ã ã‘ã§ãªãã€é€Ÿåº¦ã‚„比較的低ã„リソース/メモリè¦ä»¶ã¨ã„ã†æ„味ã§ã®æ€§èƒ½)ãªãƒ¢ãƒ‡ãƒ«ã‚’一般ã®äººã€…ã«æä¾›ã™ã‚‹ã“ã¨ã«ãªã£ãŸã®ã¯ã€ã“ã®é–‹ç™ºã«ãŠã‘る明確ãªãƒžã‚¤ãƒ«ã‚¹ãƒˆãƒ¼ãƒ³ã§ã™ã€‚ AIç”»åƒç”Ÿæˆã‚’試ã—ã¦ã¿ã¦ã€ãã®ä»•çµ„ã¿ãŒæ°—ã«ãªã‚Šå§‹ã‚ãŸæ–¹ã‚‚多ã„ã®ã§ã¯ãªã„ã§ã—ょã†ã‹ã€‚ ã“ã“ã§ã¯ã€Stable Diffusionã®ä»•çµ„ã¿ã«ã¤ã„ã¦å„ªã—ã紹介ã—ã¾ã™ã€‚ Stable Diffusionã¯ã€æ§˜ã€…ãªä½¿ã„æ–¹ãŒã§ãる汎用性ã®é«˜ã„ã‚‚ã®ã§ã™ã€‚ã¾ãšã€ãƒ†ã‚ストã®ã¿ã‹ã‚‰ã®ç”»åƒç”Ÿæˆ(text2img)ã«ç„¦ç‚¹ã‚’当ã¦ã¾ã™ã€‚上ã®ç”»åƒã¯ã€ãƒ†ã‚スト入力ã¨ç”Ÿ
Stable Diffusionã®å†…容をç†è§£ã™ã‚‹ãŸã‚ã®æƒ…å ±ãƒ»æ›¸ç± - karaage. [ã‹ã‚‰ã‚ã’]
Stable Diffusion完全ã«ç†è§£ã—㟠画åƒç”ŸæˆAIã§è©±é¡Œã®Stable Diffusionã€å®Œå…¨ã«ç†è§£ã—ãŸçŠ¶æ…‹ã«ãªã‚ŠãŸã„ã§ã™ã。ç§ã‚‚ã§ã™ã€‚夜ãªå¤œãªã€Stable Diffusionç¡çœ ä¸è¶³ã«ãªã‚ŠãªãŒã‚‰ã®è‡ªåˆ†ã®ç†è§£ã¯ä»¥ä¸‹ã§ã™ã€‚ Stable Diffusionã¨ã„ã†AIモデルã¯ã€ä¸Šè¨˜ã®ã‚ˆã†ã«ã€2ã¤ã®ãƒ¢ãƒ‡ãƒ«ã§æ§‹æˆã•ã‚Œã¦ã„ã¾ã™ã€‚凄ã„ã®ãŒDiffusion Modelã¨ã‚ˆã°ã‚Œã‚‹ã‚‚ã®ã§ã€ã“ã‚Œã¯ãƒ©ãƒ³ãƒ€ãƒ ノイズ的ãªç”»åƒã‹ã‚‰ã€ã‚¯ã‚ªãƒªãƒ†ã‚£ã®é«˜ã„絵を生æˆã™ã‚‹ã“ã¨ãŒã§ãã¾ã™ã€‚ ãŸã ã€ã“ã®ã¾ã¾ã ã¨ã©ã‚“ãªçµµãŒç”Ÿæˆã•ã‚Œã‚‹ã‹åˆ†ã‹ã‚‰ãªã„ã®ã§ã€çµµã‚’コントãƒãƒ¼ãƒ«ã™ã‚‹ãŸã‚ã«ã€ãƒ—ãƒãƒ³ãƒ—ト（自然言語）をCLIPã¨å‘¼ã°ã‚Œã‚‹Transformerã®ãƒ¢ãƒ‡ãƒ«ã«å…¥åŠ›ã—ã¦ã€åŸ‹ã‚è¾¼ã¿ãƒ™ã‚¯ãƒˆãƒ«ã«å¤‰æ›ã—ã¾ã™ã€‚ã“ã®ãƒ™ã‚¯ãƒˆãƒ«æƒ…å ±ã‚’Diffusion Modelã«å…¥ã‚Œã¦ã‚„ã‚‹ã“ã¨ã§ã€è‡ªåˆ†ã®å¥½ããªç”»åƒã‚’生æˆã™ã‚‹ã“ã¨ãŒã§ãã¾ã™ã€‚ ç„¡ç†ã‚„りカメラã¨ã®å¯¾
![Stable Diffusionã®å†…容をç†è§£ã™ã‚‹ãŸã‚ã®æƒ…å ±ãƒ»æ›¸ç± - karaage. [ã‹ã‚‰ã‚ã’]](https://cdn-ak-scissors.b.st-hatena.com/image/square/621adc324d3f307ba672d6950449c99f297e7975/height=288;version=1;width=512/https%3A%2F%2Fcdn-ak.f.st-hatena.com%2Fimages%2Ffotolife%2Fk%2Fkaraage%2F20220923%2F20220923012149.png)
AI開発ã®æ–°ãŸãªãƒ‘ラダイム「基盤モデルã€ã¨ã¯
ã•ã¦ã€è¦–覚・言語を扱ã†åŸºç›¤ãƒ¢ãƒ‡ãƒ«ã¨ã—ã¦ã¯ã€2021å¹´ã® CLIP ãŒãƒ–レイクスルーã§ã—ãŸã€‚CLIPã¯ãƒ†ã‚ストã¨ç”»åƒã‚’åŒã˜ç‰¹å¾´ç©ºé–“ã«å†™åƒã™ã‚‹2ã¤ã®ã‚¨ãƒ³ã‚³ãƒ¼ãƒ€ã‹ã‚‰ãªã‚Šã¾ã™ã€‚CLIPを使ã†ã¨ã€æ¬¡ã®ã‚ˆã†ã«ã—ã¦ä»»æ„ã®ç”»åƒåˆ†é¡žå•é¡Œã‚’è¿½åŠ ã®å¦ç¿’ãªã—ã§è§£ãã“ã¨ãŒã§ãã¾ã™ã€‚ã¾ãšã€å„å€™è£œã‚¯ãƒ©ã‚¹ã‚’æ–‡ç« ã®å½¢å¼ï¼ˆä¾‹ï¼šã€ŒçŠ¬ã®å†™çœŸã€ï¼‰ã«ã—ãŸå¾Œã€ãƒ†ã‚ストエンコーダã«å…¥åŠ›ã—ã¾ã™ã€‚次ã«ã€åˆ†é¡žã—ãŸã„ç”»åƒã‚’ç”»åƒã‚¨ãƒ³ã‚³ãƒ¼ãƒ€ã«å…¥åŠ›ã—ã¾ã™ã€‚最後ã«ã€ç”»åƒã‹ã‚‰å¾—られãŸãƒ™ã‚¯ãƒˆãƒ«ã¨å€™è£œã‚¯ãƒ©ã‚¹ãŸã¡ã‹ã‚‰å¾—られãŸè¤‡æ•°ã®ãƒ™ã‚¯ãƒˆãƒ«ã¨ã®ã‚³ã‚µã‚¤ãƒ³é¡žä¼¼åº¦ã‚’計算ã—ã€æœ€ã‚‚類似度ãŒé«˜ã„クラスを出力çµæžœã¨ã—ã¾ã™ã€‚ CLIPã«ã‚ˆã‚‹ã‚¼ãƒã‚·ãƒ§ãƒƒãƒˆç”»åƒåˆ†é¡žã®æ–¹æ³•ã€‚OpenAI Blogより引用 CLIPã¯ç”»åƒã¨ãƒ†ã‚ストã¨ã„ã†ãƒ¢ãƒ¼ãƒ‰ã®ç•°ãªã‚‹æƒ…å ±ã‚’æ„味的ãªè¿‘ã•ã«ã‚ˆã£ã¦çµã³ã¤ã‘ã‚‹ã“ã¨ã‚’å¯èƒ½ã«ã—ã¾ã—ãŸã€‚CLIPを教師ã®ã‚ˆã†ã«ã—ã¦ä½¿ã†ã“ã¨ã§ã€ãƒ†ã‚ストã‹ã‚‰ç”»åƒã‚’生æˆã™ã‚‹ãƒ¢ãƒ‡ãƒ«ã‚’訓練ã™ã‚‹
Interpretable Machine Learning
Interpretable Machine Learning A Guide for Making Black Box Models Explainable. Christoph Molnar 2021-05-31 è¦ç´„ 機械å¦ç¿’ã¯ã€è£½å“や処ç†ã€ç ”究を改善ã™ã‚‹ãŸã‚ã®å¤§ããªå¯èƒ½æ€§ã‚’秘ã‚ã¦ã„ã¾ã™ã€‚ ã—ã‹ã—ã€ã‚³ãƒ³ãƒ”ュータã¯é€šå¸¸ã€äºˆæ¸¬ã®èª¬æ˜Žã‚’ã—ã¾ã›ã‚“。ã“ã‚ŒãŒæ©Ÿæ¢°å¦ç¿’を採用ã™ã‚‹éšœå£ã¨ãªã£ã¦ã„ã¾ã™ã€‚ 本書ã¯ã€æ©Ÿæ¢°å¦ç¿’モデルやã€ãã®åˆ¤æ–を解釈å¯èƒ½ãªã‚‚ã®ã«ã™ã‚‹ã“ã¨ã«ã¤ã„ã¦æ›¸ã‹ã‚Œã¦ã„ã¾ã™ã€‚ 解釈å¯èƒ½æ€§ã¨ã¯ä½•ã‹ã‚’説明ã—ãŸå¾Œã€æ±ºå®šæœ¨ã€æ±ºå®šè¦å‰‡ã€ç·šå½¢å›žå¸°ãªã©ã®å˜ç´”ã§è§£é‡ˆå¯èƒ½ãªãƒ¢ãƒ‡ãƒ«ã«ã¤ã„ã¦å¦ã³ã¾ã™ã€‚ ãã®å¾Œã®ç« ã§ã¯ã€ç‰¹å¾´é‡ã®é‡è¦åº¦ (feature importance)ã‚„ALE(accumulated local effects)ã‚„ã€å€‹ã€…ã®äºˆæ¸¬ã‚’説明ã™ã‚‹LIMEやシャープレイ値ã®ã‚ˆã†ãªãƒ¢ãƒ‡ãƒ«ã«éžä¾å˜ãªæ‰‹æ³•(mo
ã‚ã—ã®æ€ã†ãƒªãƒƒã‚¸å›žå¸°(L2æ£å‰‡åŒ–)ã¨æ£å‰‡åŒ–法。 - Pseudo Theory of Everything
1 ã¯ã˜ã‚㫠最近ã€æˆ‘々+æ•°åã§ã‚¹ãƒ‘ースモデリングã¨ã„ã†åˆ†é‡Žã‚’勉強ã—ã¦ã„ã¾ã™ã€‚詳細ã¯ã¾ãŸåˆ¥ã®è¨˜äº‹ã«ã¦ç´¹ä»‹ã™ã‚‹ã«ã—ã¦ã€ä»Šå›žã¯ã‚¹ãƒ‘ースモデリングã®å‰æ®µéšŽã«å½“ãŸã‚‹ リッジ回帰(ridge regresion) ã«è„šå…‰ã‚’当ã¦ã¾ã™1。 èªè€…ã«ã¯é‡ˆè¿¦ã«èª¬æ³•ã‹ã‚‚ã—ã‚Œã¾ã›ã‚“ãŒã€ãƒªãƒƒã‚¸å›žå¸°ã¯ L2 æ£å‰‡åŒ–ã¨ã‚‚呼ã°ã‚Œæ©Ÿæ¢°å¦ç¿’ã®ä¸ã§ã‚‚éžå¸¸ã«ã‚¹ã‚¿ãƒ³ãƒ€ãƒ¼ãƒ‰ãªæ¦‚念ã®ä¸€ã¤ã«ãªã£ã¦ã„ã¾ã™ã€‚ã—ã‹ã—専門的ã«æ£å‰‡åŒ–法を扱ã£ã¦ã¿ã¦ã€æ¡ˆå¤–知らãªã‹ã£ãŸã“ã¨ã‚’知れãŸã®ã§ã¾ã¨ã‚ã¾ã—ãŸã€‚ ã¾ãšã€ãƒªãƒƒã‚¸å›žå¸°ã§ã®æ失関数ã¯ä»¥ä¸‹ã®ã‚ˆã†ãªå¼ã§è¨˜è¿°ã•ã‚Œã¾ã™ã€‚ \begin{align} E = (y - X \vec{w})^2 + \alpha \vec{w}^T \vec{w} \end{align} 上記ã®æ失を最å°åŒ–ã™ã‚‹ã‚ˆã†ã«ä¿‚æ•°ã®é‡ã¿ãƒ™ã‚¯ãƒˆãƒ« \(\vec{w}\) を推定ã—ã¾ã™ã€‚解æžçš„ã«ã¯ \(\vec{w}\) ã«ã¤ã„ã¦å¾®åˆ†ã‚’ã—ãŸã‚‚ã®
Understanding the backward pass through Batch Normalization Layer
Understanding the backward pass through Batch Normalization Layer At the moment there is a wonderful course running at Standford University, called CS231n - Convolutional Neural Networks for Visual Recognition, held by Andrej Karpathy, Justin Johnson and Fei-Fei Li. Fortunately all the course material is provided for free and all the lectures are recorded and uploaded on Youtube. This class gives
Rã§ã‚¹ãƒ‘ースモデリング：Elastic Net回帰ã«ã¤ã„ã¦ã¾ã¨ã‚ã¦ã¿ã‚‹ - データサイエンティスト(ä»®)
å°Žå…¥ 回帰モデル構築ã®éš›ã€æ±ŽåŒ–性能をå‘上ã•ã›ã‚‹ãŸã‚ã«æ£å‰‡åŒ–ã®æ‰‹æ³•ãŒãŸã³ãŸã³ç”¨ã„られã¾ã™ã€‚ã“ã‚Œã¯ã€è€ƒãˆã¦ã„るデータ数ã«å¯¾ã—ã¦ç‰¹å¾´é‡ã®æ•°ãŒéžå¸¸ã«å¤šã„å ´åˆã‚„ã€ç‰¹å¾´é‡é–“ã«å¼·ã„相関（多é‡å…±ç·šæ€§ï¼‰ãŒã‚ã‚‹å ´åˆã«æœ‰åŠ¹ãªæ–¹æ³•ã¨ãªã£ã¦ã„ã¾ã™ã€‚ã“ã®ã‚ˆã†ãªå ´åˆã«ã€é€šå¸¸ã®å›žå¸°ãƒ¢ãƒ‡ãƒ«æ§‹ç¯‰ã®éš›ã«ç”¨ã„られる2乗誤差ãªã©ã®ç›®çš„関数ã«åŠ ãˆã€ãƒŽãƒ«ãƒ （ã¯æ£æ•´æ•°ï¼‰ã®ã‚ˆã†ãªæ£å‰‡åŒ–é …ï¼ˆã‚‚ã—ãã¯ç½°å‰‡é …ï¼‰åŠ ãˆã¦æœ€é©åŒ–ã‚’ãŠã“ãªã†ã“ã¨ã§å…ˆç¨‹ã®å•é¡Œã‚’解消ã™ã‚‹ã“ã¨ãŒã§ãã¾ã™ã€‚ã“ã†ã„ã£ãŸæ£å‰‡åŒ–é …ã‚’åŠ ãˆãŸä¸Šã§ãƒ¢ãƒ‡ãƒ«ã®æœ€é©åŒ–ã‚’ãŠã“ãªã†ï¼ˆ = パラメータを推定ã™ã‚‹ï¼‰æ–¹æ³•ã‚’ã€æ£å‰‡åŒ–法ã¨ã„ã„ã¾ã™ã€‚ 代表的ãªæ£å‰‡åŒ–法ã«ã€Lasso, Ridge, Elastic Net回帰ãŒã‚ã‚Šã¾ã™ã€‚ã“れらã¯ã€è§£é‡ˆæ€§ã‚‚å«ã‚ãŸç‰¹å¾´ãŒã‚ã‚Šã€å¿…ãšã—も高精度ã®ã‚‚ã®ã ã‹ã‚‰ã‚ˆã„ã‚ã‘ã§ã¯ãªã„ã€ã¨ã„ã†ã®ãŒç§ã®è€ƒãˆã§ã™ã€‚ã—ã‹ã—一方ã§ã€{caret}を使ã£ã¦ã“ã®ä¸ã§æœ€ã‚‚精度ãŒã‚ˆã„ã‚‚ã®ã‚’採用ã—ã¾ã—
機械å¦ç¿’アプリケーションã«ãŠã‘るテストã«ã¤ã„㦠- Re:ゼãƒã‹ã‚‰å§‹ã‚ã‚‹ML生活
機械å¦ç¿’ç³»ã®è©±é¡ŒãŒå¤šã„昨今ã§ã™ãŒã€å®Ÿéš›è§¦ã£ã¦ã¿ã‚‹ã¨æœŸå¾…ã—ãŸç²¾åº¦ãƒ»çµæžœãŒå‡ºãªã„ãªã‚“ã¦ã“ã¨ã¯ã‚ˆãã‚ã‚‹ã“ã¨ã§ã¯ãªã„ã§ã—ょã†ã‹ã€‚ 機械å¦ç¿’特有ã®æ€§è³ªã¨ã—ã¦ã€ãƒ‡ãƒ¼ã‚¿è‡ªä½“ãŒãƒ¢ãƒ‡ãƒ«ã‚’変化ã•ã›ã€çµæžœã¨ã—ã¦æ¥å‹™ã«å½±éŸ¿ã‚’与ãˆãŸã‚Šã—ã¾ã™ã€‚ ä»®ã«ã€æ©Ÿæ¢°å¦ç¿’屋ã•ã‚“ãŒç²¾åº¦ãŒå‡ºã‚‹ãƒ¢ãƒ‡ãƒ«ã‚’構築ã—ãŸã¨è¨€ã£ã¦ã‚‚ã€ãれを導入ã™ã‚‹ã¨ãã«ã€ã‚·ã‚¹ãƒ†ãƒ 全体ã§ã®å“質ã®ç¶æŒã«è‹¦åŠ´ã—ãŸã‚Šã—ã¾ã™ã€‚ ã¨ã„ã†ã“ã¨ã§ã€ä¸ç¢ºå®Ÿæ€§ã®å¤§ãã„機械å¦ç¿’系開発ã«ã¤ã„ã¦ã®ã€è¨è¨ˆãƒ»ãƒ†ã‚¹ãƒˆæˆ¦ç•¥ã§ã©ã†ã‚„ã£ã¦ãƒªã‚¹ã‚¯ã‚’低減ã—ã¦ã„ã‘ã‚‹ã‹ãŒä¸€ã¤ã‚«ã‚®ã«ãªã£ã¦ãã‚‹ã¨æ€ã„ã€æ–¹æ³•è«–ã«ã¤ã„ã¦å‹‰å¼·ã—ã¾ã—ãŸã®ã§ã€ãã®ãƒ¡ãƒ¢ã§ã™ã€‚ éžå¸¸ã«å‚考ã«ã—ãŸã®ã¯ã“ã¡ã‚‰ã€‚ arxiv.org テストãã®ã‚‚ã®ã®ãƒ†ã‚¯ãƒ‹ãƒƒã‚¯ãªã©ã¯ã€ä¸€èˆ¬çš„ãªãƒ†ã‚¹ãƒˆé§†å‹•é–‹ç™ºã«é–¢ã™ã‚‹æ›¸ç±ã‚’åˆã‚ã›ã¦ã‚’ã”å‚考ãã ã•ã„。 テスト駆動開発 作者:Kent Beck発売日: 2017/10/14メディア: å˜è¡Œæœ¬ï¼ˆã‚½ãƒ•ãƒˆã‚«ãƒãƒ¼ï¼‰ テスト駆動P
Lex Fridman Podcast - Lex Fridman
Conversations about the nature of intelligence, consciousness, love, and power. Subscribe to Lex Fridman or Lex Clips YouTube channels. Subscribe on Apple Podcasts, Spotify, RSS. If you enjoy it, consider rating it 5 stars. Connect on Twitter, LinkedIn, Instagram, TikTok, Facebook, Reddit. The best way to support this podcast is to support the Sponsors. They're awesome! But also, there's monthly d
リリースã€éšœå®³æƒ…å ±ãªã©ã®ã‚µãƒ¼ãƒ“スã®ãŠçŸ¥ã‚‰ã›
最新ã®äººæ°—エントリーã®é…ä¿¡
j次ã®ãƒ–ックマーク
kå‰ã®ãƒ–ックマーク
lã‚ã¨ã§èªã‚€
eコメント一覧を開ã
oページを開ã
The Little Book of Deep Learning
Announcing ScaNN: Efficient Vector Similarity Search
Stable Diffusion を基礎ã‹ã‚‰ç†è§£ã—ãŸã„人å‘ã‘論文攻略ガイドã€ç„¡æ–™è¨˜äº‹ã€‘
Understanding Zero-Shot Learning — Making ML More Human
Machine Learning
https://twitter.com/mr_bay_area/status/1527079384456105984
{{#tags}}- {{label}}
{{/tags}}