AIã¨å…¬å¹³æ€§ï¼ˆå…¥é–€ç·¨ï¼‰ - Qiita
ã¯ã˜ã‚ã« ABEJAã®ã‚¢ãƒ‰ãƒ™ãƒ³ãƒˆã‚«ãƒ¬ãƒ³ãƒ€ãƒ¼ã®ç¬¬ãƒ»ãƒ»ãƒ»ä½•ç•ªç›®ã ã‚・・・？？ ABEJAã§ã¯ã€æ³•å‹™æ‹…当者をやã£ã¦ã„ã¾ã™ã€‚ å¼è·å£«ã‚’10å¹´ã»ã©ã‚„ã£ã¦ã„ã¾ã™ãŒã€ãµã¨ã—ãŸã“ã¨ã§æ©Ÿæ¢°å¦ç¿’ã®ä¸–界をやã£ã¦ã¿ãŸããªã‚Šã€ç‹¬å¦ã§ã€æ•°å¦æ›¸ã‚„PRMLã‚„é’本やカステラ本やグッドフェãƒãƒ¼å…ˆç”Ÿã®æœ¬ã‚’èªã‚“ã ã‚Šã—ã¦ã€æ•°å¦ã‚„ら機械å¦ç¿’ç†è«–やらPythonã®å‹‰å¼·ã‚’ã—ãŸã‚Šã€OJTã§å¦ã‚“ã§ã€3å¹´ã»ã©RDãƒãƒ¼ãƒ ã‚’ç«‹ã¡ä¸Šã’ã¦ã€æ©Ÿæ¢°å¦ç¿’モデルã®é–‹ç™ºãƒ»å®Ÿè£…や技術調査ã«æºã‚ã£ã¦ã„ã¾ã—ãŸã€‚今ã¯ã€æ³•å‹™é–¢ä¿‚ã®ä»•äº‹ãŒãƒ¡ã‚¤ãƒ³ã§ã™ã€‚ 今日ã®ãƒ†ãƒ¼ãƒžã¯AIã¨å…¬å¹³æ€§ã§ã™ã€‚ 色々テーマã¯ã‚ã‚‹ã®ã§ã™ãŒã€ABEJAã®ä¸ã®äººã®ã”希望ã«ã‚ˆã‚Šå…¬å¹³æ€§ã«ã—ã¾ã—ãŸã€‚ 当åˆã¯ä»–ã®ã‚¢ãƒ‰ãƒ™ãƒ³ãƒˆã‚«ãƒ¬ãƒ³ãƒ€ãƒ¼ã®è¨˜äº‹ã¿ãŸã„ã«ã€ã‚³ãƒ¼ãƒ‰ã‚’ã„ã£ã±ã„書ã„ã¦ã€ã€Œå…¬å¹³æ€§ç¢ºä¿ã®ãŸã‚ã®ã„ã‚ã„ã‚ãªè«–文を実装ã—ã¦åŠ¹æžœã‚’試ã—ã¦ã¿ãŸã€ã€Œå…¬å¹³æ€§ã«é–¢ã™ã‚‹å®šç¾©ã«ã¤ã„ã¦ç†è«–é¢ã‚’解説ã—ã¦ã¿ãŸã€ç³»ã®è¨˜äº‹ã«ã—よã†ã‹ã¨æ€ã£ã¦ã„ãŸã®
OpenAIãŒç™ºè¦‹ã—ãŸScaling Lawã®ç§˜å¯† - ディープラーニングブãƒã‚°
OpenAIã¯GPT-3ã®æ¬¡ã®ç ”究を始ã‚ã¦ã„ã¾ã™ï¼Ž 世間ãŒGPT-3ã®ãƒ‡ãƒ¢ã«æ¹§ã上ãŒã‚‹ä¸ï¼ŒOpenAIã¯Scaling Lawã«é–¢ã™ã‚‹2本ã®è«–文をã²ã£ãã‚Šã¨å…¬é–‹ã—ã¾ã—ãŸï¼Ž Scaling Lawを一言ã§èª¬æ˜Žã™ã‚‹ãªã‚‰ã€ŒTransformerã®æ€§èƒ½ã¯ãŸã£ãŸ3ã¤ã®å¤‰æ•°ã®ã¹ã乗則ã«æ”¯é…ã•ã‚Œã¦ã„ã‚‹ã€ã¨ã„ã†ã‚‚ã®ã§ã™ï¼Ž Scaling Lawã¯ãã‚Œå˜ä½“ã ã‘ãªã‚‰èˆˆå‘³æ·±ã„話ã§çµ‚ã‚ã‚‹ã‹ã‚‚ã—ã‚Œã¾ã›ã‚“．実際ã«è‹±èªžåœã§ã‚‚ã‚ã¾ã‚Šè©±é¡Œã«ã‚ãŒã£ã¦ã„ã¾ã›ã‚“．ã—ã‹ã—，ã“ã®æ³•å‰‡ã®æœ¬å½“ã®å‡„ã•ã«æ°—ã¥ã„ã¦ã„ã‚‹ç ”ç©¶è€…ã‚‚ã„ã¦ï¼Œãªãœè©±é¡Œã«ãªã‚‰ãªã„ã®ã‹å›°æƒ‘ã—ã¦ã„ã¾ã™ï¼Ž I am curious why people are not talking more about the OpenAI scaling law papers. For me, they seem very significant. What I heard so far:
リリースã€éšœå®³æƒ…å ±ãªã©ã®ã‚µãƒ¼ãƒ“スã®ãŠçŸ¥ã‚‰ã›
最新ã®äººæ°—エントリーã®é…ä¿¡
j次ã®ãƒ–ックマーク
kå‰ã®ãƒ–ックマーク
lã‚ã¨ã§èªã‚€
eコメント一覧を開ã
oページを開ã
å…¬æ£é…慮型データマイニング Fairness-aware Data Mining
{{#tags}}- {{label}}
{{/tags}}