僅ã‹2.3GBã§æ—¥æœ¬èªžå¯èƒ½ãªè¶…高性能ãƒãƒ¼ã‚«ãƒ«LLMã®Phi-3 MINIã‚’llama.cppã¨CPUã§å‹•ã‹ã—ã¦ã¿ãŸã€‚スマホã§ã‚‚å¯ã€‚従æ¥ã®ã‚³ãƒ³ãƒ‘クトLLMã¨æ¯”較ã—ã¦è¶…越ã—ãŸæ€§èƒ½ã§æœªæ¥ã‚’æ„Ÿã˜ã•ã›ã‚‹MicroSoft寄付ã‚ã‚ŠãŒã¨ã†
Kapper@Linuxガジェヲタ＆異世界å°èª¬å®¶ï¼†ç”ŸæˆAI＆電å工作大好ã @kapper1224 昨日MicroSoftã‹ã‚‰ãƒªãƒªãƒ¼ã‚¹ã—ãŸãƒãƒ¼ã‚«ãƒ«LLMモデルã®Phi-3 mini 4k Q4ã‚’llama.cppã®ã‚µãƒ¼ãƒç‰ˆã‚’å‹•ã‹ã—ã¦ã¿ãŸã€‚ã“ã„ã¤2.32GBã—ã‹ãªã„ãã›ã«æ—¥æœ¬èªžã—ゃã¹ã‚Œã‚‹ãžã€‚今ã¾ã§ã¨ã¯æ¡é•ã„ã®æ€§èƒ½ãªã‚“ã§ã™ã‘ã©ãƒ»ãƒ»ãƒ» ./build/bin/server -m ../Phi-3-mini-4k-instruct-q4.gguf -n 128 huggingface.co/microsoft/Phi-… pic.twitter.com/DTmUmeh7JE
Sentencepiece : ニューラル言語処ç†å‘ã‘トークナイザ - Qiita
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? å°‘ã—時間ãŒçµŒã£ã¦ã—ã¾ã„ã¾ã—ãŸãŒã€Sentencepiceã¨ã„ã†ãƒ‹ãƒ¥ãƒ¼ãƒ©ãƒ«è¨€èªžå‡¦ç†å‘ã‘ã®ãƒˆãƒ¼ã‚¯ãƒŠã‚¤ã‚¶ãƒ»è„±ãƒˆãƒ¼ã‚¯ãƒŠã‚¤ã‚¶ã‚’公開ã—ã¾ã—ãŸã€‚MeCabã‚„KyTeaã¨ã„ã£ãŸå˜èªžåˆ†å‰²ã‚½ãƒ•ãƒˆã‚¦ã‚¨ã‚¢ã¨ã¯è¶£æ—¨ã‚„目的ãŒç•°ãªã‚‹ã‚½ãƒ•ãƒˆã‚¦ã‚§ã‚¢ã§ã™ã®ã§ã€å°‘ã—ä¸å¯§ã«Sentencepieceã®èƒŒæ™¯ã€å¿œç”¨ã€å®Ÿé¨“çµæžœç‰ã‚’ãŠè©±ã—ãŸã„ã¨æ€ã„ã¾ã™ã€‚ サブワード ニューラル言語処ç†ã®ä¸å¿ƒã¨ãªã‚‹è¦ç´ 技術ã«LSTM (RNN)ãŒã‚ã‚Šã¾ã™ã€‚テã‚スト(トークン列)を低次元ã®ãƒ™ã‚¯ãƒˆãƒ«ã«ç¬¦å·åŒ–ã—ãŸã‚Šã€ãƒ™ã‚¯ãƒˆãƒ«ã‹ã‚‰ãƒ†ã‚ストを復å·åŒ–ã—ãŸã‚Šã€ãã®å¿œç”¨ç¯„囲ã¯å¤šå²ã«ã‚ãŸã‚Šã¾ã™ã€‚ニューラル機械翻訳 (N
1
リリースã€éšœå®³æƒ…å ±ãªã©ã®ã‚µãƒ¼ãƒ“スã®ãŠçŸ¥ã‚‰ã›
最新ã®äººæ°—エントリーã®é…ä¿¡
j次ã®ãƒ–ックマーク
kå‰ã®ãƒ–ックマーク
lã‚ã¨ã§èªã‚€
eコメント一覧を開ã
oページを開ã
{{#tags}}- {{label}}
{{/tags}}