Book: Statistical Machine Translation
Philipp Koehn Hardcover, 488 pages Publisher: Cambridge University Press ISBN-10: 0521874157 ISBN-13: 978-0521874151 Content (more slides will be added over the next weeks) Chapter 1: Introduction Chapter 2: Words, Sentences, Corpora Chapter 3: Probability Theory Chapter 4: Word-Based Models slides Chapter 5: Phrase-Based Models slides Chapter 6: Decoding slides Chapter 7: Language Models slides C
[NLP][機械å¦ç¿’] 言語モデル覚ãˆæ›¸ã - tsubosakaã®æ—¥è¨˜
ã“ã®æ–‡ç« ã«ã¤ã„㦠最近言語モデル方é¢ã«ã‚‚å°‘ã—興味ãŒã‚ã‚‹ã®ã§è‡ªåˆ†ã®çŸ¥è˜ã‚’æ•´ç†ã™ã‚‹æ„味ã§æ›¸ã„ã¦ã¿ãŸã€‚NLPã¯å°‚é–€ã§ã¯ãªã„ã®ã§ã€ãŠã‹ã—ãªã“ã¨ã‚’書ã„ã¦ã‚ã‚‹å¯èƒ½æ€§ãŒã‚ã‚Šã¾ã™ãŒãã®å ´åˆã¯ã”指摘ãã ã•ã„。 æœ¬æ–‡ç« ã§ã¯n-gramモデルã€å˜èªžã®å‡ºç¾ç¢ºçŽ‡ãŒn-1個å‰ã®å˜èªžã®ã¿ã«ä¾å˜ã™ã‚‹ãƒ¢ãƒ‡ãƒ«ã‚’考ãˆã‚‹ã€‚ å•é¡Œ who is * ã¨ã„ã†æ–‡ãŒä¸Žãˆã‚‰ã‚ŒãŸã¨ãã«*ã«ãã‚‹æ–‡å—ã®ç¢ºçŽ‡ã‚’求ã‚ã‚‹ã“ã¨ã‚’考ãˆã‚‹ã€‚ã“ã®å ´åˆã ã¨*ã«ã¯ä¾‹ãˆã°heãŒå½“ã¦ã¯ã¾ã‚‹ã‹ã‚‚ã—ã‚Œãªã„ãŒ, isãŒå…¥ã‚‹ã“ã¨ã¯ã¾ãšãªã•ãã†ã«æ€ãˆã‚‹ã€‚ã“ã®ã“ã¨ã¯æ–‡æ³•çš„ã«ã‚‚説明ãŒã§ãã‚‹ã¨æ€ã†ãŒã€æ–‡æ³•ã®ãƒ«ãƒ¼ãƒ«ã‚’作るã®ã¯å¤§å¤‰ã ã—ã€æ–‡æ³•çš„ã«æ£ã—ã„å˜èªžã®ä¸ã§ã©ã‚ŒãŒå‡ºã‚„ã™ã„ã‹ã¨ã„ã†ã“ã¨ã¯ã§ããªã„。 一方ã§æ©Ÿæ¢°å¦ç¿’を使ã£ãŸè¨€èªžãƒ¢ãƒ‡ãƒ«ã®æ–‡è„ˆã§ã¯æ–‡æ³•çš„知è˜ã‚’余りæŒãŸãšã€ä¸Žãˆã‚‰ã‚ŒãŸã‚³ãƒ¼ãƒ‘スã‹ã‚‰è‡ªå‹•çš„ã«å‡ºã‚„ã™ã„å˜èªž/表ç¾ã‚’å¦ç¿’ã™ã‚‹æ–¹é‡ã‚’ã¨ã‚‹ã€‚ 最尤推定 一番簡å˜ãªãƒ¢ãƒ‡ãƒ«ã¨ã—ã¦ã¯æœ€å°¤æŽ¨å®šã‚’使ã†ã‚‚ã®
![[NLP][機械å¦ç¿’] 言語モデル覚ãˆæ›¸ã - tsubosakaã®æ—¥è¨˜](https://cdn-ak-scissors.b.st-hatena.com/image/square/fd5873fc29a8487ca585cedd187a3197a9282658/height=288;version=1;width=512/https%3A%2F%2Fogimage.blog.st-hatena.com%2F17680117127124028144%2F17680117127124030005%2F1557332435)
人間ã®è¨€èªžç¿’å¾—ã¯ãƒ«ãƒ¼ãƒ«ã®å¦ç¿’ã§ã¯ãªã丸覚ãˆï¼Ÿ - æ¦è”µé‡Žæ—¥è¨˜
natural language processing blog ã«Non-parametric as memorizing, in exactly the wrong way?ã¨ã„ã†ãƒã‚¹ãƒˆãŒã‚ã£ãŸã€‚言語モデリングã¯ã“ã“æ•°å¹´ã§ã ã„ã¶ç ”究ãŒé€²å±•ã—ãŸã¨ã“ã‚ã§ã€ãƒ‡ã‚£ãƒªã‚¯ãƒ¬éŽç¨‹ã¨ã‹ãªã‚“ã ã¨ã‹ã€æ•°ç†çš„ã«ç²¾ç·»ãªãƒ¢ãƒ‡ãƒ«ãŒ(計算機ã®é«˜åº¦åŒ–も相ã¾ã£ã¦)ç™»å ´ã—ã¦ãã¦ã€ã„ã‚ã„ã‚分ã‹ã£ã¦ãã¦ã„るホットãªåˆ†é‡Žã§ã‚る。 最近 PPM ã«ã¤ã„ã¦èª¿ã¹ãŸãŒã€daiti-m ã•ã‚“ã®ã€ŒPPM, 言語モデル, Burrows-Wheeler Transformã€ã¨ã‚ã¨ã€ŒPPMã¨è¨€èªžãƒ¢ãƒ‡ãƒ« (2)ã€ã„ã†ãƒã‚¹ãƒˆã‚’改ã‚ã¦èªã‚“ã§ã¿ã¦ã€ã‚ˆã†ã‚„ã分ã‹ã£ã¦ããŸæ°—ãŒã™ã‚‹ã€‚ Google 日本語 N グラムã¿ãŸã巨大ãªãƒ‡ãƒ¼ã‚¿ã‚’使ã£ã¦ã„ã‚‹ã¨ã€ã‚¹ãƒ ージングãªã«ãれ？　ã¨è¨€ã£ã¦ã„ã¦ã‚‚ã„ã„ãらã„(機械翻訳ã§ã‚‚ Google 1T gram を用ã„ãŸç ”究ã§
自然言語処ç†ã®å®šç•ªã®æ•™ç§‘書ã¾ã¨ã‚ - æ¦è”µé‡Žæ—¥è¨˜
自然言語処ç†ã‚„機械å¦ç¿’ã§ã„ãã¤ã‹æ–°ã—ã„教科書的ãªã‚‚ã®ãŒç™»å ´ã—ã¦ããŸã®ã§ã€ã¾ã¨ã‚ã¦ã¿ã‚ˆã†ã¨æ€ã†ã€‚ 教科書ã«ã¤ã„ã¦ã€‚Introduction to Information Retrieval Introduction to Information Retrieval 作者: Christopher D. Manning,Prabhakar Raghavan,Hinrich Schuetze出版社/メーカー: Cambridge University Press発売日: 2008/07/07メディア: ãƒãƒ¼ãƒ‰ã‚«ãƒãƒ¼è³¼å…¥: 7人 クリック: 115回ã“ã®å•†å“ã‚’å«ã‚€ãƒ–ãƒã‚° (37件) を見るã®ç¿»è¨³ãŒé€²ã‚“ã§ã„ã‚‹(ã‚ã¨ã“ã‚Œã‚’ç ”ç©¶å®¤ã®è¼ªèªã«ä½¿ã£ã¦ã„ãŸã‚Šã™ã‚‹)ã¨ã„ã†è©±ã‚’èžã„ãŸã‚Šã™ã‚‹ã®ã ãŒã€ã‚„ã£ã±ã‚ŠçŸ¥è˜ã¨ã—ã¦çŸ¥ã£ã¦ãŠãã¹ã本ã¨ã„ã†ã®ã¨ã€ãã“ã‹ã‚‰è¶…ãˆã¦ã„ã本ã¨ã„ã†ã®ã¯é•ã†ã‚‚ã®ã§ã‚ã£ã¦ã€ã©ã‚Œã ã‘ç ”ç©¶ãŒé€²ã‚“ã§ã‚‚ã€åˆ†
講義å(自然言語処ç†ã«é–¢é€£ã™ã‚‹è¬›ç¾©è³‡æ–™ã¸ã®ãƒªãƒ³ã‚¯)
自然言語処ç†ã«é–¢é€£ã™ã‚‹è¬›ç¾©è³‡æ–™ã¸ã®ãƒªãƒ³ã‚¯ ãŠé¡˜ã„: ã“ã®ãƒªã‚¹ãƒˆã«è¿½åŠ ã™ã¹ãページをã”å˜çŸ¥ã®æ–¹ã¯ã€nlp_portal ã‚ã£ã¨ nlp.kuee.kyoto-u.ac.jpã¾ã§ã”連絡下ã•ã„。 講義å: 自然言語処ç†è«– 大å¦: 北陸先端科å¦æŠ€è¡“大å¦é™¢å¤§å¦ ã‚ーワード: ã‚ªãƒ¼ãƒˆãƒžãƒˆãƒ³ï¼Œæ–‡è„ˆè‡ªç”±æ–‡æ³•ï¼Œå½¢æ…‹ç´ è§£æžï¼Œæ§‹æ–‡è§£æžï¼Œæƒ…å ±æ¤œç´¢ï¼Œæ©Ÿæ¢°ç¿»è¨³ ファイル形å¼: pdf URL: http://www.jaist.ac.jp/~kshirai/lec/i223/index.html (スライド) 講義å: è¨€èªžæƒ…å ±ç§‘å¦ å¤§å¦: æ±äº¬å¤§å¦ ã‚ーワード: å½¢æ…‹ç´ è§£æžï¼Œæƒ…å ±æŠ½å‡ºï¼Œè‡ªå‹•è¦ç´„ï¼Œæ©Ÿæ¢°ç¿»è¨³ï¼Œæƒ…å ±æ¤œç´¢ ファイル形å¼: ppt URL: http://www.r.dl.itc.u-tokyo.ac.jp/~nakagawa/suri-GJK/syllabus.html (スライド)
PFI seminar 2010/05/27 統計的機械翻訳
8. 統計的機械翻訳(SMT: Statistical Machine translation)パラレルコーパスを用ã„ã¦ç¿»è¨³ãƒ«ãƒ¼ãƒ«ã‚’ç²å¾—c.f. ãƒã‚¼ãƒƒã‚¿ã‚¹ãƒˆãƒ¼ãƒ³è¨€èªžã®å°‚門家ãŒã„ãªãã¦ã‚‚よã„（国家的ãªç†ç”±ã‚‚）高å“質・大é‡ã®ãƒ‘ラレルコーパスã¯å›½é€£ãƒ»EUã®å›½éš›ä¼šè°ã®è°äº‹éŒ²ãªã©ã§å¤§é‡ã«å…¥æ‰‹å¯LDC, Acquis, OPUS, Communautaire, …例：Europarlã®å ´åˆ 11言語毎ã«4000万å˜èªžè¨€èªžã®ã‚¹ã‚±ãƒ¼ãƒ©ãƒ“リティãŒé«˜ã„コーパスã•ãˆã‚ã‚Œã°è‰¯ã„ c.f .Google 50言語間 9. 統計的機械翻訳ã®æ´å² (1/2)～1980 用例ベース機械翻訳1989 IBMResearchã«ã‚ˆã‚‹è‘—åãªè«–æ–‡NLPæ¥ç•Œã§ã®å¼•ç”¨æ•°ç¬¬2ä½ (ç´„1000件）翻訳システムã®ãƒ‘ラメータをパラレルコーパスã‹ã‚‰è‡ªå‹•æŽ¨å®šã™ã‚‹ç°¡å˜ãªæ‰‹æ³•ã‹ã‚‰é †ã« IBMモデル1 - 5ãŒã‚ã‚‹æ案者自身らã¯é‡‘èžæ¥ç•Œã¸ã¨åŽ»ã£ã¦ã„ã£
Machine translation - Wikipedia
Machine translation is use of computational techniques to translate text or speech from one language to another, including the contextual, idiomatic and pragmatic nuances of both languages. Early approaches were mostly rule-based or statistical. These methods have since been superseded by neural machine translation[1] and large language models.[2] The origins of machine translation can be traced b
1
メンテナンス
ãŠçŸ¥ã‚‰ã›
障害
リリースã€éšœå®³æƒ…å ±ãªã©ã®ã‚µãƒ¼ãƒ“スã®ãŠçŸ¥ã‚‰ã›
最新ã®äººæ°—エントリーã®é…ä¿¡
j次ã®ãƒ–ックマーク
kå‰ã®ãƒ–ックマーク
lã‚ã¨ã§èªã‚€
eコメント一覧を開ã
oページを開ã
機械翻訳技術ã®ã‚¤ãƒŽãƒ™ãƒ¼ã‚·ãƒ§ãƒ³
{{#tags}}- {{label}}
{{/tags}}