Přejít k obsahu


Latent Tree Language Model

Citace:
BRYCHCÍN, T. Latent Tree Language Model. In International Conference on Empirical Methods in Natural Language Processing (EMNLP 2016). New York: The Association for Computational Linguistics, 2016. s. 436-446. ISBN: 978-1-945626-25-8
Druh: STAŤ VE SBORNÍKU
Jazyk publikace: eng
Anglický název: Latent Tree Language Model
Rok vydání: 2016
Místo konání: New York
Název zdroje: The Association for Computational Linguistics
Autoři: Ing. Tomáš Brychcín Ph.D. ,
Abstrakt CZ: V tomto článku představujeme jazykový model založený na latentních stromech (LTLM), nový přístup pro jazykové modelování, který modeluje syntax a sémantiku dané věty jako strom slovních rolí. Učící fáze iterativně upravuje stromy pomocí přesunů uzlů na základě Gibbs samplingu. Představujeme dva algoritmy pro odvození stromu dané věty. První je založen na Gibbs samplingu. Je rychlý, ale negarantuje nalezení nejpravděpodobnějšího stromu. Druhý je založený na dynamickém programování. Je pomalejší, ale garantuje nalezení nejpravděpodobnějšího stromu. V článku provádíme porovnání obou algoritmů. Kombinujeme LTLM se 4-gramovým modifikovaným Kneser-Ney vyhlazováním pomocí lineární interpolace. Naše experimenty s anglickým a českým korpusem ukazují výrazné snížení perplexity (až 46% pro angličtinu a až 49% pro češtinu) při porovnání se samostatným 4-gramovým modifikovaným Kneser-Ney jazykovým modelem.
Abstrakt EN: In this paper we introduce Latent Tree Language Model (LTLM), a novel approach to language modeling that encodes syntax and semantics of a given sentence as a tree of word roles. The learning phase iteratively updates the trees by moving nodes according to Gibbs sampling. We introduce two algorithms to infer a tree for a given sentence. The first one is based on Gibbs sampling. It is fast, but does not guarantee to find the most probable tree. The second one is based on dynamic programming. It is slower, but guarantees to find the most probable tree. We provide comparison of both algorithms. We combine LTLM with 4-gram Modified Kneser-Ney language model via linear interpolation. Our experiments with English and Czech corpora show significant perplexity reductions (up to 46% for English and 49% for Czech) compared with standalone 4-gram Modified Kneser-Ney language model.
Klíčová slova

Zpět

Patička