Přejít k obsahu


Automatic lemmatizer construction with focus on OOV words lemmatization

Citace: [] KANIS, J., MÜLLER, L. Automatic lemmatizer construction with focus on OOV words lemmatization. Lecture Notes in Artificial Intelligence, 2005, roč. 3658, s. 132-139. ISSN: 0302-9743
Druh: ČLÁNEK
Jazyk publikace: eng
Anglický název: Automatic lemmatizer construction with focus on OOV words lemmatization
Rok vydání: 2005
Místo konání: Berlin
Název zdroje: Springer
Autoři: Jakub Kanis , Luděk Müller
Abstrakt CZ: Tento článek se zabývá automatickou konstrukcí lematizátoru z Plný tvar - Lema trénovacího slovníku a lematizací nových, v trénovacím slovníku neviděných, tj. OOV slov. Jsou představeny tři metody pro lematizaci tří různých typů OOV slov (chybějící plné tvary, složená a neznámá slova). Tyto metody byly testovány pro češtinu a nejlepší výsledek dosažený jejich kombinací je precision: 99.3 % a recall: 75.1 %. Dále je také představen bezslovníkový lematizátor založený na metodě pro lematizaci neznámých slov (lematizace pomocí vzorů).
Abstrakt EN: This paper deals with the automatic construction of a lemmatizer from a Full Form - Lemma (FFL) training dictionary and with lemmatization of new, in the FFL dictionary unseen, i.e. out-of-vocabulary (OOV) words. Three methods of lemmatization of three kinds of OOV words (missing full forms, unknown words, and compound words) are introduced. These methods were tested on Czech test data. The best result (recall: 99.3 % and precision: 75.1 %) has been achieved by a combination of these methods. The lexicon-free lemmatizer based on the method of lemmatization of unknown words (lemmatization patterns method) is introduced too.
Klíčová slova

Zpět

Patička