- Inicio
- Atrás
|
Título: |
Knowledge-poor approach to constructing word frequency lists, with examples from romance languages |
Autores: |
Alexandrov, Mikhail Blanco Escoda, Xavier Gelbukh Khan, Alexander Felixovitch Makagonov, Pavel |
Fecha: |
2007-09-03 2007-09-03 2004-09 |
Publicador: |
RUA Docencia |
Fuente: |
|
Tipo: |
info:eu-repo/semantics/article |
Tema: |
Stemming Indexación Métodos independientes de lenguaje Métodos estadísticos Indexing Language-independent methods Statistical methods |
Descripción: |
Las listas de palabras con sus frecuencias se usan ampliamente en muchos procedimientos de agrupamiento y categorización de textos. Usualmente para la compilación de tales listas se usan las aproximaciones basadas en morfología (como el stemmer de Porter) para unir las palabras con el mismo significado. Desafortunadamente, tales aproximaciones requieren de muchos recursos lingüísticos dependientes de lenguaje cuando se trabaja con datos multilingües y colecciones multitemáticas de documentos. En este artículo se proponen dos procedimientos basados en formulas empíricas de similitud entre palabras. Un simple ajuste de los parámetros de las fórmulas permita su adecuación a diferentes lenguajes europeos. Se demuestra la aplicación de las fórmulas con ejemplos reales del francés, italiano, portugués y español. Word frequency lists extracted from documents are widely used in many procedures
of text clustering and categorization. Usually for compilation of such lists morphological-based approaches (such as the Porter stemmer) to join the words having the
same base meaning are used. However such an approach needs many language-dependent
linguistic resources or knowledge when working with multilingual data and multithematic
document collections. We suggest two procedures based on empirical formulae
of word similarity. Simple adjustment of the parameters of the formulae allows tuning
them to different European languages. We demonstrate the application of our formulae on
real examples from French, Italian, Portuguese, and Spanish. The work was done under partial support of
Mexican Government (CONACyT, SNI, CGPIIPN). |
Idioma: |
Inglés |