Ciencias de la Computación FAMAF

Herramientas de usuario

Herramientas del sitio

Traza: • practico3 • teoricos • practico1 • ide • practico2_draft • practico3_draft • con_monadas • sin_monadas
materias:pln:uba2018:practico3_draft

Diferencias

Muestra las diferencias entre dos versiones de la página.

Enlace a la vista de comparación

Ambos lados, revisión anteriorRevisión previa
Próxima revisión		Revisión previa
materias:pln:uba2018:practico3_draft [2018/02/18 19:14] – francolqmaterias:pln:uba2018:practico3_draft [2025/11/15 13:47] (actual) – editor externo 127.0.0.1
Línea 1: Línea 1:
 ====== Trabajo Práctico 3 - Análisis de Sentimientos ====== ====== Trabajo Práctico 3 - Análisis de Sentimientos ======
  
-[[materias:pln|(volver a la página principal)]]+[[materias:pln:uba2018|(volver a la página principal)]]
  
-En este trabajo práctico ...+En este trabajo práctico implementaremos modelos de análisis de sentimientos y haremos algunos experimentos con ellos.
  
   * Repositorio: https://github.com/PLN-FaMAF/PLN-UBA2018.   * Repositorio: https://github.com/PLN-FaMAF/PLN-UBA2018.
-  * Fecha de entrega: 22/02 a las 23:59.+  * Fecha de entrega: 6/03 a las 23:59.
  
  
Línea 26: Línea 26:
  
  
-===== Ejercicio 1: Corpus de Sentimientos =====+===== Ejercicio 1: Corpus de Tweets: Estadísticas Básicas =====
  
 +El corpus InterTASS se compone de un conjunto de tweets en español, cada uno anotado con su polaridad general. Los valores posibles para la polaridad son los siguientes:
  
 +  * ''P'': Polaridad positiva.
 +  * ''N'': Polaridad negativa.
 +  * ''NEU'': Polaridad neutra.
 +  * ''NONE'': Sin polaridad.
  
-===== Ejercicio 2:  =====+Puede encontrar una descripción más detallada del significado de cada etiqueta en [[https://cs.famaf.unc.edu.ar/~francolq/criterios_polaridad.pdf|este documento]].
  
 +Programar un script ''stats.py'' que muestre las siguientes estadísticas básicas de la sección de entrenamiento del corpus InterTASS, y **por separado** para la sección de entrenamiento del corpus GeneralTASS:
  
 +  * Cantidad total de tweets.
 +  * Cantidad de tweets por cada valor de polaridad (''P'', ''N'', ''NEG'' y ''NONE'').
 +
 +Documentación:
 +
 +  * [[http://www.sepln.org/workshops/tass/2017/|TASS Workshop 2017]]
 +  * [[https://cs.famaf.unc.edu.ar/~francolq/criterios_polaridad.pdf|Etiquetado de polaridad]]
 +  * [[http://nbviewer.ipython.org/url/cs.famaf.unc.edu.ar/~francolq/An%C3%A1lisis%20de%20Sentimiento.ipynb|Jupyter notebook: Análisis de Sentimiento]]
 +
 +
 +===== Ejercicio 2: Mejoras al Clasificador Básico de Polaridad =====
 +
 +Implementar, en el clasificador de sentimientos, **cuatro** de las seis posibles mejoras descriptas en las siguientes subsecciones. Para cada mejora, reportar:
 +
 +  * Curvas de aprendizaje para los tres clasificadores (mnb, maxent y svm). Usar el script ''curve.py''.
 +  * Resultado de la evaluación sobre el corpus de development de InterTASS. Usar el script ''eval.py''.
 +
 +Para **una sola de las mejoras**, usando maxent, reportar además:
 +
 +  * Features más relevantes para cada sentimiento. Usar ''print_maxent_features'' del módulo ''sentiment.analysis''.
 +  * Tweet de ejemplo, con todos los features que intervienen y sus respectivos pesos para cada clase. Usar ''pprint_feature_weights_for_item''  del módulo ''sentiment.analysis''.
 +
 +
 +==== Mejor Tokenizer ====
 +
 +El tokenizer por defecto del ''CountVectorizer'' filtra toda la puntuación y los emojis. Sin embargo los emojis y algunas puntuaciones son indicadoras de sentimiento (e.g. "!" y "?"). Cambiar el tokenizer por uno que no elimine emojis y puntuación. Una opción posible es el tokenizador de NLTK.
 +
 +
 +==== Binarización de Conteos ====
 +
 +Modificar la configuración del ''CountVectorizer'' para que ignore las repeticiones de palabras.
 +
 +
 +==== Normalización Básica de Tweets ====
 +
 +Preprocesar los textos de los tweets de la siguiente manera:
 +
 +  * Eliminar menciones de usuarios.
 +  * Eliminar URLs.
 +  * Contraer repeticiones de 3 o más vocales.
 +
 +
 +==== Filtrado de stopwords ====
 +
 +Modificar el ''CountVectorizer'' para que ignore stopwords del castellano (palabras sin carga semántica como artículos, preposiciones, etc.). Una posible fuente de stopwords es NLTK.
 +
 +
 +==== Lematización o Stemming ====
 +
 +Modificar el tokenizador del ''CountVectorizer'' para que además haga stemming o lematización de las palabras. Una posibilidad es usar el Snowball stemmer que viene con NLTK.
 +
 +  * http://scikit-learn.org/stable/modules/feature_extraction.html#customizing-the-vectorizer-classes
 +  * http://www.nltk.org/api/nltk.stem.html#module-nltk.stem.snowball
 +
 +
 +==== Manejo de Negaciones ====
 +
 +Modificar el tokenizador del ''CountVectorizer'' para que además maneje negaciones.
 +Al encontrar una negación ('no', 'tampoco', etc.), deben modificarse todas las palabras hasta el siguiente signo de puntuación, agregándoles el prefijo ''NOT_''.
 +
 +Ejemplo:
 +
 +  este verano tampoco ha llegado a hacer calor, sobre todo si lo comparamos con el pasado
 +
 +debe ser reemplazado por:
 +
 +  este verano tampoco NOT_ha NOT_llegado NOT_hacer NOT_calor , sobre todo si lo comparamos con el pasado
 +
 +
 +===== Ejercicio 3: Evaluación Final =====
 +
 +  * Seleccionar, del ejercicio anterior, el clasificador que haya dado mejores resultados.
 +  * Calcular y reportar los resultados de la evaluación con el corpus de test final de InterTASS. Usar el script ''eval.py'' con la opción ''-f''.
 +
 +
 +===== Ejercicio 4 (punto bonus): Exploración de Parámetros ("Grid Search") =====
 +
 +Para los tres tipos de clasificadores, pruebe diferentes combinaciones de parámetros y evalúe sobre el corpus de development. Reporte mejor resultado y configuración para cada clasificador.
 +
 +  * [[http://scikit-learn.org/stable/modules/generated/sklearn.linear_model.LogisticRegression.html|maxent:]] Probar distintos valores para ''penalty'' y ''C''.
 +  * [[http://scikit-learn.org/stable/modules/generated/sklearn.svm.LinearSVC.html|svm:]]  Probar distintos valores para ''penalty'' y ''C''.
 +  * ...
 +
 +  * [[http://scikit-learn.org/stable/modules/grid_search.html|Tuning the hyper-parameters of an estimator (scikit-learn)]]
 +
 +
 +===== Ejercicio 5 (punto bonus): Lexicón de Sentimientos =====
 +
 +  * Obtener o elaborar un lexicón de palabras con polaridad positiva y negativa del castellano.
 +  * Programar dos features que calculen la cantidad de ocurrencias de palabras positivas y negativas en cada tweet.
 +  * Agregar estos nuevos features al pipeline (se puede usar FeatureUnion).
 +  * Entrenar, evaluar y analizar los resultados.
 +
 +
 +Documentación:
 +
 +  * Posibles fuentes de lexicones:
 +    * [[http://habla.dc.uba.ar/gravano/sdal.php?lang=esp|Spanish DAL: Diccionario de Afectos en Español (Agustín Gravano et al.)]]
 +    * [[http://web.eecs.umich.edu/~mihalcea/downloads.html#SPANISH_SENT_LEXICONS|Sentiment Lexicons in Spanish (Veronica Perez Rosas et al.)]]
 +  * [[http://scikit-learn.org/stable/modules/generated/sklearn.pipeline.FeatureUnion.html|FeatureUnion (scikit-learn)]]
 +
 +
 +/*
 +===== Ejercicio 5 (punto bonus): Ensamble de Clasificadores =====
 +*/
materias/pln/uba2018/practico3_draft.1518992047.txt.gz · Última modificación: (editor externo)