Seminario de investigación - Bayesian Methods in Deep Learning

Las redes neuronales son una clase de modelo que ha ganado mucha popularidad recientemente debido a su flexibilidad y escalabilidad con cantidades masivas de datos y computación. Desafortunadamente, el uso de Máxima Verosimilitud para hallar los parámetros de estos modelos los hace vulnerables al sobreajuste y hace que produzcan medidas de incertidumbre, o barras de error, poco robustas. Como consecuencia, las redes neuronales suelen actual erráticamente cuando son enfrentadas con problemas muy distintos a los vistos durante su entrenamiento. 


Adoptar una perspectiva probabílistica permite sustituir los parámetros de las redes neuronales por distribuciones de probabilidad. En las redes neuronales Bayesianas, la incertidumbre sobre los parámetros se traslada a las predicciones. Esto permite generar medidas de incertidumbre robustas, prevenir el sobreajuste, detectar muestras con características nuevas y equilibrar la exploración con la explotación en escenarios de aprendizaje activo. 

 

Ponente: Javier Antorán

20/09/2019 a la 11:00 en el Seminario del Departamento

 

Brief bio:

Javier Antorán es estudiante de doctorado en Machine Learning en la Universidad de Cambridge bajo la supervisión de José Miguel Hernández Lobato. Javier colabora con Microsoft Research Cambridge a través de un Cambridge Industrial CASE award y con el Broad Institute of MIT and Harvard en el desarrollo de modelos de variables latentes para datos biomédicos. Sus principales intereses de investigación se centran en modelado probabilístico, representation learning y teoría de la información.

Javier es graduado en ingeniería de telecomunicaciones (premio extraordinario) por la Universidad de Zaragoza y Master en Machine Learning por la Universidad de Cambridge. Durante su grado en la Universidad de Zaragoza, Javier fue presidente de la rama de estudiantes del IEEE, realizó practicas en el Laboratorio de Gráficos de la Universidad de Zaragoza y en el Centro Europeo para la Investigación Nuclear (CERN). Javier es co-fundador de la empresa de data science: zzdatalabs.