Aprendizaje automático interpretable:

Las continuas mejoras en la precisión predictiva de los modelos de aprendizaje automático han permitido generalizar su aplicación práctica. Sin embargo, la necesidad de interpretabilidad es cada vez más importante. Esta presentación presenta las necesidades, métodos y retos del aprendizaje automático interpretable. Repasamos algunos de los métodos más adoptados, como LIME, SHAP y las explicaciones contrafactuales, y hablamos de herramientas de análisis visual interactivo que también pueden utilizarse para aumentar la interpretabilidad, como ViCE («Explicaciones visuales contrafactuales»). También discutimos algunos de los retos en el área, particularmente las recientes técnicas adversariales que pueden desorientar a los métodos de explicación basados en perturbaciones.