Ciberseguridad para modelos de analítica de datos

El desarrollo de software y el despliegue de modelos matemáticos en infraestructuras tecnológicas requiere incorporar en sus procesos mecanismos que garanticen la integridad, disponibilidad y confidencialidad de la información, es decir, las políticas y las herramientas de ciberseguridad necesarias para que un sistema sea seguro frente agentes maliciosos.

En este articulo mencionamos una aproximación del aprendizaje seguro que permite incorporar elementos en el ciclo de vida de la analítica de datos que permiten a los modelos ser más robustos contra datos adversarios. Como menciona [1], existen dos métodos para este proceso:

  1. Defensa RONI (Reject On Negative Impact), una medida que permite estudiar la agregación y la eliminación de datos que tengan un impacto sustancial en los resultados del modelo.
  2. Aprendizaje robusto, mejorar las capacidades del modelo a partir de ambientes adversarios.

En Quantil hemos explorado la aplicación de modelos generativos y aprendizaje adversario (por ejemplo, el uso de redes adversarias antagónicas) en distintos proyectos, consiguiendo excelentes resultados en nuevos modelos y un mejor entendimiento de la función generativa de los datos.

Una aproximación realizada por [2][3] demuestra, a través de experimentos precisos, la aplicación de adversarial machine learning y reinforcement learning para mejorar la robustez de modelos de predicción de software malicioso en dispositivos móviles con Android.

Los invitamos a revisar la presentación de Christian Urcuqui (director de TI – Quantil) y el ingeniero Jhoan Sebastian Delgado (estudiante de maestría ciencia de datos – Universidad ICESI) donde se exponen los resultados acerca de aprendizaje de seguro en Android [4].

Referencias

[1] Barreno, M., Nelson, B., Sears, R., Joseph, A. D., & Tygar, J. D. (2006, March). Can machine learning be secure?. In Proceedings of the 2006 ACM Symposium on Information, computer and communications security (pp. 16-25).

[2] Urcuqui, C. Aprendizaje Seguro. BSides Colombia 2019.

[3] Urcuqui, C. Data is the answer. Comsoc LATAM 2020. Via https://www.researchgate.net/profile/Christian-Urcuqui-Lopez/publication/345392406_Los_datos_son_la_respuesta/links/5fa5a144458515157bf40aad/Los-datos-son-la-respuesta.pdf

[4] Delgado, J., Urcuqui, C. Secure Learning and Adversarial Machine Learning. Seminarios Quantil. Via https://www.youtube.com/watch?v=kh4mLBLLK8k

HOJA DE VIDA DEMOS