Descripción
El proyecto AI4Drought investiga un conjunto de métodos para diseñar y desarrollar un sistema fiable de predicciones de la sequía, a partir de datos climatológicos y geofísicos, a diferentes escalas espacio-temporales. Dentro del proyecto, se están desarrollando un conjunto de métodos para la explicabilidad de redes neuronales. Estos métodos tienen la ventaja de estar aplicables a redes neuronales haciendo predicciones en cualquier otra tarea (y no solo predicción de la sequía).
Arquitectura
El módulo de explicabilidad consiste en una herramienta web donde se pueden proporcionar el conjunto de datos de entrenamiento y/o el modelo entrenado, escoger un método de explicabilidad y obtener varios productos de explicabilidad (importancia de variables, mapas de saliencia, entradas ideales etc.) en formato numérico, tal que visual. Los métodos de explicabilidad que están disponibles son:
- DeepSHAP
- Layerwise Relevance Propagation
- SmoothGrad
- Backward Input Optimisation
Resultados
- Herramienta web para obtener explicaciones del funcionamiento de una red neuronal entrenada con un conjunto de datos
- Poster presentado a la conferencia Big Data from Space 2023
Uso
Explicabilidad de cualquier red neuronal profunda.
Web
Más información en https://www.ai4drought.com/
Documentación