Entendiendo el Deep Learning en Imágenes Médicas

En los últimos años, el aprendizaje profundo ha demostrado un gran potencial para predecir resultados a partir de imágenes médicas. Por ejemplo, se ha utilizado para pronosticar si el cáncer de cabeza y cuello se va a metastatizar según las tomografías computarizadas. Sin embargo, muchas personas tienen dificultades para confiar en estos modelos porque a menudo no explican cómo toman sus decisiones.

#El Desafío de la Confianza

Los modelos de aprendizaje profundo a menudo se ven como "cajas negras". Esto significa que, aunque pueden ser muy precisos, no está claro cómo llegan a sus predicciones. Como resultado, los doctores y profesionales médicos pueden dudar en usar estos modelos en la práctica. Para abordar este problema, los investigadores han propuesto varias maneras de hacer que estos modelos sean más comprensibles.

#Enfoques Existentes

Una forma común de arrojar luz sobre los modelos de aprendizaje profundo es a través de mapas de saliencia. Estos mapas destacan qué partes de una imagen está enfocando el modelo al tomar una decisión. Pero aunque muestran dónde está mirando el modelo, no revelan la información real que está utilizando.

Otro enfoque implica crear Árboles de Decisión, que son más fáciles de entender para los humanos. Sin embargo, los árboles de decisión pueden no captar los patrones complejos que los modelos de aprendizaje profundo pueden aprender. Por último, métodos como LIME intentan simplificar los modelos al aproximar cómo funcionan en un área local. Pero estos métodos a menudo ignoran la naturaleza no lineal del aprendizaje profundo.

#Un Nuevo Método: Flujo de Gradiente de Características

Este artículo presenta una nueva técnica llamada flujo de gradiente de características. Se enfoca en entender las características importantes que utilizan los modelos de aprendizaje profundo de una manera más detallada e interpretable. El objetivo es evaluar qué tan bien el modelo se apoya en características que los humanos pueden entender fácilmente.

#Geometría de Manifold Fibroso

Comenzamos describiendo cómo un clasificador, o modelo, organiza los datos de entrada en diferentes dimensiones. Al observar cómo el modelo toma decisiones, podemos identificar qué características son relevantes y cuáles ignora.

En este contexto, el modelo se ve como una colección de secciones y fibras. Las secciones representan las dimensiones donde el modelo distingue entre diferentes clases, mientras que las fibras indican las dimensiones donde la decisión del modelo se mantiene constante.

Al intentar entender las decisiones de un modelo, es importante mirar las dimensiones de las secciones. Estas secciones son donde el modelo diferencia entre varios tipos de entrada, mientras que las dimensiones de las fibras no son tan relevantes para sus decisiones.

#Midiendo la Alineación con Características Interpretabes

A continuación, medimos qué tan bien el modelo utiliza características interpretables al examinar cómo sus secciones se alinean con el flujo de gradiente del modelo. Si tenemos un clasificador binario y una única característica interpretable, podemos evaluar qué tan similares son las dimensiones donde tanto el modelo como la característica cambian.

Para hacer esto, calculamos el ángulo entre los gradientes del modelo y la característica. Al promediar esta alineación a través de múltiples puntos de datos, podemos obtener una imagen más clara de cuánto se apoya el modelo en características interpretables frente al ruido.

#Evaluando Múltiples Características

Más allá de características individuales, también podemos evaluar cómo un clasificador depende de múltiples características. El objetivo es aproximar las predicciones del modelo utilizando solo las características interpretables. Sin embargo, esperamos que las predicciones no coincidan perfectamente, ya que los modelos de aprendizaje profundo pueden manejar interacciones complejas que características más simples pueden no captar.

En lugar de optimizar por predicciones perfectas, minimizamos las diferencias en los gradientes, lo que nos da información sobre qué tan bien el clasificador utiliza las características elegidas.

#Seguimiento del Flujo de Gradientes hasta el Límite de Decisión

Mientras examinar la alineación en un solo punto proporciona algunas ideas, puede no capturar completamente el comportamiento del modelo. Para obtener una imagen más completa, observamos cómo los gradientes de características interpretables se alinean con los del modelo a lo largo de un camino hacia el límite de decisión.

Comenzamos desde un punto de datos y seguimos el gradiente del modelo hasta que alcanzamos su límite de decisión. Al medir la alineación de los gradientes a lo largo de este camino, podemos evaluar mejor cómo las características interpretables influyen en las decisiones del modelo.

#Fomentando la Interpretabilidad Durante el Entrenamiento

Con nuestra medida de alineación, podemos promover la interpretabilidad del modelo durante el entrenamiento. Incluimos un término en la función de pérdida que recompensa las alineaciones con características interpretables elegidas. Este término ayuda al modelo a aprender a centrarse más en características que son más fáciles de entender para los humanos.

#Conjunto de Datos y Métodos

Nuestras evaluaciones utilizan un conjunto de datos de tomografías computarizadas de pacientes con tumores en la cabeza y el cuello. El objetivo es predecir si estos tumores van a metastatizar, lo cual es una tarea desequilibrada ya que hay significativamente menos casos positivos.

Diseñamos una red neuronal con múltiples capas para procesar las tomografías. Cada capa ayuda al modelo a aprender patrones importantes en los datos. El modelo se entrenó con una selección de imágenes donde las áreas tumorales son más grandes, enmascarando las regiones fuera de los tumores.

Para mejorar el rendimiento, también augmentamos el conjunto de datos alterando ligeramente las imágenes a través de rotaciones y traducciones. Esto ayuda al modelo a generalizar mejor a datos no vistos.

#Resultados: Alineación Punto a Punto

Una vez que medimos la interpretabilidad de nuestro modelo, lo comparamos con una característica generada aleatoriamente. Aunque los puntajes iniciales pueden parecer bajos, son significativos en comparación con características aleatorias. Las pruebas estadísticas confirmaron que nuestras características interpretables eran mucho mejores que las aleatorias.

#Resultados: Alineación del Flujo de Gradientes

También evaluamos cómo se desempeñó nuestro modelo en términos de alineación del flujo de gradientes. Similar a nuestros hallazgos anteriores, vimos que las características interpretables mostraron una mayor alineación que las características aleatorias. Los puntajes generales fueron ligeramente más altos para la combinación de las tres características, sugiriendo que usar múltiples características juntas puede aumentar la interpretabilidad.

#Conclusión

En resumen, hemos presentado un método novedoso para evaluar cómo los modelos de aprendizaje profundo utilizan características interpretables. Al usar la alineación de gradientes a lo largo del proceso de toma de decisiones del modelo, proporcionamos nuevas ideas sobre cómo operan estos modelos complejos.

Aunque nuestros puntajes de alineación pueden parecer pequeños, representan una conexión significativa sobre cómo las características importantes influyen en las decisiones del modelo. Sin embargo, nuestro método depende del usuario para ingresar características de interés, lo que puede limitar su efectividad si el modelo se basa en características inesperadas.

#Normas Éticas

Esta investigación se realizó utilizando datos de acceso abierto de estudios previos. No se necesitó aprobación ética ya que los datos se hicieron públicamente disponibles para la investigación.