Améliorer le codage médical automatisé avec explicabilité

Les dossiers de santé électroniques (DSE) jouent un rôle crucial pour garantir la sécurité des patients en documentant les conditions médicales, les plans de traitement et les procédures. Ces dossiers incluent à la fois du texte non structuré et des codes médicaux structurés. L'utilisation de modèles linguistiques a vraiment amélioré la gestion des dossiers de santé, rendant les processus plus efficaces et réduisant le besoin d'entrée manuelle de données. Ça entraîne des économies significatives pour les fournisseurs de soins de santé.

Malgré ces avancées, de nombreux pros de la santé restent sceptiques quant à la confiance à accorder à ces modèles à cause de leur nature complexe. Les méthodes actuelles qui expliquent les décisions prises par ces modèles dépendent souvent d'annotations créées par des humains, ce qui peut être coûteux et prendre du temps. Ça limite la praticité de ces méthodes dans des applications réelles. Dans cette étude, on présente une nouvelle méthode pour générer des explications qui sont à la fois réalistes et fiables sans avoir besoin de ces annotations coûteuses.

#L'Importance de l'Explicabilité en Santé

Quand les pros de la santé accueillent des patients, ils doivent passer par une documentation exhaustive dans les DSE pour attribuer les bons codes médicaux. Ces codes sont essentiels pour diverses fonctions, comme le suivi des statistiques, la documentation des soins et la facturation. Cependant, le processus de codage peut être fastidieux, impliquant la révision de milliers de mots et plus de 140 000 codes possibles. Ça rend la tâche non seulement chronophage, mais aussi sujette à des erreurs.

Les systèmes de codage médical automatisé utilisant l'apprentissage machine sont conçus pour alléger ce fardeau en suggérant des codes médicaux basés sur de la documentation écrite libre. Cependant, quand les pros de la santé examinent ces suggestions, ils doivent toujours localiser des preuves pertinentes dans les dossiers. Ce processus peut être lent et épuisant, surtout quand il s'agit de traiter de gros volumes d'informations et de nombreux codes. Donc, fournir des explications claires pour ces suggestions devient crucial.

#Types d'Explications

Une méthode courante pour fournir des explications est à travers des attributions de caractéristiques. Les attributions de caractéristiques attribuent des scores à chaque caractéristique d'entrée en fonction de leur influence sur la sortie du modèle. Deux aspects cruciaux sont considérés lors de l'évaluation de ces explications : la Plausibilité et la fidélité. La plausibilité fait référence à la capacité de l'explication à convaincre les utilisateurs, tandis que la fidélité renvoie à la manière dont une explication reflète fidèlement le raisonnement réel du modèle.

De nombreuses études existantes sur le codage médical automatisé se concentrent principalement sur des méthodes d'attribution de caractéristiques basées sur l'attention. Cependant, elles ne comparent souvent pas ces méthodes avec d'autres alternatives. Certaines variations, y compris des méthodes adaptées à des architectures spécifiques, ont été proposées, mais elles n'ont pas montré d'améliorations significatives par rapport aux approches basées sur l'attention.

#Notre Approche

Dans notre étude, notre objectif est de produire des explications qui égalent la qualité des méthodes supervisées actuelles, mais sans avoir besoin d'annotations de portée de preuves. Pour y parvenir, nous mettons en œuvre des stratégies qui renforcent la résilience du modèle contre les caractéristiques non pertinentes et présentons AttInGrad, une nouvelle méthode d'explication qui fournit des résultats plus fidèles. En combinant ces éléments dans un contexte non supervisé, nous visons à générer des explications d'égale ou meilleure qualité que celles produites par des méthodes supervisées.

#Travaux Connus

#Explicabilité dans le Codage Médical Automatisé

Le codage médical automatisé implique de prédire un ensemble de codes médicaux à partir d'un document donné. L'objectif principal du codage explicable est de générer des scores qui quantifient à quel point chaque token d'entrée influence la prédiction. La plupart des études précédentes se sont appuyées uniquement sur des poids d'attention sans explorer d'autres méthodes disponibles.

Quelques études ont proposé des alternatives, mais elles ne réalisent souvent pas d'évaluations comparatives. De plus, les efforts existants pour améliorer la plausibilité à travers des évaluations humaines ou des métriques de chevauchement de portée de preuves n'ont pas suffisamment traité la fidélité des explications.

#Robustesse Adversariale et Explicabilité

La robustesse adversariale fait référence à la capacité d'un modèle à maintenir ses performances face à des attaques qui apportent de légers changements aux données d'entrée. Des recherches ont montré que les modèles robustes aux attaques adversariales peuvent produire des explications plus convaincantes. Diverses stratégies d'entraînement existent pour améliorer la robustesse, y compris la régularisation de gradient d'entrée, l'entraînement adversarial et le masquage de caractéristiques. Bien que des travaux antérieurs aient mis en avant l'efficacité de ces stratégies dans la classification d'images, l'exploration est limitée dans le traitement du langage naturel.

#Méthodologie

#Stratégies d'Entraînement Adversarial

Nous avons employé trois stratégies d'entraînement adversarial pour réduire la dépendance aux tokens non pertinents dans notre modèle de codage médical :

1. Régularisation de Gradient d'Entrée (RGE) : Cela implique de garder le gradient de la sortie du modèle par rapport à l'entrée petit, encourageant le modèle à se concentrer sur les caractéristiques pertinentes.
2. Descente de Gradient Projeté (DGP) : Cette méthode entraîne le modèle en utilisant des exemples adversariaux, favorisant la résilience contre les tokens non pertinents.
3. Masquage de Tokens (MT) : Cette stratégie apprend au modèle à prédire des résultats en utilisant un minimum de features, l'incitant ainsi à ignorer les tokens inutiles.

#Méthodes d'Attribution de Caractéristiques

Nous avons évalué plusieurs méthodes d'attribution de caractéristiques, les classant en trois types : basées sur l'attention, basées sur le gradient et basées sur la perturbation. Les méthodes basées sur l'attention dérivent généralement des scores à partir des poids d'attention du modèle. Les méthodes basées sur le gradient utilisent la rétropropagation pour évaluer l'influence des caractéristiques, tandis que les méthodes basées sur la perturbation mesurent les changements de sortie lorsque les caractéristiques d'entrée sont occultées.

Notre principal objectif était d'améliorer les limites des méthodes existantes en proposant AttInGrad, qui combine des caractéristiques des méthodes basées sur l'attention et sur le gradient pour améliorer la qualité des explications.

#Configuration Expérimentale

Nous avons utilisé le dataset MIMIC-III en accès libre, qui se compose de résumés de sorties annotés avec des codes médicaux. Nous avons également utilisé le dataset MDACE, qui ajoute des portées de preuves pour indiquer des justifications textuelles pour chaque code. Nos expériences se sont concentrées exclusivement sur les résumés de sorties, car des études précédentes ont principalement ciblé ce dataset.

Le cœur de nos expériences impliquait l'architecture de notre modèle, PLM-ICD, qui est reconnue pour sa conception simple et ses performances supérieures. Pour garantir la stabilité, nous avons apporté certaines modifications au modèle, nous permettant d'optimiser l'entraînement et d'améliorer la sortie.

#Métriques d'Évaluation

Nous avons mesuré la qualité des explications à l'aide de métriques qui évaluent la plausibilité et la fidélité. Pour la plausibilité, nous avons examiné le chevauchement entre les explications et les portées de preuves. Pour la fidélité, nous nous sommes concentrés sur deux métriques spécifiques : la Suffisance et la Exhaustivité. Un score de Suffisance élevé suggère que de nombreuses caractéristiques de faible importance impactent significativement la sortie du modèle, tandis qu'un score d'Exhaustivité élevé indique que des caractéristiques de haute importance influencent fortement le modèle.

#Résultats

#Comparaison avec les Méthodes Supervisées

Nos résultats démontrent que notre méthode produit des explications considérablement plus plausibles que celles générées par des approches non supervisées. En termes de scores F1, notre méthode rivalise avec les stratégies supervisées obtenues grâce à des annotations coûteuses. De plus, notre approche a donné les scores d'exhaustivité les plus élevés avec les scores de suffisance les plus bas.

#Rôle de la Robustesse Adversariale

Nous avons constaté que les modèles entraînés avec des mécanismes de robustesse adversariale, en particulier RGE et MT, produisaient des explications plus convaincantes que les modèles de base. En revanche, le modèle supervisé a montré de meilleures performances avec des explications basées sur l'attention mais a été moins performant lorsque des méthodes basées sur le gradient ont été employées.

#Performance d'AttInGrad

AttInGrad a systématiquement surpassé d'autres méthodes d'attribution sur toutes les métriques et stratégies d'entraînement. Les améliorations en plausibilité étaient particulièrement notables, et AttInGrad a également montré un meilleur profil de fidélité que les méthodes d'attention traditionnelles.

#Discussion

#Le Défi des Annotations de Portée de Preuves

Nos résultats soulèvent des questions sur la nécessité des annotations de portée de preuves. Bien que ces annotations soient supposées améliorer les performances du modèle, nos résultats suggèrent qu'elles ne contribuent pas de manière significative à l'amélioration de la logique fondamentale du modèle. Notre méthode a atteint des résultats comparables à l'entraînement supervisé sans nécessiter ces annotations.

#Directions de Recherche Futures

Nous plaidons pour une exploration plus poussée des stratégies d'entraînement qui alignent le raisonnement du modèle avec la compréhension humaine. Les futures études devraient se concentrer sur l'amélioration de la fidélité des méthodes d'attribution de caractéristiques tout en veillant à ce que les explications du modèle restent pratiques et pertinentes dans des contextes de santé.

#Conclusion

En résumé, nous avons développé une méthode pour générer des explications dans le codage médical automatisé qui ne repose pas sur des annotations. Notre approche, fondée sur la robustesse adversariale et la nouvelle méthode AttInGrad, démontre le potentiel de produire des explications d'une qualité comparable à celles générées par des méthodes supervisées. Ces avancées pourraient conduire à des systèmes de codage automatisés plus fiables et efficaces, améliorant finalement les soins et la sécurité des patients.

#Considérations Éthiques

Alors que les coûts de santé augmentent dans le monde, les dépenses administratives jouent un rôle significatif. Nos méthodes proposées visent à réduire ces coûts en simplifiant le processus de révision des suggestions de codes médicaux. Cependant, nous soulignons l'importance de veiller à ce que les explications des modèles restent fidèles pour éviter les erreurs de classification qui pourraient compromettre la sécurité des patients.

De plus, nous avons veillé à ce que toutes les données utilisées dans notre étude soient anonymisées et stockées en toute sécurité, en conformité avec les normes éthiques concernant la confidentialité des patients.

#Détails sur l'Architecture du Modèle

L'infrastructure derrière nos expériences, connue sous le nom de PLM-CA, combine un encodeur et un décodeur pour transformer les indices de tokens d'entrée en représentations contextualisées. L'architecture présente un design simple qui permet un entraînement plus stable tout en surpassant d'autres modèles sur des métriques clés.

#Résultats Supplémentaires

Le corps principal de nos résultats n'englobe pas tous les résultats en raison de limitations d'espace. Cependant, nous avons fourni des perspectives sur la manière dont les stratégies d'entraînement à la robustesse adversariale ne compromettent pas les performances de prédiction. En outre, nous avons abordé diverses méthodes d'attribution de caractéristiques et leurs métriques de performance respectives, en soulignant les nuances dans la qualité des explications.

#Conclusion

Notre recherche souligne le potentiel de comprendre et d'améliorer efficacement les systèmes de codage automatisé dans le domaine de la santé. Les informations tirées de ce travail ouvrent la voie à de futures explorations, garantissant que les explications générées mènent à de meilleures décisions éclairées dans les milieux de santé. Avec des avancées continues, nous pouvons continuer à améliorer la qualité et la fiabilité des systèmes de codage médical automatisé pour de meilleurs résultats pour les patients.