Analizzare i modelli di visione con strumenti linguistici

Le reti neurali profonde (DNN) sono strumenti utili in tanti ambiti, soprattutto nella gestione delle immagini. Però, controllare se queste reti funzionano correttamente è difficile. Questa sfida nasce principalmente dal fatto che è complicato descrivere in modo chiaro cosa vogliamo che facciano queste reti, soprattutto per i compiti visivi. Inoltre, queste reti sono complesse e difficili da comprendere, dato che non possiamo vedere come prendono decisioni.

Per affrontare questi problemi, i ricercatori hanno cominciato a usare nuovi modelli chiamati modelli vision-linguaggio (VLM) per analizzare le DNN basate sulla visione. I VLM sono addestrati su grandi collezioni di immagini e le loro descrizioni in parole. Questo significa che possono riconoscere e capire concetti di alto livello che si riferiscono alle immagini. Usando i VLM, possiamo esprimere le nostre aspettative in un modo più facile da capire sia per gli esseri umani che per le macchine.

#L'Approccio

Il nostro metodo prevede due componenti principali: il modello visivo che vogliamo controllare e il VLM che ci aiuta ad analizzarlo. Il modello visivo su cui ci concentriamo è un classificatore di immagini, che prende immagini in input e prevede le loro classi. Ha due parti: un codificatore, che trasforma i dati delle immagini a basso livello (tipo valori dei pixel) in rappresentazioni di livello superiore, e una testa che prende decisioni in base a quelle rappresentazioni.

Dall'altra parte, il VLM usa due codificatori, uno per le immagini e un altro per il testo, per mappare entrambi i tipi di input in uno spazio di rappresentazione condiviso. Questo ci permette di confrontare direttamente immagini e testo, usando metodi come la Somiglianza Coseno per valutare quanto bene si abbinano.

Abbiamo sviluppato un linguaggio per scrivere specifiche basato su concetti comprensibili agli esseri umani. Ad esempio, se vogliamo che un modello faccia distinzione tra un gatto, un cane, un uccello, una macchina e un camion, potremmo usare concetti come "metallico", "orecchie" e "ruote". Questa specifica funzionale aiuta gli esperti ad esprimere chiaramente cosa si aspettano dal modello.

Una delle idee chiave nel nostro linguaggio di specifica è il predicato di forza. Questo predicato mostra la relazione tra due concetti per classi date. Ad esempio, se l'output è "camion", ci aspettiamo che il modello si concentri di più su "metallico" e "ruote" piuttosto che su "orecchie".

#Controllo delle Specifiche

Per controllare se un'immagine soddisfa proprietà specifiche, possiamo trasformare quel compito in un controllo di somiglianza tra la rappresentazione dell'immagine e le combinazioni di predicati codificati nello spazio testuale. Questo ci consente di effettuare la verifica utilizzando lo spazio condiviso del VLM, rendendola una soluzione scalabile.

Dimostriamo le nostre tecniche su un classificatore di immagini specifico addestrato su un dataset chiamato RIVAL-10, usando il modello CLIP come VLM. RIVAL-10 è un dataset più piccolo preso dal più grande dataset ImageNet, contenente dieci classi con ricchi attributi visivi.

#Classificatori di Reti Neurali

Un classificatore di rete neurale è una funzione che prende un input (spesso rappresentato come vettori ad alta dimensione) e produce un'etichetta di classe. Il processo di classificazione fornisce punteggi per ogni classe, con la classe che ha il punteggio più alto selezionata come output del modello.

In generale, i classificatori neurali consistono di due parti principali: un codificatore, che aiuta ad estrarre caratteristiche dall'input, e una testa, che fa la classificazione finale. Ad esempio, in una rete neurale convoluzionale, il codificatore consiste in strati convoluzionali che estraggono caratteristiche, mentre la testa può consistere in strati completamente connessi che derivano predizioni di classe.

#Somiglianza Coseno

La somiglianza coseno è un metodo usato per misurare quanto siano simili due vettori. Data una coppia di vettori, varia da -1 (esattamente opposti) a 1 (esattamente uguali), con 0 che significa che non sono correlati. Questa metrica ci permette di quantificare quanto diversi siano i concetti o le rappresentazioni.

#Modelli Vision-Linguaggio

I VLM, come CLIP, combinano l'elaborazione di immagini e testo. Sono addestrati su vasti dataset contenenti coppie di immagini e relative didascalie. Per qualsiasi immagine di input, un VLM può determinare quale didascalia descrive meglio l'immagine, basandosi sulla loro somiglianza nello spazio di rappresentazione condiviso.

Attraverso la classificazione zero-shot, i VLM possono classificare immagini senza aspettarsi istanze di addestramento specifiche. Confrontando le rappresentazioni delle immagini con un insieme di descrizioni di classe, il VLM può identificare la classe più correlata all'immagine.

#Linguaggio di Specifica

Abbiamo sviluppato un linguaggio di specifica di primo ordine che permette agli sviluppatori di creare specifiche sui classificatori neurali. Questo linguaggio supporta l'espressione di predicati che sono facili da comprendere per gli esseri umani.

Il linguaggio di specifica include variabili, nomi di concetti e etichette di classificazione. Gli sviluppatori possono scrivere condizioni che esprimono come alcuni concetti si relazionano tra loro all'interno dell'output del modello. Questo rende possibile automatizzare il processo di verifica.

Ad esempio, supponiamo di avere un classificatore per le classi di gatto, cane, uccello, macchina e camion. Possiamo definire i concetti associati a queste classi, permettendoci di esprimere vincoli logici riguardanti le predizioni delle classi basate su questi concetti.

#Rappresentazione dei Concetti

Per analizzare le reti neurali, dobbiamo indagare le rappresentazioni concettuali che apprendono. Questo implica mappare le immagini di input a rappresentazioni concettuali significative usando il VLM. Il VLM può fornire spunti sulla forza di diversi concetti in relazione alle classi previste.

Utilizzando metodi recenti, possiamo creare una mappatura tra gli spazi di rappresentazione del modello visivo e il VLM. Questa connessione ci consente di controllare proprietà specifiche del modello visivo rispetto alle proprietà del linguaggio naturale descritte dal VLM.

#Costruire la Mappa

Per allineare gli spazi di rappresentazione del modello visivo e del VLM, apprendiamo una trasformazione affine che collega i due. Questa mappatura ci aiuta ad assicurarci di confrontare effettivamente le stesse rappresentazioni tra i due modelli.

La mappatura appresa è ottimale se minimizza la differenza tra i due spazi di rappresentazione, permettendoci di validare ulteriormente i risultati.

#Processo di Verifica

Una volta stabilita la mappatura tra i due modelli, possiamo eseguire un processo di verifica. La verifica mira a identificare se le caratteristiche (specifiche) che abbiamo impostato sono soddisfatte dal modello visivo.

Il processo è efficiente perché ci consente di ridurre il compito di verifica a controllare proprietà nello spazio di rappresentazione del VLM, piuttosto che tentare di verificare il modello visivo direttamente, cosa che potrebbe essere costosa in termini computazionali.

#Studio di Caso

Nel nostro studio di caso, abbiamo applicato il nostro metodo utilizzando un modello ResNet18 sul dataset RIVAL10 con il VLM CLIP. Questo dataset è composto da immagini e etichette con attributi, il che ci consente di raccogliere concetti rilevanti e creare predicati per la verifica.

Utilizzando gli attributi forniti nel dataset RIVAL10, selezioniamo concetti per ogni classe. Ad esempio, per "camion", potremmo includere concetti come "metallico", "ruote" e diversi altri. Questo fornisce un framework per convalidare efficacemente le predizioni del modello.

#Validazione Statistica

Per assicurarci che le nostre mappature e predicati siano validi, abbiamo condotto validazioni statistiche. Utilizzando il dataset di test RIVAL10, abbiamo verificato se i predicati di forza che abbiamo formulato erano veri per vari input di immagini.

Misurando le probabilità di soddisfacimento per i nostri predicati, abbiamo valutato se le predizioni del modello visivo si allineavano con le caratteristiche attese basate sulle immagini di input. Alte probabilità di soddisfacimento indicavano che le nostre rappresentazioni concettuali erano affidabili.

#Risultati della Validazione

I nostri risultati di validazione hanno prodotto forti evidenze che le rappresentazioni concettuali ottenute utilizzando il VLM erano di alta qualità. Quando abbiamo testato i predicati di forza, la maggior parte ha tenuto, indicando che il VLM ha catturato efficacemente i concetti rilevanti per i compiti di classificazione.

Inoltre, abbiamo anche osservato casi in cui gli spazi di rappresentazione non erano perfettamente allineati, rivelando aree di potenziale misclassificazione o incongruenza tra i modelli. Questo evidenzia la necessità di un continuo affinamento e miglioramento sia dei modelli che delle nostre specifiche.

#Verifica del Modello Visivo

Abbiamo ampliato i nostri sforzi di verifica per includere l'analisi del modello ResNet18 stesso. Definendo regioni di input all'interno dello spazio di embedding, abbiamo potuto controllare se le nostre specifiche erano veritiere.

Questo processo di verifica ci consente di determinare se il modello ha fatto predizioni accurate basate sui concetti rilevanti che abbiamo identificato. Il nostro focus era su predicati di forza statisticamente significativi per massimizzare la validità dei nostri risultati.

#Conclusione

In sintesi, sfruttando i modelli vision-linguaggio, abbiamo sviluppato un mezzo efficace per analizzare e verificare reti neurali profonde basate sulla visione. Il nostro approccio sottolinea l'importanza di specifiche chiare e comprensibili, mentre utilizziamo le capacità dei VLM per migliorare il processo di verifica.

In futuro, intendiamo affinare ulteriormente le nostre metodologie, esplorando modelli multimodali e le loro applicazioni in scenari del mondo reale. Vogliamo anche affrontare sfide di lunga data, come distinguere tra dati in distribuzione e fuori distribuzione, per assicurarci che i nostri modelli funzionino in modo affidabile in situazioni critiche per la sicurezza.

Questa ricerca rappresenta un passo verso il colmare il divario tra sistemi AI complessi e concetti comprensibili dagli esseri umani, rendendo possibile per gli esperti validare e avere fiducia in questi sistemi in applicazioni critiche.