OLGA: Un Nuovo Metodo per l'Apprendimento One-Class nei Grafi

L'Apprendimento a una classe (OCL) si concentra su problemi dove ci interessa solo una categoria o classe di cose. Ad esempio, se vogliamo trovare solo email spam, usiamo solo le email di cui sappiamo che sono spam per addestrare il nostro sistema. L'obiettivo dell'OCL è identificare istanze che appartengono a quella categoria ignorando tutto il resto. Comunemente, si usano tecniche per creare un confine, spesso chiamato ipersfera, attorno agli esempi che abbiamo da quella categoria. L'idea è che vogliamo che il nostro modello riconosca nuovi elementi che rientrano in questo confine come parte della categoria e qualsiasi cosa al di fuori come non parte di essa.

I grafi sono strutture utili per rappresentare molti problemi che incontriamo nel mondo reale. Sono composti da nodi e archi, dove i nodi simboleggiano oggetti e gli archi denotano le connessioni tra quegli oggetti. Questa struttura è significativa in aree come i social media, i sistemi di raccomandazione o lo studio delle reti biologiche. Usando i grafi, possiamo analizzare le relazioni meglio perché possiamo vedere come tutto è connesso.

Ci sono vari compiti dove possiamo usare i grafi per la classificazione, specialmente quando ci interessa solo un gruppo specifico all'interno dei dati. Ad esempio, possiamo usare i grafi per identificare notizie false, prevedere canzoni popolari, rilevare frodi o individuare attività insolite nei dati. Il vantaggio dell'OCL in questi casi è che richiede meno campioni per l'addestramento e può funzionare meglio anche quando le istanze della categoria "non interessante" sono rare.

Tuttavia, ci sono ancora significative lacune nella ricerca riguardante l'OCL quando applicato ai dati Grafici. I metodi tradizionali possono essere divisi in due approcci principali: metodi in due fasi e metodi end-to-end. Nei metodi in due fasi, il processo è suddiviso in due parti, dove prima creiamo rappresentazioni del grafo usando tecniche non supervisionate e poi categorizziamo i nodi usando OCL. Anche se questo può essere efficace, le rappresentazioni fatte non sempre funzionano bene con il passo di classificazione successivo perché non sono progettate specificamente per l'OCL.

I metodi end-to-end sono più recenti e apprendono a rappresentare e classificare allo stesso tempo, il che può migliorare l'efficacia complessiva. Tuttavia, la maggior parte di questi metodi affronta anche limitazioni, come la mancanza di vincoli su come viene creata l'ipersfera o problemi con la comprensione e l'interpretazione dei risultati.

#Il Metodo Proposto: OLGA

Per affrontare queste lacune, introduciamo OLGA, un metodo end-to-end per classificare i nodi nei grafi focalizzato sull'OCL. OLGA è progettato per apprendere rappresentazioni dei nodi dei grafi mentre identifica anche quali appartengono alla categoria di interesse.

OLGA funziona combinando due tipi di funzioni di perdita. La prima aiuta il modello a ricreare la struttura originale del grafo, assicurando che connessioni e relazioni siano preservate. La seconda è una nuova funzione di perdita che proponiamo, focalizzata sul garantire che le istanze della categoria di interesse rimangano vicine al centro dell'ipersfera.

L'apprendimento in OLGA stabilizza il processo così le istanze ritenute rilevanti possono essere incluse efficacemente, anche se sono non etichettate. Questo approccio duale consente al modello di apprendere contemporaneamente da più compiti, migliorando le prestazioni complessive nella classificazione delle istanze di interesse.

#Come Funziona OLGA

In OLGA, prima generiamo una rappresentazione dei nodi del grafo, che è essenziale per catturare gli aspetti strutturali del grafo. Il modello segue un percorso simile a come funzionano gli autoencoder grafici, consentendo una ricostruzione delle connessioni del grafo per mantenere informazioni essenziali.

#Compiti

In OLGA, definiamo tre compiti principali per il processo di apprendimento:

1. Compito di Classificazione: Questo compito riguarda la determinazione se un nodo appartiene alla categoria di interesse o meno.
2. Ricostruzione di Nodi Etichettati: Questo compito mira a ricreare la struttura per i nodi etichettati di cui sappiamo.
3. Ricostruzione di Nodi Non Etichettati: Questo compito si concentra sulla stessa cosa per i nodi per i quali non abbiamo ancora etichette.

Facendo questo, OLGA può costruire un sistema robusto capace di identificare quali nodi rientrano nella nostra categoria di interesse basandosi su rappresentazioni apprese.

#Funzioni di Perdita

Le funzioni di perdita guidano il nostro processo di apprendimento. La perdita di ricostruzione assicura che i nodi siano correttamente rappresentati mentre la nuova perdita dell'ipersfera spinge le istanze all'interno della sfera più vicino al centro. Questo aiuta a mantenere il focus sulla categoria di interesse e rende il processo di apprendimento efficace.

#Valutazione di OLGA

Per garantire l'efficacia di OLGA, abbiamo valutato le sue prestazioni rispetto ad altri metodi usando diversi dataset che coprono diversi tipi di dati, come dati testuali, immagini e dati tabulari. L'obiettivo era dimostrare che OLGA supera altri metodi all'avanguardia nel determinare quali nodi appartengono alla categoria di interesse.

#Dataset

Abbiamo usato dataset a una classe raccolti da varie fonti che includevano:

• Dataset Testuali: Questi includevano dati sulla rilevazione di notizie false e classificazione di eventi.
• Dataset Immagini: Avevamo raccolte di immagini di cibo e immagini mediche, ad esempio, rilevazione della polmonite.
• Dataset Tabulari: Sono stati usati dati riguardanti proprietà molecolari e rilevazione di malware.

Questo ci ha permesso di testare OLGA in vari domini e tipi di dati, garantendo ampia applicabilità.

#Impostazione Sperimentale

Nei nostri esperimenti, abbiamo generato rappresentazioni grafiche usando metodi come DeepWalk e Node2Vec, e poi abbiamo usato algoritmi OCL per classificare i nodi basandoci su queste rappresentazioni. Abbiamo confrontato le prestazioni di OLGA sia con metodi tradizionali in due fasi che con tecniche end-to-end.

Abbiamo effettuato una forma di cross-validation adatta per l'apprendimento a una classe, in cui abbiamo garantito che solo le istanze della nostra categoria di interesse fossero segregate per l'addestramento e il test. Questo approccio realistico simula come l'OCL spesso funziona nella pratica.

#Risultati

I risultati hanno dimostrato che OLGA ha frequentemente superato altri metodi. Ha ottenuto risultati migliori nella classificazione in molti dataset, specialmente nelle categorie testuali e tabulari. OLGA ha mostrato la capacità di mantenere le prestazioni di classificazione anche lavorando con rappresentazioni a bassa dimensione, il che ha anche permesso un'interpretazione e una visualizzazione più facile.

In scenari in cui OLGA non era il miglior performer, ha comunque mantenuto risultati competitivi, suggerendo il suo potenziale in diverse applicazioni. Le rappresentazioni visive create da OLGA sono state preziose per capire quanto bene funzionasse il modello, mostrando distinte separazioni tra istanze di interesse e non interesse.

#Conclusione

Abbiamo introdotto OLGA, un nuovo approccio per l'apprendimento a una classe nel contesto dei dati grafici. Combinando diverse funzioni di perdita e utilizzando l'apprendimento end-to-end, OLGA impara efficacemente rappresentazioni e classifica nodi nei grafi. I nostri esperimenti confermano che OLGA funziona bene in vari domini rimanendo interpretabile e capace di visualizzare i suoi risultati.

La capacità di lavorare con dati a bassa dimensione migliora ulteriormente l'utilità di OLGA, rendendolo una scelta flessibile per applicazioni nel mondo reale dove capire i dati e fare classificazioni accurate è cruciale.

Il lavoro futuro continuerà a esplorare ulteriori modifiche a OLGA, mirando a migliorare la sua robustezza e applicabilità anche a situazioni di dati più varie. Sviluppare migliori tecniche di interpretazione sarà anche una priorità, rendendo più facile per gli utenti comprendere come OLGA arriva alle sue decisioni.