Cosa significa "Attacchi di Inferenza delle Etichette"?
Indice
Gli attacchi di inferenza delle etichette succedono quando qualcuno prova a indovinare le vere etichette dei punti dati in base ad altre informazioni disponibili. Nei casi in cui i dati sono condivisi tra diverse parti, come nel Vertical Federated Learning, le etichette reali rimangono segrete. Tuttavia, un attaccante può comunque ottenere informazioni osservando le caratteristiche o i modelli dei dati.
Come Funzionano
Un attaccante può utilizzare i dettagli su come un modello è addestrato. Analizzando le informazioni restituite da un server centrale, possono stimare le etichette private, soprattutto se hanno accesso a alcune etichette note da un piccolo insieme di dati. Questo rende più facile per loro fare congetture sul resto.
Meccanismi di Difesa
Per proteggere contro questo tipo di attacchi, sono stati creati nuovi metodi. Uno di questi usa una combinazione di condivisione delle conoscenze in un modo che nasconde i dati individuali (conosciuto come Knowledge Distillation) insieme a tecniche che assicurano che un gruppo di punti dati sia abbastanza simile da proteggere la privacy (conosciuto come k-anonimato). Queste tecniche mirano a ridurre le possibilità di attacchi di inferenza delle etichette riusciti, mantenendo intatta la prestazione complessiva del modello.