Come le onde retiniche plasmano l'elaborazione visiva
I segnali retinici precoci migliorano il modo in cui rileviamo il movimento nelle esperienze visive.
― 7 leggere min
Indice
- Il Ruolo delle Onde Retiniche nello Sviluppo Visivo
- Onde Retiniche e Reti Neurali Artificiali
- Pre-addestramento con Onde Retiniche
- Prevedere il Movimento nelle Scene Naturali
- Risultati del Pre-addestramento
- L'Importanza della Direzionalità nelle Onde Retiniche
- Raffinare i Campi Ricettivi delle Reti Neurali
- Conclusione
- Fonte originale
- Link di riferimento
Il nostro sistema visivo si sviluppa attraverso un processo che inizia anche prima di aprire gli occhi. I sistemi sensoriali, in particolare i nostri occhi, cominciano a formare connessioni e strutture molto prima di vedere qualcosa. Anche se abbiamo bisogno di esperienza per affinare queste connessioni, alcune attività, come i segnali spontanei dalla nostra retina, avvengono naturalmente. Questa attività precoce è importante perché getta le basi per come il nostro cervello elaborerà in seguito le informazioni visive.
Nell'occhio, questi segnali iniziali si chiamano Onde Retiniche. Si verificano in un modello specifico, muovendosi attraverso la retina in onde, anche quando un animale non sta effettivamente vedendo nulla. Queste onde aiutano a modellare come riconosciamo le scene visive, includendo l'organizzazione delle informazioni visive e migliorando la nostra capacità di rilevare il Movimento.
Questo articolo esplora come questi segnali precoci dalla retina influenzano il modo in cui elaboriamo il movimento nelle scene visive. Esaminiamo esperimenti recenti che utilizzano Reti Neurali Artificiali (ANN) per capire meglio questa relazione. Le ANN sono modelli informatici progettati per imitare il funzionamento del nostro cervello e ci aiutano a studiare processi complessi come l'apprendimento visivo.
Il Ruolo delle Onde Retiniche nello Sviluppo Visivo
Le onde retiniche iniziano a verificarsi poco dopo la nascita di un animale. Nei roditori, ad esempio, queste onde compaiono nelle prime due settimane quando i loro occhi sono ancora chiusi. Sono categorizzate in tre fasi, ognuna con schemi differenti. La prima fase coinvolge schemi d'onda semplici che si evolvono in forme più complesse.
La ricerca mostra che queste onde giocano un ruolo chiave in vari aspetti dello sviluppo visivo. Aiutano a creare una mappa della scena visiva nel cervello e a perfezionare come il cervello risponde agli stimoli visivi. Questo include l'aiuto a diverse parti del sistema visivo a specializzarsi in compiti differenti, come il rilevamento del movimento o il riconoscimento delle forme.
Un aspetto interessante di queste onde è la loro direzione. In un ambiente naturale, quando un animale si muove in avanti, l'esperienza visiva crea un flusso ottico simile alla direzione di queste onde retiniche. Questa sovrapposizione potrebbe spiegare perché questi segnali precoci siano importanti per la rilevazione del movimento e perché bloccare questa direzione può ridurre la capacità del cervello di elaborare il movimento.
Onde Retiniche e Reti Neurali Artificiali
Per capire come le onde retiniche influenzano l'elaborazione visiva, gli scienziati hanno iniziato a utilizzare reti neurali artificiali. Questi modelli informatici possono essere addestrati su diversi tipi di input visivo, permettendo ai ricercatori di vedere quanto bene possono apprendere e prevedere il movimento nei video. Addestrando le ANN con onde retiniche, i ricercatori possono valutare se questi segnali precoci migliorano la capacità delle reti di riconoscere il movimento in scene naturali.
Ci sono stati risultati promettenti. Gli studi indicano che addestrare le ANN con schemi simili alle onde retiniche può migliorare la loro capacità di classificare immagini e migliorare le loro prestazioni nel riconoscere oggetti e movimento. Tuttavia, la maggior parte del lavoro precedente si è concentrato su immagini statiche piuttosto che su esperienze visive dinamiche che coinvolgono movimento e flusso ottico.
In questo studio, abbiamo indagato specificamente come le onde retiniche possono migliorare le prestazioni di un'ANN nella previsione del prossimo fotogramma di un video. Addestrando le reti con onde retiniche prima, volevamo vedere se questo pre-addestramento avrebbe potenziato la loro capacità di elaborare il movimento in scene naturali.
Pre-addestramento con Onde Retiniche
Per approfondire questo aspetto, abbiamo addestrato diversi modelli di ANN in condizioni diverse:
- Un modello è stato pre-addestrato utilizzando onde retiniche simulate che si muovevano in una direzione specifica.
- Un altro modello è stato pre-addestrato utilizzando onde che cambiavano di dimensione senza una direzione specifica.
- Un terzo modello non è stato pre-addestrato affatto, partendo da zero.
- Infine, l'ultimo modello è stato pre-addestrato su onde senza bias direzionale ma ha comunque subito alcuni schemi di attività standard.
Abbiamo poi valutato come ciascuno di questi modelli si comportasse in un compito ricco di movimento, specificamente prevedendo il prossimo fotogramma di un video come un animale lo vedrebbe mentre naviga in un ambiente.
Prevedere il Movimento nelle Scene Naturali
Il primo passo ha coinvolto la creazione di un dataset di addestramento che imitava condizioni naturali. Abbiamo progettato video di un topo che correva attraverso un labirinto, includendo segnali visivi lungo le pareti. Questa configurazione ci ha permesso di simulare l'esperienza visiva del movimento attraverso lo spazio. L'ANN ha ricevuto dieci fotogrammi di questo video come input ed è stata addestrata a prevedere come sarebbe apparso l'11° fotogramma.
Per valutare quanto bene si comportassero i diversi modelli, abbiamo monitorato i loro progressi di apprendimento attraverso vari stadi di addestramento. Abbiamo misurato la loro accuratezza utilizzando una metrica di errore standard e confrontato quanto rapidamente ciascun modello ha imparato a prevedere il prossimo fotogramma in base agli input forniti.
Risultati del Pre-addestramento
I modelli pre-addestrati con onde retiniche hanno mostrato un miglioramento significativo nell'apprendere a prevedere il movimento. Quelli che hanno ricevuto un pre-addestramento specifico con onde direzionali generalmente hanno imparato più velocemente rispetto a quelli senza.
Inizialmente, i modelli che partivano da una base di questi segnali retinici precoci hanno superato quelli che non l'avevano. Anche dopo solo un'iniziale epoca di addestramento, il miglioramento era evidente. I modelli pre-addestrati con onde che mostrano un bias direzionale erano meglio equipaggiati per elaborare segnali di movimento complessi e prevedere i fotogrammi futuri in modo efficace.
Con il proseguire dell'addestramento, questo vantaggio spesso persistiva, con i modelli pre-addestrati che mantenevano un'accuratezza più alta durante ulteriori fasi di addestramento, anche se alla fine tutti i modelli raggiungevano un livello di prestazioni simile dopo un addestramento completo.
L'Importanza della Direzionalità nelle Onde Retiniche
Abbiamo anche esaminato da vicino l'impatto della direzionalità delle onde. I modelli pre-addestrati con onde che si muovevano in uno schema specifico (dal lato temporale a quello nasale della retina) mostravano un lieve vantaggio in prestazioni rispetto a quelli addestrati con schemi d'onda più casuali.
Questo suggerisce che la natura strutturata delle onde retiniche potrebbe giocare un ruolo cruciale nell'addestrare le reti a riconoscere meglio il movimento. Tuttavia, i nostri risultati indicavano anche che anche schemi di attività spontanea semplici possono essere utili per migliorare la capacità predittiva.
Campi Ricettivi delle Reti Neurali
Raffinare iUn aspetto cruciale del perché il pre-addestramento con onde retiniche migliori l'apprendimento riguarda il concetto di campi ricettivi. In termini semplici, un campo ricettivo si riferisce all'area specifica di input a cui un neurone risponde nel sistema di elaborazione visiva. Valutando come i campi ricettivi cambiavano per i neuroni nei nostri modelli di ANN, volevamo determinare se il pre-addestramento influenzasse la loro capacità di elaborare le informazioni visive in modo significativo.
Abbiamo scoperto che il pre-addestramento ha portato a una riduzione nella dimensione di questi campi ricettivi nel tempo e ha aumentato la loro reattività agli ultimi fotogrammi di input. Questo significa che le reti sono diventate migliori nel concentrarsi sugli input più rilevanti per prevedere cosa viene dopo.
Le prestazioni migliorate nella previsione dei fotogrammi futuri suggeriscono che questi campi ricettivi raffinati rendono le reti particolarmente adatte per compiti di rilevamento del movimento. In sostanza, le reti hanno imparato a dare priorità agli input più recenti come informazioni rilevanti per prendere decisioni.
Conclusione
In sintesi, i nostri risultati indicano che l'attività spontanea precoce delle onde retiniche gioca un ruolo importante nellPreparare il sistema visivo a elaborare efficacemente i movimenti. Utilizzando le ANN, abbiamo dimostrato che i modelli pre-addestrati con questi segnali retinici hanno mostrato prestazioni significativamente migliorate in compiti visivi che richiedono comprensione del movimento.
I risultati evidenziano il potenziale di tecniche di addestramento che incorporano principi biologici per migliorare i sistemi di apprendimento automatico. Il pre-addestramento con segnali strutturati e ispirati biologicamente può fornire un forte vantaggio, consentendo una migliore elaborazione di informazioni visive complesse in ambienti dinamici.
Questa ricerca apre ulteriori strade per esplorare come i sistemi biologici possano informare lo sviluppo dell'intelligenza artificiale. Comprendere i meccanismi tramite i quali l'attività neurale spontanea influenza l'apprendimento può portare a modelli migliorati che imitano meglio i processi naturali sia nei sistemi artificiali che possono offrire potenzialmente spunti su disturbi visivi o sfide nell'intendere la percezione visiva.
Titolo: Pre-training artificial neural networks with spontaneous retinal activity improves motion prediction in natural scenes
Estratto: The ability to process visual stimuli rich with motion represents an essential skill for animal survival and is largely already present at the onset of vision. Although the exact mechanisms underlying its maturation remain elusive, spontaneous activity patterns in the retina, known as retinal waves, have been shown to contribute to this developmental process. Retinal waves exhibit complex spatio-temporal statistics and contribute to the establishment of circuit connectivity and function in the visual system, including the formation of retinotopic maps and the refinement of receptive fields in downstream areas such as the thalamus and visual cortex. Recent work in mice has shown that retinal waves have statistical features matching those of natural visual stimuli, such as optic flow, suggesting that they could prime the visual system for motion processing upon vision onset. Motivated by these findings, we examined whether artificial neural network (ANN) models trained on natural movies show improved performance if pre-trained with retinal waves. We employed the spatio-temporally complex task of next-frame prediction, in which the ANN was trained to predict the next frame based on preceding input frames of a movie. We found that pre-training ANNs with retinal waves enhances the processing of real-world visual stimuli and accelerates learning. Strikingly, even when matching the total training time by merely replacing initial training epochs on naturalistic stimuli with exposure to retinal waves, an ANN trained on retinal waves temporarily outperforms one trained solely on natural movies. Similar to observations made in biological systems, we also found that pre-training with spontaneous activity refines the receptive field of ANN neurons. Overall, our work sheds light on the functional role of spatio-temporally patterned spontaneous activity in the processing of motion in natural scenes, suggesting it acts as a training signal to prepare the developing visual system for adult visual processing. Author summaryBefore the onset of vision, the retina generates its own spontaneous activity, referred to as retinal waves. This activity is crucial for establishing neural connections and, hence, ensuring the proper functionality of the visual system. Recent research has shown that retinal waves exhibit statistical properties similar to those of natural visual stimuli, such as the optic flow of objects in the environment during forward motion. We investigate whether retinal waves can prepare the visual system for motion processing by pre-training artificial neural network (ANN) models with retinal waves. We tested the ANNs on next-frame prediction tasks, where the model predicts the next frame of a video based on previous frames. Our results showed that ANNs pre-trained with retinal waves exhibit faster learning on movies featuring naturalistic stimuli. Additionally, pre-training with retinal waves refined the receptive fields of ANN neurons, similar to processes seen in biological systems. Our work highlights the importance of spatio-temporally patterned spontaneous activity in preparing the visual system for motion processing in natural scenes.
Autori: Lilly May, J. Gjorgjieva
Ultimo aggiornamento: 2024-06-16 00:00:00
Lingua: English
URL di origine: https://www.biorxiv.org/content/10.1101/2024.06.15.599143
Fonte PDF: https://www.biorxiv.org/content/10.1101/2024.06.15.599143.full.pdf
Licenza: https://creativecommons.org/licenses/by-nc/4.0/
Modifiche: Questa sintesi è stata creata con l'assistenza di AI e potrebbe presentare delle imprecisioni. Per informazioni accurate, consultare i documenti originali collegati qui.
Si ringrazia biorxiv per l'utilizzo della sua interoperabilità ad accesso aperto.