Prevedere i prezzi delle azioni con i modelli di linguaggio

Prevedere i prezzi delle azioni è come indovinare se il tuo gatto rovescerà un bicchiere d'acqua. Bisogna considerare un sacco di fattori, dalle performance finanziarie di un'azienda a ciò che la gente dice sui social media. Se combini rapporti finanziari, prezzi delle azioni passate e articoli di attualità, puoi farti un'idea piuttosto chiara di cosa potrebbe succedere dopo.

#Combinare Diversi Tipi di Dati

Per fare le nostre previsioni sulle azioni, dobbiamo raccogliere informazioni da più fonti. Questo include:

• Dati Finanziari: Qui parliamo di cose come i bilanci e i conti economici. Ogni azienda pubblica negli Stati Uniti deve condividere queste informazioni ogni trimestre. È come mostrare il tuo pagellino ai tuoi genitori.

• Dati storici sui prezzi: Questo riguarda come si è comportata un'azione nel passato. Se il prezzo di un'azione è salito e sceso come una montagne russe, potrebbe darci indizi su cosa potrebbe succedere in futuro.

• Articoli di Notizie: Gli investitori prestano molta attenzione alle notizie. I social media e le notizie sono come il pettegolezzo del mercato azionario; possono influenzare come la gente si sente riguardo a un'azienda.

#Usare i Modelli Linguistici

Abbiamo deciso di usare una tecnologia avanzata chiamata Modelli Linguistici di Grandi Dimensioni (LLMs) per aiutarci a fare previsioni. Questi modelli sono come robot molto intelligenti che possono leggere e capire i testi. Possono gestire sia dati strutturati (come i numeri) che dati non strutturati (come gli articoli di notizie). Nutrendo il modello con dati finanziari e articoli di notizie pertinenti, lo stimoliamo a prevedere se il prezzo di un'azione potrebbe salire o scendere.

Per i nostri esperimenti, abbiamo utilizzato diversi tipi di LLM, inclusi GPT-3, GPT-4 e versioni di LLaMA. Questi modelli hanno dimostrato di poter classificare efficacemente entrambi i tipi di dati.

#Come Abbiamo Fatto

Abbiamo raccolto una serie di articoli di notizie e rapporti finanziari per 20 aziende quotate in borsa. Queste sono state scelte in base a quanto spesso vengono scambiate le loro azioni. Abbiamo poi creato un dataset che includeva:

• 5.000 articoli di notizie che coprivano queste aziende da ottobre 2021 a gennaio 2024.
• Dati finanziari dai rapporti 10-K delle aziende, che includono vari indicatori finanziari.

Abbiamo usato un metodo chiamato "augmentation del recupero" per trovare gli articoli di notizie più rilevanti e attaccarli ai dati finanziari dell'azienda. In questo modo, quando abbiamo chiesto ai nostri modelli di prevedere le variazioni dei prezzi delle azioni, avevano tutto il contesto necessario.

#Riassumere gli Articoli di Notizie

Con tanta notizia in giro, abbiamo dovuto capire come riassumerla. Abbiamo impiegato un paio di metodi:

1. Riassunto Estraente: Questo metodo seleziona frasi importanti da un articolo. È come trovare le migliori citazioni da un film senza guardarlo tutto.

2. Riassunto Astrattivo: Questa tecnica genera nuove frasi che catturano l'essenza degli articoli. Immagina qualcuno che riassume un film di due ore in una sola frase.

Utilizzando queste tecniche di riassunto, potevamo concentrarci sulle parti delle notizie che influenzavano di più i prezzi delle azioni.

#Creare Prompt per le Previsioni

Quando abbiamo alimentato informazioni nei nostri LLM, dovevamo stare attenti a come strutturavamo i nostri prompt. Pensa ai prompt come a domande che fai per ottenere una risposta. Abbiamo sperimentato diversi modi di organizzare le informazioni che fornivamo, dato che l'ordine può davvero influire su quanto bene il modello funzioni. Abbiamo incluso sezioni riguardanti l'azienda, le sue ultime notizie, i suoi dati finanziari e poi abbiamo posto la nostra domanda principale: "Dovrei investire in questa azienda?"

#Testare le Nostre Previsioni

Per vedere quanto bene hanno funzionato i nostri modelli, abbiamo preparato un set di prompt di esempio. Abbiamo testato i nostri modelli in diverse impostazioni: zero-shot, two-shot e four-shot per vedere quale funzionava meglio.

• Impostazione zero-shot: Abbiamo semplicemente posto la domanda al modello senza esempi precedenti.
• Impostazione two-shot: Abbiamo fornito due esempi.
• Impostazione four-shot: Abbiamo fornito quattro esempi.

Sorprendentemente, aggiungere più esempi non ha sempre portato a una maggiore accuratezza. Era come cercare di insegnare a un cane anziano nuovi trucchi-non sempre funziona!

#Risultati e Scoperte

La nostra ricerca ha mostrato che diversi modelli hanno performato in modo diverso. Alcuni modelli come GPT-4 e LLaMA3 erano migliori nel prevedere i movimenti dei prezzi delle azioni. I migliori risultati sono venuti da modelli che riuscivano a bilanciare entrambi i tipi di dati-numeri finanziari e ritagli di notizie.

#Perché È Importante

Quindi perché dovrebbe importare a qualcuno di queste previsioni? Beh, sapere se il prezzo di un'azione potrebbe salire o scendere può aiutare gli investitori a prendere decisioni migliori. Se un modello può prevedere accuratamente questi movimenti, potrebbe salvare le persone dal fare scelte d'investimento sbagliate-come comprare un'azione proprio prima che crolli.

#Direzioni Future

Abbiamo imparato che mentre usare modelli di linguaggio grandi in questo modo è promettente, c’è ancora molto da migliorare. Per i nostri prossimi passi, pianifichiamo di ottimizzare modelli più piccoli che combinano sia dati testuali che numerici. Siamo anche interessati a cambiare il nostro approccio da semplici previsioni su se l'azione salirà o scenderà a prevedere quanto potrebbe cambiare in termini percentuali. Le azioni sono un affare complicato, ma siamo desiderosi di continuare a imparare!

#Conclusione

Alla fine, prevedere i prezzi delle azioni è una sfida complessa ma affascinante. Con il giusto mix di dati finanziari, articoli di notizie e tecnologia intelligente, possiamo migliorare le nostre possibilità di fare previsioni accurate. E chissà? Magari un giorno ci sarà un gatto che non rovescia bicchieri d'acqua!