Progressi nell'analisi del sentiment per le news finanziarie

Negli ultimi anni, il campo del Natural Language Processing (NLP) ha fatto passi da gigante, soprattutto nell'analisi del sentiment. L'analisi del sentiment è il processo di determinazione se un testo esprime un'opinione positiva, negativa o neutra. Nel mondo finanziario, questa analisi è fondamentale poiché aiuta gli investitori a prendere decisioni basate sul tono delle Notizie Finanziarie. I modelli di linguaggio di grandi dimensioni (LLMs) sono diventati gli strumenti più abili in quest’area, mostrando un grande potenziale nell'interpretare dati complessi e riconoscere schemi in grandi insiemi di informazioni.

Tuttavia, i modelli NLP tradizionali hanno avuto difficoltà in passato a causa delle limitazioni nella quantità di dati che potevano analizzare contemporaneamente e della loro incapacità di afferrare idee complesse. Grazie agli sviluppi recenti, i LLMs ora possono gestire contesti più ampi e mostrano risultati migliori nei compiti che coinvolgono il sentiment delle notizie finanziarie. Beneficiano di tecniche come l'ingegnerizzazione delle richieste e il prompting con pochi esempi, che migliorano la loro capacità di analizzare testi brevi e mirati, come titoli o tweet.

#La necessità di un nuovo approccio

Il mondo delle notizie finanziarie presenta sfide uniche per l'analisi del sentiment. Le notizie finanziarie sono spesso brevi, mancano di contesto dettagliato e mescolano testo e numeri, rendendole difficili da comprendere. Inoltre, le notizie finanziarie perdono rapidamente rilevanza, discutendo eventi che sono già accaduti e spesso senza rivelare il loro effetto fino a dopo. A causa di questi fattori, i modelli attuali che si basano fortemente su Set di dati annotati dagli esseri umani possono avere difficoltà, poiché queste annotazioni possono essere inconsistenti e soggettive.

Per affrontare queste sfide, proponiamo un nuovo approccio che enfatizza la creazione di un dataset basato sul comportamento reale del mercato, libero da pregiudizi umani. Assegnando sistematicamente un punteggio di mercato ai titoli finanziari, puntiamo a migliorare le capacità dei LLM come FinBERT e FinDRoBERTa nell'analisi del sentiment.

#Costruire un dataset basato sul mercato

Per creare un dataset affidabile, abbiamo raccolto dati dai Bloomberg Market Wraps, che riassumono gli eventi finanziari quotidiani. Questa fonte fornisce una ricchezza di informazioni che copre vari mercati e regioni, permettendoci di estrarre spunti preziosi. Abbiamo raccolto oltre 3.700 articoli dettagliati, riassumendo più di 2 milioni di notizie.

Ci siamo concentrati sulla generazione di titoli da questi articoli per catturare i loro messaggi chiave. Questo approccio in due fasi ci ha permesso di filtrare il rumore e concentrarci sulle informazioni essenziali che probabilmente influenzeranno le decisioni di investimento. I titoli generati sono stati progettati per essere informativi e pertinenti per gli analisti di mercato.

#Identificazione automatica dei ticker

Per migliorare il nostro dataset, abbiamo utilizzato un modello per identificare e assegnare i ticker azionari relativi a ciascun titolo. Facendo così, possiamo individuare quali mercati finanziari sono più suscettibili a reagire a specifici eventi di notizie. Questo passaggio garantisce che il sentiment derivato dal titolo rifletta le reali condizioni di mercato.

Capendo che non tutti i titoli influenzano tutti i mercati, abbiamo mirato a catturare il sentiment di mercato più ampio. Se la maggior parte delle azioni associate avesse un sentiment comune, potremmo valutare più accuratamente l'impatto complessivo delle notizie.

#Classificare le reazioni di mercato

Abbiamo sviluppato un algoritmo per classificare il sentiment dei titoli finanziari in base alla loro influenza sui prezzi delle azioni. Questo metodo utilizza dati sulle performance storiche per determinare come le notizie influenzano i movimenti azionari. Analizzando la performance passata delle azioni intorno a un titolo, possiamo classificare la reazione di mercato come positiva, negativa o neutra.

L'approccio prevedeva il calcolo della variazione giornaliera dei prezzi delle azioni dopo il rilascio di un titolo e il confronto con soglie predefinite. Questo processo ci consente di valutare sistematicamente l'impatto delle notizie sulle condizioni di mercato.

#Validare il dataset

Dopo aver sviluppato il dataset, dovevamo assicurarci dell'accuratezza delle etichette assegnate a ciascun titolo. Per farlo, abbiamo confrontato i rendimenti del mercato azionario con una strategia di trading basata su quelle etichette. Se il nostro dataset riflette accuratamente le reazioni del mercato, allora la nostra strategia dovrebbe funzionare meglio di una scelta casuale.

Questa analisi aiuta a confermare che i nostri titoli sono annotati correttamente, indicando che si relazionano bene ai movimenti reali del mercato.

#Confrontare le prestazioni dei modelli

Abbiamo confrontato le prestazioni di diversi modelli linguistici, inclusi GPT-4, FinBERT e DistilRoBERTa, per vedere quanto bene potessero analizzare il sentiment nelle notizie finanziarie. Anche se GPT-4 ha considerevolmente più parametri, le sue prestazioni non erano significativamente migliori rispetto ai modelli più piccoli.

I risultati hanno mostrato che, mentre i modelli più grandi possono avere capacità migliorate, non portano sempre a decisioni migliori nell'analisi del sentiment. I modelli compatti sono stati in grado di fornire livelli di prestazione simili, rendendoli opzioni valide per questo compito.

#Affinare i modelli

Per sfruttare appieno le capacità dei modelli linguistici, li abbiamo affinati utilizzando il nostro nuovo dataset basato sul mercato. Abbiamo addestrato questi modelli su circa 50.000 titoli, garantendo una valutazione coerente tra tutti i modelli. Nonostante le differenze di dimensione, il processo di affinamento ha prodotto risultati comparabili per tutti i modelli.

È interessante notare che i nostri risultati hanno rivelato che nessun singolo modello ha costantemente superato gli altri in ogni categoria. Questo suggerisce che anche i modelli compatti possono essere addestrati efficacemente per analizzare notizie finanziarie e sentiment.

#Approccio del metodo bagging

Abbiamo anche esplorato se combinare le previsioni di più modelli avrebbe migliorato le prestazioni complessive. Questo processo è conosciuto come bagging, che combina i risultati di diversi modelli per arrivare a una classificazione più accurata.

Tuttavia, i nostri esperimenti hanno mostrato che l’utilizzo del bagging non ha migliorato significativamente le prestazioni dei modelli. Piuttosto, ha indicato che i modelli tendono a mostrare schemi decisionali simili, indipendentemente dalle loro dimensioni o dal numero di parametri.

#Conclusione

I nostri risultati suggeriscono che modelli più piccoli e specializzati come FinBERT e FinDRoBERTa possono superare modelli generativi più grandi come GPT-3.5 e GPT-4 in compiti specifici, in particolare nell'analisi del sentiment delle notizie finanziarie. Attraverso lo sviluppo di un nuovo dataset basato sul mercato, libero da pregiudizi umani e annotazioni sistematiche, abbiamo fornito una risorsa preziosa per future ricerche.

Validando il nostro dataset e dimostrando l'efficacia dell'affinamento dei modelli compatti, sfidiamo l'idea che i modelli più grandi performino sempre meglio. Le ricerche future dovrebbero continuare a esaminare le prestazioni di questi modelli compatti in altri domini per confermare la loro versatilità oltre l'analisi del sentiment finanziario.

I progressi in questo campo evidenziano l'importanza di scegliere gli strumenti e le metodologie giuste per comprendere le interazioni complesse nei mercati finanziari, aprendo la strada a un'analisi del sentiment più efficace in vari contesti.