Gli argomenti nel tempo (A) il modello cattura i cambiamenti tematici con timestamp
set di dati modellando esplicitamente le date di pubblicazione insieme a Word
modelli di co-occorrenza. Tuttavia, ToT non è stato affrontato in modo completamente bayesiano
moda, un difetto che lo rende suscettibile a problemi di stabilità. Per indirizzare
questo problema, proponiamo un Topics over Time completamente bayesiano (BToT) modello tramite il
introduzione di un coniugato prima della distribuzione Beta. Questo precedente agisce come
una regolarizzazione che impedisce la versione online dell’algoritmo
aggiornamenti instabili quando un argomento è scarsamente rappresentato in un mini-batch. IL
le caratteristiche di questo prima della distribuzione Beta sono studiate qui per il
prima volta. Ancora, questo modello soffre di una differenza di scala tra il
osservazioni singole e la molteplicità di parole per documento. UN
variazione del BToT, Argomenti bayesiani ponderati nel tempo (WBToT), viene proposto come a
soluzione. Nel WBToT, le date di pubblicazione vengono ripetute un certo numero di volte
per documento, che bilancia l'influenza relativa di parole e timestamp
lungo il processo di inferenza. Abbiamo testato i nostri modelli su due set di dati: UN
raccolta di oltre 200 anni di stato dell’unione americano (VENDUTO) indirizzi e a
corpus Twitter COVID-19 su larga scala di 10 milioni di tweet. I risultati lo dimostrano
WBToT cattura gli eventi meglio della Latent Dirichlet Allocation e di altri SOTA
modelli di argomenti come BERTopic: la deviazione media assoluta della presenza dell'argomento
nel tempo si riduce di $51\%$ E $34\%$, rispettivamente. Anche i nostri esperimenti
dimostrare la coerenza superiore di WBToT rispetto a BToT, che evidenzia il
l’importanza di bilanciare le modalità del tempo e della parola. Finalmente, illustriamo
la stabilità dell'algoritmo di ottimizzazione online in WBToT, che consente il
applicazione di WBToT a problemi che sono intrattabili per il ToT standard.

Questo articolo esplora i giri e le loro implicazioni.

Scarica PDF: