Les sujets au fil du temps (À) le modèle capture les changements thématiques dans l'horodatage
ensembles de données en modélisant explicitement les dates de publication conjointement avec Word
modèles de cooccurrence. Cependant, ToT n’a pas été abordé de manière entièrement bayésienne
mode, un défaut qui le rend vulnérable à des problèmes de stabilité. Pour aborder
ce problème, nous proposons une thématique entièrement bayésienne au fil du temps (BToT) modèle via le
introduction d'un conjugué avant la distribution Beta. Ce préalable agit comme
une régularisation qui empêche la version en ligne de l'algorithme de
mises à jour instables lorsqu'un sujet est mal représenté dans un mini-batch. Le
les caractéristiques de celui-ci avant la distribution Beta sont étudiées ici pour le
première fois. Toujours, ce modèle souffre d'une différence d'échelle entre le
observations ponctuelles et multiplicité de mots par document. UN
variation du BToT, Sujets bayésiens pondérés au fil du temps (WBToT), est proposé comme un
solution. Dans WBToT, les dates de publication sont répétées un certain nombre de fois
par document, qui équilibre l'influence relative des mots et des horodatages
tout au long du processus d'inférence. Nous avons testé nos modèles sur deux jeux de données: un
collection de plus 200 années d'état de l'union aux États-Unis (VENDU) des adresses et un
corpus Twitter à grande échelle sur le COVID-19 10 millions de tweets. Les résultats montrent que
WBToT capture mieux les événements que l'allocation de Dirichlet latent et d'autres SOTA
modèles de sujets comme BERTopic: l'écart médian absolu de la présence du sujet
au fil du temps est réduit de $51\%$ et $34\%$, respectivement. Nos expériences aussi
démontrer la cohérence supérieure du WBToT par rapport au BToT, qui met en valeur le
importance d’équilibrer le temps et les modalités verbales. Enfin, nous illustrons
la stabilité de l'algorithme d'optimisation en ligne dans WBToT, ce qui permet au
application de WBToT à des problèmes insolubles pour le ToT standard.

Cet article explore les excursions dans le temps et leurs implications.

Télécharger PDF: