Die Themen im Zeitverlauf (Zu) Das Modell erfasst thematische Änderungen mit Zeitstempel
Datensätze durch explizite Modellierung von Veröffentlichungsdaten gemeinsam mit Word
Koexistenzmuster. Jedoch, ToT wurde nicht vollständig bayesianisch angegangen
Mode, ein Fehler, der es anfällig für Stabilitätsprobleme macht. Ansprechen
dieses Problem, Wir schlagen eine vollständig bayesianische Themenübersicht im Zeitverlauf vor (BToT) Modell über die
Einführung eines Konjugats vor der Beta-Verteilung. Dieser Prior fungiert als
eine Regularisierung, die die Online-Version des Algorithmus daran hindert
instabile Updates, wenn ein Thema in einem Mini-Batch schlecht dargestellt wird. Der
Die Merkmale davon vor der Beta-Verteilung werden hier untersucht
Zum ersten Mal. Trotzdem, Dieses Modell weist einen Unterschied im Maßstab auf
Einzelbeobachtungen und die Vielzahl der Wörter pro Dokument. A
Variation von BToT, Gewichtete Bayes'sche Themen im Zeitverlauf (WBToT), wird als vorgeschlagen
Lösung. In WBToT, Veröffentlichungstermine werden eine bestimmte Anzahl von Malen wiederholt
pro Dokument, Dadurch wird der relative Einfluss von Wörtern und Zeitstempeln ausgeglichen
entlang des Inferenzprozesses. Wir haben unsere Modelle an zwei Datensätzen getestet: A
Sammlung von über 200 Jahre der Lage der Nation in den USA (VERKAUFT) Adressen und a
groß angelegtes COVID-19-Twitter-Korpus von 10 Millionen Tweets. Das zeigen die Ergebnisse
WBToT erfasst Ereignisse besser als Latent Dirichlet Allocation und andere SOTA
Themenmodelle wie BERTopic: die mittlere absolute Abweichung der Themenpräsenz
im Laufe der Zeit wird um reduziert $51\%$ Und $34\%$, jeweils. Auch unsere Experimente
demonstrieren die überlegene Kohärenz von WBToT gegenüber BToT, was das hervorhebt
Es ist wichtig, die Zeit- und Wortmodalitäten in Einklang zu bringen. Endlich, wir illustrieren
die Stabilität des Online-Optimierungsalgorithmus in WBToT, was ermöglicht die
Anwendung von WBToT auf Probleme, die für Standard-ToT unlösbar sind.

Dieser Artikel untersucht Zeitreisen und deren Auswirkungen.

PDF herunterladen: