Apprentissage continu dans de grands modèles de langage (LLM) rencontre généralement le
le défi critique de l’oubli catastrophique, où précédemment acquis
les connaissances se détériorent lors de l’exposition à de nouvelles données. Alors que des techniques comme la relecture
tampons et réglage efficace des paramètres (par ex., Adaptation de bas rang ou LoRA) avoir
été proposé, peu d'études étudient l'adaptation de domaine en temps réel sous stricte
contraintes de calcul et de flux de données. Dans ce document, nous démontrons un
méthode légère combinant LoRA et un mécanisme de relecture minimal dans un
paramètre de diffusion en continu dans trois domaines de connaissances divers: question médicale
répondre, génétique, et la loi. Utiliser la perplexité, similarité sémantique, et
Métriques d'évaluation de type humain basées sur GPT, on quantifie l’adaptation du modèle,
oubli, et récupération au fil du temps. Nos expériences révèlent que même si
l'oubli catastrophique se produit naturellement, même une rediffusion minimale de manière significative
stabilise et restaure partiellement les connaissances spécifiques au domaine. Cette étude
apporte des informations pratiques pour le déploiement de LLM adaptables dans
ressources limitées, scénarios du monde réel.

Cet article explore les excursions dans le temps et leurs implications.

Télécharger PDF: