Apprendimento continuo in grandi modelli linguistici (LLM) in genere incontra il
sfida critica dell’oblio catastrofico, dove precedentemente acquisito
la conoscenza si deteriora con l’esposizione a nuovi dati. Mentre tecniche come il replay
buffer e ottimizzazione efficiente dei parametri (per esempio., Adattamento di basso rango o LoRA) Avere
stato proposto, pochi studi indagano l'adattamento del dominio in tempo reale in modo rigoroso
vincoli computazionali e del flusso di dati. In questo documento, dimostriamo a
metodo leggero che combina LoRA e un meccanismo di riproduzione minimo in modo realistico
impostazione di streaming in tre diversi domini di conoscenza: questione medica
rispondendo, genetica, e legge. Usando la perplessità, somiglianza semantica, E
Metriche di valutazione di tipo umano basate su GPT, quantifichiamo l’adattamento del modello,
dimenticare, e recupero nel tempo. I nostri esperimenti lo rivelano mentre
l’oblio catastrofico avviene naturalmente, anche una riproduzione minima in modo significativo
stabilizza e ripristina parzialmente la conoscenza specifica del dominio. Questo studio
fornisce approfondimenti pratici per l'implementazione di LLM adattabili in
risorse limitate, scenari del mondo reale.

Questo articolo esplora i giri e le loro implicazioni.

Scarica PDF: