Il notevole successo dei Large Language Models (LLM) ha illuminato a
percorso promettente verso il raggiungimento dell’intelligenza generale artificiale per entrambi
comunità accademiche e industriali, grazie alle loro prestazioni senza precedenti
attraverso varie applicazioni. Poiché gli LLM continuano a guadagnare importanza in entrambi
ambiti commerciali e di ricerca, hanno implicazioni in termini di sicurezza e protezione
diventare una preoccupazione crescente, non solo per ricercatori e aziende ma anche
per ogni nazione. Attualmente, le indagini esistenti sulla sicurezza LLM si concentrano principalmente su
fasi specifiche del ciclo di vita LLM, per esempio., fase di implementazione o messa a punto
fase, senza una comprensione globale del tutto “catena di vita” di LLM.
Per colmare questa lacuna, questo articolo introduce, per la prima volta, il concetto di
“stack completo” sicurezza a considerare sistematicamente le questioni di sicurezza in tutto il
intero processo di formazione LLM, distribuzione, ed eventuale commercializzazione.
Rispetto alle indagini sulla sicurezza LLM standard, il nostro lavoro ne dimostra diversi
vantaggi distintivi: (IO) Prospettiva globale. Definiamo il completo
Ciclo di vita LLM come comprensivo della preparazione dei dati, pre-allenamento, post-allenamento,
distribuzione e commercializzazione finale. A nostra conoscenza, questo rappresenta il
prima indagine sulla sicurezza che comprenda l'intero ciclo di vita degli LLM. (II) Ampio
Supporto letterario. La nostra ricerca si basa su una revisione esaustiva di over
800+ documenti, garantendo una copertura completa e un'organizzazione sistematica del
questioni di sicurezza in una visione più olistica. (III) Approfondimenti unici.
Attraverso l’analisi sistematica della letteratura, abbiamo sviluppato roadmap affidabili e
prospettive per ciascun capitolo. Il nostro lavoro identifica ricerche promettenti
direzioni, compresa la sicurezza nella generazione dei dati, tecniche di allineamento, modello
modifica, e sistemi di agenti basati su LLM. Questi approfondimenti forniscono indicazioni preziose
per i ricercatori che perseguono lavori futuri in questo campo.

Questo articolo esplora i giri e le loro implicazioni.

Scarica PDF: