Le succès remarquable des grands modèles linguistiques (LLM) a illuminé un
voie prometteuse vers la réalisation de l’intelligence générale artificielle pour les deux
communautés académiques et industrielles, en raison de leurs performances sans précédent
à travers diverses applications. Alors que les LLM continuent de gagner en importance dans les deux
domaines de la recherche et du commerce, leurs implications en matière de sécurité et de sûreté ont
devenir une préoccupation croissante, non seulement pour les chercheurs et les entreprises, mais aussi
pour chaque nation. Actuellement, les enquêtes existantes sur la sécurité des LLM se concentrent principalement sur
étapes spécifiques du cycle de vie du LLM, par ex., phase de déploiement ou de mise au point
phase, manque d'une compréhension globale de l'ensemble “chaîne de vie” des LLM.
Pour combler cette lacune, cet article présente, pour la première fois, la notion de
“pile complète” sécurité de considérer systématiquement les questions de sécurité tout au long de
tout le processus de formation LLM, déploiement, et une éventuelle commercialisation.
Par rapport aux enquêtes de sécurité LLM disponibles dans le commerce, notre travail démontre plusieurs
avantages distinctifs: (je) Perspective globale. Nous définissons le complet
Cycle de vie LLM englobant la préparation des données, pré-formation, post-formation,
déploiement et commercialisation finale. A notre connaissance, cela représente le
première enquête de sécurité couvrant l'ensemble du cycle de vie des LLM. (II) Extensif
Support littéraire. Notre recherche s'appuie sur un examen exhaustif de plus de
800+ papiers, assurer une couverture complète et une organisation systématique des
les questions de sécurité dans une compréhension plus globale. (III) Des informations uniques.
Grâce à une analyse systématique de la littérature, nous avons développé des feuilles de route fiables et
perspectives pour chaque chapitre. Nos travaux identifient des recherches prometteuses
instructions, y compris la sécurité dans la génération de données, techniques d'alignement, modèle
édition, et systèmes d'agents basés sur LLM. Ces informations fournissent des conseils précieux
pour les chercheurs poursuivant des travaux futurs dans ce domaine.
Cet article explore les excursions dans le temps et leurs implications.
Télécharger PDF: