Génération augmentée de récupération (CHIFFON) est apparu comme une application puissante de
Grands modèles de langage (LLM), révolutionner la recherche d'informations et
consommation. Les systèmes RAG combinent des capacités de recherche traditionnelles avec des LLM pour
générer des réponses complètes aux requêtes des utilisateurs, idéalement avec des précisions
citations. Cependant, dans notre expérience de développement d'un produit RAG, Les LLM souvent
difficulté avec l'attribution de la source, s'aligner sur d'autres études de l'industrie
rapportant des taux d'exactitude des citations d'environ seulement 74% pour génératif populaire
moteurs de recherche. Pour résoudre ce problème, nous présentons un post-traitement efficace
algorithmes pour améliorer la précision des citations dans les réponses générées par LLM, avec
impact minimal sur la latence et le coût. Nos approches recoupent les vérifications générées
citations d'articles récupérés à l'aide de méthodes comprenant des mots-clés + sémantique
correspondance, modèle affiné avec BERTScore, et un logiciel léger basé sur LLM
technique. Nos résultats expérimentaux démontrent une amélioration relative de
15.46% dans les mesures de précision globales de notre système RAG. Cet important
l'amélioration permet potentiellement de passer de notre modèle linguistique plus large actuel
à un modèle relativement plus petit, environ 12 fois plus rentable et
3x plus rapide en temps d'inférence, tout en conservant des performances comparables. Ce
la recherche contribue à améliorer la fiabilité et la fiabilité des
Contenu généré par l'IA dans les tâches de récupération et de synthèse d'informations qui est
essentiel pour gagner la confiance des clients, en particulier dans les produits commerciaux.

Cet article explore les excursions dans le temps et leurs implications.

Télécharger PDF: