Retrieval-Augmented Generation mit LLMs in finanzbezogenen Frage-Antwort-Systemen
Abstract
Die natürliche Sprachverarbeitung hat durch Fortschritte im maschinellen Lernen, insbesondere durch den Einsatz neuronaler Netze, einen Wandel von klassischen statistischen Methoden hin zu leistungsfähigen Large Language Models wie GPT, LLaMA oder Mistral erfahren. Diese Modelle demonstrieren eindrucksvolle Fähigkeiten in der Textgenerierung und der Bearbeitung komplexer sprachlicher Aufgaben. Mit Zunahme ihrer Integration in unternehmerische Prozesse und Einsatzmöglichkeit im Finanzsektor, rückt jedoch auch ihre Anfälligkeit für Fehler in den Fokus. Ein zentrales Problem stellt die sogenannte Halluzination dar, bei der plausibel klingende, jedoch faktisch unzutreffende Inhalte generiert werden. In regulierten Domänen, wie etwa dem Finanzwesen, können derartige Fehler zu signifikanten Risiken führen. Ein vielversprechender Ansatz zur Reduktion dieser Problematik ist die Retrieval-Augmented Generation, bei der externe Wissensquellen zur Kontexterweiterung zur Inferenzzeit der Modelle herangezogen werden. Die vorliegende Arbeit hat die Intention, den Einsatz von Retrieval-Augmented Generation in domänenspezifischen Frage-Antwort-Systemen im Finanzbereich zu untersuchen. Zu diesem Zweck wurde ein prototypisches System bestehend aus Retrieval- und Generierungskomponente entwickelt, das Finanzberichte börsennotierter Unternehmen als Wissensquelle nutzt. Die Architektur integriert ein Embedding-Modell, eine Vektordatenbank sowie das Modell Mistral-7B. Die Evaluation erfolgt anhand…
Read the paper
Related studies
- Knowledge Management Perspective of Generative Artificial Intelligence
- Navigating Generative Artificial Intelligence Promises and Perils for Knowledge and Creative Work
- Characterizing the evolving research on enterprise content management
- Large language models and multimodal foundation models for precision oncology
- From Generative AI to Extended Reality: Multidisciplinary Perspectives on the Challenges, Opportunities, and Future of Educational Computing
- Generative Artificial Intelligence: A New Engine for Advancing Environmental Science and Engineering
Go deeper in Evidence Hub
Evidence Hub adds a study data sheet (design, sample size, evidence level, key numbers), an AI summary and a chat grounded in the paper's text.