Monolinguale Maschinenübersetzung von Standardsprache in Leichte Sprache mittels Retrieval-Augmented Generation und Large Language Models

Abstract

Barrierefreiheit und Inklusion erfordern zugängliche Informationen. Insbesondere im öffentlichen Sektor ist dabei die Leichte Sprache von großer Bedeutung. Manuelle Übersetzungen sind jedoch zeit- und kostenintensiv. Diese Arbeit untersucht deshalb die automatisierte, monolinguale Textvereinfachung von deutscher Standardsprache in Leichte Sprache, mit einem spezifischen Fokus auf die Anforderungen des öffentlichen Sektors. Im Mittelpunkt steht der systematische Vergleich der Leistungsfähigkeit kleinerer Large Language Models mit jener großer, dem Stand der Technik entsprechender Modelle. Der Vergleich berücksichtigt neben qualitativen Anforderungen, evaluiert anhand der Kriterien Einfachheit, Grammatikalität und Semantik durch automatisierte Metriken, auch wirtschaftliche und rechtliche Aspekte, die im öffentlichen Sektor ebenfalls relevant sind. Darüber hinaus wird die Wirksamkeit der zwei Optimierungsstrategien In-context Learning mittels Retrieval-Augmented Generation und Fine-Tuning der Modelle evaluiert. Die Ergebnisse belegen, dass State-of-the-Art-Modelle zwar gute Übersetzungen liefern, aber optimierte kleinere Sprachmodelle eine kompetitive oder sogar überlegene Leistung erzielen können. Retrieval-Augmented Generation verbessert die Textqualität durch die Einbeziehung domänenspezifischer Beispiele, und auch das Fine-Tuning erweist sich als robuste Methode zur Leistungssteigerung. Schließlich wird gezeigt, dass optimierte kleinere Sprachmodelle eine leistungsstarke, kosteneffiziente und datenschutzkonforme Alternative zu großen, cloudbasierten Modellen darstellen. Sie bieten öffentlichen Institutionen eine praktikable Lösung, um die qualitativen, wirtschaftlichen und gesetzlichen Anforderungen an die digitale Barrierefreiheit zu erfüllen.

Accessibility and inclusion require accessible information. In the public sector in particular, Easy Language is of great importance. However, manual translations are timeconsuming and costly. This work therefore investigates the automated, monolingual text simplification from standard German into Easy Language, with a specific focus on the requirements of the public sector. The core of the study is a systematic comparison of the performance of smaller Large Language Models with that of large, state-of-the-art models. The comparison considers not only qualitative requirements, evaluated using automated metrics based on the criteria of simplicity, grammaticality, and semantics, but also economic and legal aspects relevant to the public sector. Furthermore, the effectiveness of the two optimization strategies In-context Learning via Retrieval-Augmented Generation and Fine-Tuning of the models is evaluated. The results demonstrate that while state-of-the-art models already provide good translations, optimized smaller language models can achieve competitive or even superior performance. Retrieval-Augmented Generation improves text quality by incorporating domain-specific examples, and Fine-Tuning also proves to be a robust method for performance enhancement. Finally, it is shown that optimized smaller language models represent a high-performing, cost-effective, and privacy-compliant alternative to large, cloud-based models. They offer public institutions a viable solution to meet the qualitative, economic, and legal requirements for digital accessibility.