Föderales Lernen am Beispiel der Kategorisierung von Mails

Abstract

Ziel dieser Arbeit ist es, die praktische Umsetzung von föderalem Lernen zu untersuchen und die Vor- und Nachteile im Vergleich zum zentralisierten maschinellen Lernen zu betrachten. Dazu wird föderales Lernen mit dem Flower Framework anhand der Kategorisierung von Mails als Anwendungsfall umgesetzt. Zur Umsetzung der Kategorisierung werden Naive Bayes-Klassifikatoren, LSTM-Modelle und der Einsatz von Random Forest betrachtet. Zusätzlich zum föderalen Lernen werden Differential Privacy und Secure Aggregation zum Schutz der Trainingsdaten eingesetzt. Das Training beim föderalen Lernen wird mit dem zentralen Lernen in verschiedenen Szenarien verglichen. Als Resultat der Arbeit wird erfolgreich aufgezeigt, wie die Umsetzung eines Anwendungsfalls beim föderalen Lernen erfolgen kann. Zudem kommt heraus, dass föderales Lernen allgemein Modelle mit ähnlicher Effektivität zu zentral trainierten Modellen trainieren kann, auch unter Einsatz von Differential Privacy und Secure Aggregation, und dass das Training durch die Verteilung des Trainings schneller abläuft.

The goal of this thesis is to evaluate the practical implementation of federated learning and to examine the advantages and disadvantages in comparison to centralized machine learning. For this purpose, federated learning is implemented with the Flower Framework using the categorization of mails as a use case. Naive Bayes classifiers, LSTM models and the use of Random Forest are considered for the implementation of the categorization. In addition to federated learning, differential privacy and secure aggregation are used to protect the training data. The training with federated learning is compared with centralized learning in different scenarios. The result of the work is a successful demonstration of how a use case can be implemented in federated learning. It is also shown that federated learning can generally train models with similar effectiveness to centrally trained models, even when using differential privacy and secure aggregation, and that the training is faster due to the distribution of the training.