Optimierung von automatischen Skalierungs- und Lastverteilungsmechanismen am Beispiel einer ungeeigneten Applikation

Abstract

Energiekrise, Klimawandel und Kosteneffizienz spielen eine immer größer werdende Rolle in unserer Zeit [34]. Auch im Kontext von Cloud-Systemen und Anwendungen in der Cloud gilt es, effizient und umweltschonend zu agieren. Um Energie- und Kosteneffizienz zu erreichen bieten Lastverteilungs- und Skalierungsmechanismen eine Lösung [8]. In dieser Arbeit werden Vorgehensweisen für die Skalierung und Lastverteilung eines Cloud-Systems analysiert. Eine Grundlage für die Analyse bilden Konzepte aus der Warteschlangentheorie. Ziel dieser Arbeit ist es, Optimierungsmöglichkeiten für eine Anwendung zu erörtern, welche nicht für den hochverfügbaren Einsatz konzipiert wurde. Eine ungeeignete Anwendung stellt in dieser Arbeit eine Applikation dar, welche hohe Antwortzeiten hat und keine gleichzeitigen Nutzer:innen ermöglicht. Diese Anwendung wird als Black Box angesehen - ein System welches nur von außen betrachtet werden kann. Anhand der Grundlagen der Warteschlangentheorie wird das Warteschlangen-Modell von Vilaplana et al. besprochen. Die Ergebnisse von Vilaplana et al. beschreiben, wie ein System aus Wartschlangen agiert. Durch Anpassung des Modells auf den Anwendungsfall dieser Arbeit kann festgestellt werden, dass eine hohe Serveranzahl nicht zwingend eine geringere Antwortzeit zur Folge hat. In diesem Fall kann die Servicezeit so hoch sein, dass die Ankunftsrate keine effektive Nutzung der übrigen Server ermöglicht. Hierbei entstehen Leerläufe, die es zu vermeiden gilt. In den Versuchen dieser Arbeit werden Lastverteilung und Skalierung genutzt, um diese Leerläufe zu minimiern. Deutlich wird, dass der im theoretischen Teil der Arbeit besprochene Lastverteilungsalgorithmus Advanced weighted Round Robin (AWRR) 2.4.6, die effizienteste Lastverteilung ermöglicht. Durch die Kombination des AWRR und Skalierung entsteht ein System, welches eine ungeeignete Anwendung hochverfügbar machen kann.

Energy crisis, climate change and cost efficiency play an ever increasing role in our time [34]. In the context of cloud systems and applications in the cloud, it is also important to act efficiently and in an environmentally friendly manner. To achieve energy and cost efficiency, load balancing and scaling mechanisms provide a solution [8]. In this thesis, approaches for scaling and load balancing of a cloud system are analyzed. Concepts from queueing theory form a basis for the analysis. The goal of this work is to discuss optimization options for an application that was not designed for high-availability use. An unsuitable application in this work is an application that has high response times and does not allow concurrent users. This application is considered a black box - a system that can only be viewed from the outside. Based on the basics of queuing theory, the queuing model of Vilaplana et al. is discussed. The results of Vilaplana et al. describe how a system of queues acts. By adapting the model to the use case of this thesis, it can be found that a high number of servers does not necessarily result in a lower response time. In this case, the service time may be so high that the arrival rate does not allow effective use of the remaining servers. This results in idle time, which must be avoided. In the experiments of this thesis, load balancing and scaling are used to minimize these idle times. It becomes clear that the Advanced weighted Round Robin (AWRR) load balancing algorithm 2.4.6, discussed in the theoretical part of the thesis, provides the most efficient load balancing. The combination of the AWRR and scaling creates a system that can make an unfit application highly available.