Quotierung und Priorisierung in einem Multi-Tenancy Kubernetes Cluster

Abstract

Sobald mehrere Menschen oder Anwendungen auf einem Cluster arbeiten, muss darauf geachtet werden, dass sich diese nicht ungewollt in die Quere kommen. Um solche Konflikte zu verhindern, untersucht diese Arbeit die Ressourcenverteilung in einem Multi-Tenancy Cluster. Es wird ein Konzept gezeigt, welches die Pods, Namespaces und Gruppen von Namespaces in ihrem Ressourcenverbrauch limitiert. Durch diese Quotierung ist der Ressourcenverbrauch der Nutzenden, der Anwendungen und damit des Clusters besser kontrollierbar. Außerdem können durch Priorisierungskonzepte Requests in ihrer Wichtigkeit gesteuert werden. Dadurch können bestimmte Requests bevorzugt oder gezielt auf ruhigere Phasen des Clusters verschoben werden. Die Priorisierung hilft damit, die zeitliche Komponente der Ressourcenzuteilung zu steuern. Um die Ressourcen des Clusters besser zu überwachen, werden ergänzende Monitoringmaßnahmen eingeführt. Hier sollen inaktive Pods erkannt werden, um unnötig besetzte Ressourcen zu erkennen. Außerdem wird ein Konzept zur Überwachung der ergänzenden GPU-Ressourcen vorgestellt, um ein umfassenderes Bild der Ressourcennutzung zu ermöglichen. Im Rahmen dieser Arbeit wird zusätzlich die vorhandene Multi-Tenancy Anwendung Kiosk mit dem aktuelleren Hierarchical Namespace Controller abgelöst. Mit Admission Controllern wird dabei erreicht, die existierenden Ressourcen verlustfrei in die neue Struktur zu überführen.

When multiple users or applications are working on a single cluster, it is important to ensure they do not inadvertently interfere with each other. With the aim to minimize such interference, this paper investigates the resource allocation in a multi-tenancy cluster with static resources. A concept is presented to limit the resources of pods, namespaces, and groups of namespaces, which helps to control the resource usage of users, applications, and thus the cluster itself. In addition, priorities allow indicating the importance of requests. This makes it possible to favour requests or defer them to later times with lower traffic. Therefore, the prioritization helps manage the temporal aspect of resource allocation. To better monitor the cluster’s resources, supplementary monitoring measures are introduced. They aim at identifying inactive pods to recognize unnecessarily occupied resources. Furthermore, a concept for monitoring additional GPU resources is presented to provide a more comprehensive view of the cluster’s resource usage. Additionally, this paper provides a solution to replace the existing multi-tenancy application Kiosk with the newer Hierarchical Namespace Controller. Admission controllers are used to transition existing resources into the new structure without loss.