Redesigning an AI-as-a-Service Platform: A maintainable microservice architecture for small development teams

Abstract

Diese Arbeit konzentriert sich auf die Neugestaltung einer AI-as-a-Service-Plattform mit dem Ziel, eine wartbare Microservice-Architektur zu entwickeln, die für kleine Entwicklungsteams geeignet ist. Die DaFne-Plattform, die im Mittelpunkt dieser Arbeit steht, bietet verschiedene Methoden zur Generierung und Evaluation von Daten. Die Herausforderung besteht darin, eine Architektur zu entwerfen, die Skalierbarkeit, Erweiterbarkeit und Wartbarkeit gewährleistet, und gleichzeitig die begrenzten Ressourcen eines kleineren Entwicklungsteams berücksichtigt. Um dies zu erreichen, wird die bestehende Architektur analysiert, um Schwachstellen zu identifizieren. Basierend auf dieser Analyse untersucht die Arbeit Best Practices und Architekturmuster, die eine Balance zwischen Komplexität, Leistung und Ressourceneffizienz bieten. Ein zentraler Bestandteil dieser Untersuchung ist die Bewertung verschiedener Microservice-Designansätze, einschließlich der Nutzung von reaktiven Frameworks und Kubernetes für die Container- Orchestrierung. Die vorgeschlagene Architektur wird beispielhaft durch die Implementierung eines Datengenerierungdienstes der Plattform umgesetzt. Die vorgeschlagenen Ansätze reduzieren die Komplexität und verbessern die Wartbarkeit innerhalb einer Microservice-Architektur. Die Arbeit schließt mit weiteren Themengebieten für zukünftige Arbeiten und gibt die nächsten Schritte in der Entwicklung der Plattform vor.

This thesis focuses on the redesign of an AI-as-a-Service platform with the goal of creating a maintainable microservice architecture suitable for small development teams. The DaFne platform, which is the focus of this work, provides various data generation and evaluation methods. The challenge lies in designing an architecture that ensures scalability, extensibility, and maintainability while considering the limited resources of a small team. To address this, the existing architecture is analyzed to identify pain points and areas for improvement. Based on this analysis, the thesis explores best practices and architectural patterns that balance complexity, performance, and resource efficiency. A key part of this work is the evaluation of different microservice design approaches, including the use of reactive frameworks and Kubernetes container orchestration solutions. The proposed architecture is partially implemented by reworking a core service of the platform to serve as an example. The resulting approach offers a solution to reduce complexity within a microservice architecture and improve maintainability. The thesis concludes with recommendations for future research topics and outlines the next steps in the development of the platform.