Skalierbare Echtzeitverarbeitung mit Spark Streaming: Realisierung und Konzeption eines Car Information Systems

Abstract

Stream Verarbeitung ist mittlerweile eines der relevantesten Bereiche im Rahmen der Big Data Analyse, da es die Verarbeitung einer Vielzahl an Events innerhalb einer kurzen Latenz erlaubt. Eines der momentan am häufigsten genutzten Stream Verarbeitungssysteme ist Spark Streaming. Dieses wird im Rahmen dieser Arbeit anhand der Konzeption und Realisie-rung eines Car Information Systems demonstriert und diskutiert, wobei viel Wert auf das Er-zeugen einer möglichst generischen Anwendungsarchitektur gelegt wird. Abschließend wird sowohl das CIS als auch Spark Streaming mittels dem Goal-Question-Metric-Modell evaluiert. Hierbei zeigt sich, dass sich Spark Streaming zwar für die Realisierung eines skalierbaren und ausfallsicheren Systems eignet, aber durch das schnelle Voranschreiten der Weiterentwick-lung von Spark verschiedene Probleme bei der Entwicklung eines auf Spark basierten Systems entstehen können.

Streaming data processing is a hot topic in big data these days, because it made it possible to process a huge amount of events within a low latency. One of the most common used open-source stream processing platforms is Spark Streaming, which is demonstrated and dis-cussed based on a real-world use-case in this paper. The use-case is about a Car Information System, which is an example for a classic stream processing system. First the System is de-signed and engineered, whereby the application architecture is created carefully, because it should be adaptable for similar use-cases. At the end of this paper the CIS and Spark Stream-ing is evaluated by the use of the Goal Question Metric model. The evaluation proves that Spark Streaming is capable to create stream processing in a scalable and fault tolerant man-ner. But it also shows that Spark is a very fast moving project, which could cause problems during the development and maintenance of a software project.