Ethical Reflections on Quantified Self Devices and their Effects on Humans

Abstract

This thesis reflects ethical consequences of quantified self devices. Thereby, it focuses mainly on the effects on users and society. Contemporary incentives for self-optimization, constant tracking of physiological data, and feedback to users create devices which are morally questionable, since positive effects could mainly be found in certain best case scenarios. Furthermore, quantified self devices have the capability to even harm users. Instead of the contemporary design assumptions, new baselines are elaborated, which aim to maintain the respective ethical values and psychological knowledge about feedback and behavior change. These baselines intend to maintain values as autonomy, privacy, transparency, and others to find ways which support individual human growth and happiness. The argumentation unfolds alongside a critical design concept of a smart dress and its respective userstory. Insights from sociology, psychology and ethics are used to evaluate design concepts, assumptions, and possible impact on users.

In dieser Arbeit werden die ethischen Konsequenzen von Quantified Self Technologie evaluiert. Dabei stehen hauptsächlich Effekte auf Nutzer und Gesellschaft im Fokus. Gegenwärtige Anreize zur Selbstoptimierung, konstantes Aufzeichnen physiologischer Daten und Feedback an die Nutzer erschaffen Geräte, die moralisch fragwürdig sind, da die positiven Effekte mehrheitlich in best-case Szenarien gefunden werden konnten. Darüberhinaus haben Quantified-Self-Geräte das Potenzial Nutzern Schaden zuzufügen. Anstelle der gegenwärtigen Annahmen, wie ein Quantified-Self-Gerät funktionieren soll, werden in dieser Arbeit neue Vorschläge für Richtlinien erarbeitet. Diese berücksichtigen die jeweiligen ethischen Werte und Wissen aus der Psychologie über die Wirkungsweise von Feedback und Verhaltensänderung. Die Richtlinien beabsichtigen unter anderem, ethische Werte wie Autonomie, Privatsphäre und Transparenz zu erhalten. Das Ziel der Richtlinien ist Wege aufzuzeigen, welche die individuelle menschliche Weiterentwicklung und Zufriedenheit unterstützen Die Argumentation wird anhand eines Critical-Design- Konzeptes eines intelligenten Kleides und dessen Userstory entwickickelt. Erkenntnisse aus Soziologie, Psychologie und Ethik werden genutzt um Designkonzepte, Annahmen und mögliche Auswirkungen auf Nutzer zu analysieren.