Wahrnehmung KI-generierter Software - Auswirkungen der Offenlegung von KI-Genese auf das Nutzervertrauen

Abstract

Der jüngste Aufstieg generativer künstlicher Intelligenz hat den Paradigmenwechsel von manuellem Coding zu Vibecoding initiiert, bei dem Programmcode durch natürliche Sprache mit sogenannten Prompts erzeugt wird. Da diese Systeme auf Large Language Models basieren, weisen sie inhärente Blackbox-Eigenschaften und eine Neigung zu Halluzinationen auf, die durch ihren oft professionellen Klang plausibel wirken. Der derart generierte Code weist jedoch oft fehlerhafte Logik und Sicherheitslücken auf. Dies birgt die Gefahr, dass Nutzer der professionell aussehenden Benutzeroberfläche einer so erzeugten Anwendung ein unreflektiertes Übervertrauen entgegenbringen, ohne die potenziell fehlerhafte Berechnungslogik zu hinterfragen. Die vorliegende Bachelorarbeit untersucht daher, wie die Offenlegung der KI-Genese das Nutzervertrauen beeinflusst. Anhand eines vollständig mit Figma Make generierten Photovoltaik-Amortisationsrechners wurde eine qualitative Nutzerstudie (N = 8) mit zwei Untersuchungsgruppen (aufgeklärt über KI-Erzeugung vs. unaufgeklärt) durchgeführt. Die Datenerhebung erfolgte mittels Thinking-Aloud-Protokollen, semi-strukturierten Interviews und einem adaptierten Trust-in-Automation-Fragebogen. Die thematische Analyse der qualitativen Ergebnisse zeigt, dass eine ansprechende Nutzeroberfläche ein hohes initiales emotionales Vertrauen generieren kann. Die Offenlegung der KI-Genese kann jedoch als entscheidender Störfaktor wirken. Sie durchbricht das blinde Vertrauen und induziert ein angemessenes Misstrauen. Die Arbeit schließt mit der Erkenntnis, dass Transparenz über den generativen Ursprung von Software essenziell ist, um in Hochrisikokontexten eine angemessene Systemnutzung zu gewährleisten.

The recent rise of generative artificial intelligence has initiated a paradigm shift known as vibecoding, in which program code is generated via natural language inputs, or prompts. Because these systems are based on Large Language Models, they exhibit inherent black-box characteristics and a tendency toward hallucinations, which appear plausible due to their often professional-sounding output. However, code generated in this manner frequently contains flawed logic and security vulnerabilities. This creates the risk that users might place unreflective overtrust in the professional-looking user interface of such an application without questioning the potentially flawed underlying computational logic. Therefore, this bachelor’s thesis investigates how disclosing the AI genesis of a software application influences user trust. Using a photovoltaic amortization calculator entirely generated with Figma Make, a qualitative user study (N = 8) was conducted with two experimental groups (informed about AI-Origin vs. uninformed). Data collection was performed using think-aloud protocols, semi-structured interviews, and an adapted Trust in Automation questionnaire. The thematic analysis of the qualitative results demonstrates that an appealing user interface can generate a high level of initial afftec-based trust. However, the disclosure of the AI genesis can act as a crucial disruptive factor. It shatters blind trust and induces warranted distrust. The thesis concludes that transparency regarding the generative origin of software is essential to ensure appropriate reliance in high-risk contexts.