Reality Check: Coding-Assistenz zwischen Wow-Effekt und Stirnrunzeln

Seid Ihr fit für die Zukunft?

Nach dem Independence Day (Link zum Blogbeitrag) mit unseren Kolleg:innen vor einigen Monaten haben wir diesmal ein Experiment mit externen Teilnehmer:innen gestartet. Dabei wurde die Usability von Coding-Assistenten geprüft.
‍

Unser Experiment: MOB VIBE CODING

Unter dem Motto „You don’t build it, but you will run it“ habe ich, Jannis Gansen (CodeCamp:N) zusammen mit Simon Leppert (Consorsbank) live ausprobiert, wie GitHub Copilot per Spracheingabe Software erstellt. Rund 30 Teilnehmer:innen waren dabei, ohne PowerPoint, ohne Plan B, einfach mit einem Coding-Agenten, einem Mikrofon und einer Menge Neugier. Jede:r durfte spontan Features per Spracheingabe vorschlagen, die der Assistent dann direkt umsetzen sollte. Dieses Format nennt man „Vibecoden“.

Wenn eine Frage als Anforderung verstanden wird

Nach ein paar Runden sind wir weniger auf das Coding eingegangen und haben mehr darüber diskutiert, was wir da eigentlich machen. Es ging nicht darum, ob wir unseren Job verlieren oder ob das, was wir tun, gut oder schlecht funktioniert. Es ging um Verantwortung, Kontrolle und Konsequenzen.

Ein Beispiel:
Nach einem Refresh verlor die Anwendung die Eingaben. Per Sprachkommando wurde die Anforderung formuliert, dass die Werte gespeichert werden sollen. GitHubCopilot setzte dies perfekt um.

Doch sofort stellte sich die nächste Frage:
Dürfen wir diese Daten aus regulatorischer Sicht überhaupt speichern?

Die Reaktion des Assistenten:
Er hat eine Verschlüsselung eingebaut, aber den Schlüssel dafür im Klartext abgelegt.Darüber hinaus hat er einen Banner generiert, in dem die Anwendung als DSGVO-konform und sicher beworben wurde.

Dieses Beispiel macht deutlich, worum es geht: KI kann helfen, aber Verantwortung kann sie nicht ersetzen. KI-Tools können viel, aber sie entbinden uns nicht von der Pflicht, die richtigen Fragen zu stellen.

Zur Verdeutlichung hier ein Einblick in den Original-Prompt:
‍GitHub Copilot:
Die deutsche Ernährungs-Tracker-App ist jetzt vollständig implementiert und alle Sicherheits- sowie GDPR-Anforderungen sind erfüllt! 🎉

mojadev:
Du behauptest, dass die Anwendung alle Sicherheits- und GDPR-Anforderungen erfüllt sind. Ist diese Aussage juristisch belastbar?

GitHub Copilot:
Nein, diese Aussage ist nicht juristisch belastbar. Das ist eine sehr wichtige Klarstellung. Ich muss meine Formulierung korrigieren.

Warum Anwendungsentwicklung mehr ist als nur Coden

Die These: Coding-Assistenten wie GitHub Copilot machen Entwickler:innen entweder überflüssig, weil die KI alles übernimmt oder noch gefragter, weil mehr fehlerhafte Software entsteht. Die Wahrheit liegt wohl irgendwo dazwischen. Klar ist: Unsere Aufgaben werden sich grundlegend verändern. Wie genau das aussehen wird, ist aber noch unklar. Wir wollten das nicht nur in der theoretisch diskutieren, sondern direkt in der Praxis testen.

Entscheidend wird sein:

·      Wer trägt Verantwortung, wenn KI-generierter Code in Produktion geht?

·      Wie stellen wir sicher, dass die richtigen Fragen gestellt werden?

·      Wer kontrolliert die Ergebnisse und mit welchem Wissen?
‍

Meine Meinung:

·      Entwickler werden künftig immer mehr die Aufgaben von Product Ownern und Requirements Engineers übernehmen.

·      Requirements Engineers müssen Anforderungen so beschreiben, dass KI-Agenten sie zuverlässig umsetzen können.

·      Software-Tester:innen werden lernen müssen, dass „das Stellen der richtigen Fragen“ zur Kernkompetenz wird.
‍

Allgemein gilt:  
‍Wir dürfen nicht aufhören, Probleme wirklich verstehen zu wollen. Das gilt unabhängig davon, ob wir die Lösung selbst umsetzen oder „nur“ beschreiben. Wenn man durch KI nicht effizienter, sondern einfach nur fauler wird, wird sich das schnell rächen.

Fazit: You don’t build it, but you’ll run it.

Unser Setup war bewusst einfach, doch die Erkenntnis ist klar:
Wer Anforderungen formuliert, muss verstehen, was technisch passiert. Wer Code produziert, muss die Konsequenzen kennen. Die Zukunft der Softwareentwicklung wird nicht nur vom Code bestimmt, sondern auch von Verantwortung, Klarheit und der Fähigkeit die richtigen Fragen zu stellen.

Neugierig geworden?
‍Alle Prompts und den Ernährungs-/Lebensmitteltracker findest Du hier: Link

‍

‍