Wenn Code nicht mehr im Mittelpunkt steht

Künstliche Intelligenz verändert die Entstehung von Software grundlegend. Sie unterstützt Entwickler und Tester nicht nur bei einzelnen Aufgaben, sondern übernimmt zunehmend selbstständig Teile des Entwicklungsprozesses. Dieser strukturelle Wandel hat Auswirkungen auf die Wettbewerbsfähigkeit, das Innovationstempo und die Kostenstrukturen. Das Software-Engineering wandelt sich dabei von einer arbeitsintensiven, codezentrierten Disziplin zur Entwicklung und Steuerung intelligenter, anpassungsfähiger Systeme. Dies wirkt sich auf die gesamte Wertschöpfungskette aus.

Das Beratungsunternehmen Expleo sieht das als Zukunft der Entwicklung: von Anwendungen mit KI-Unterstützung über Anwendungen als Services mit agentischen APIs bis hin zu Agenten auf Basis von Geschäftswissen und Daten. Am weitreichendsten ist das Szenario einer „Appless World“: eine übergeordnete KI-Schicht, über die Nutzer ihre Ziele formulieren, anstatt einzelne Anwendungen zu bedienen. Menschen greifen vornehmlich dort ein, wo Urteilsvermögen gefragt ist.

Der Wert verschiebt sich

Mit dem zunehmenden Einsatz von KI verändern sich auch die wirtschaftlichen Parameter der Softwareentwicklung. Bislang wurde die Wertschöpfung über Personal skaliert. Künftig werden jedoch Plattformen und Automatisierungen eine zentrale Rolle spielen. Die Folge: Kleinere, hochqualifizierte Teams können Systeme liefern und betreiben, für die bislang große Organisationen nötig waren. Dadurch entstehen Wettbewerbsvorteile weniger über Kapazität als vielmehr über Domänenwissen, Architekturkompetenz und die Fähigkeit, KI sicher zu operationalisieren.

Softwareentwickler werden dadurch nicht überflüssig. Ihr Schwerpunkt wird sich jedoch verschieben. Wenn KI einen wachsenden Teil der Codeproduktion übernimmt, gewinnen Systemdesign, Architektur und die Definition von Leitplanken an Bedeutung. Für das Requirements Engineering gilt Ähnliches: Anstatt Anforderungen bis ins letzte Detail für eine spätere Umsetzung zu dokumentieren, wird es immer wichtiger, Geschäftsziele, Erfolgskriterien und Grenzen so zu formulieren, dass Menschen und KI-Systeme gleichermaßen damit arbeiten können.

Automatisierung braucht Kontrolle

Je autonomer KI in der Entwicklung und im laufenden Betrieb von Anwendungen handelt, desto dringlicher wird die Frage nach Kontrolle. Ein Funktionstest am Ende eines Entwicklungsabschnitts reicht nicht mehr aus, wenn KI-Systeme auch im laufenden Betrieb eigenständig agieren.

Qualitätssicherung muss deshalb über klassische Funktionstests hinausgehen. Robustheit, Erklärbarkeit, mögliche Verzerrungen, Sicherheit und regulatorische Anforderungen müssen über den gesamten Lebenszyklus hinweg berücksichtigt und nicht erst am Ende geprüft werden. So entwickelt sich DevOps zunehmend zu AgentOps weiter: KI-Agenten werden im laufenden Betrieb beobachtet, gesteuert und kontrolliert.

Zugleich muss die Qualitätssicherung an das neue Tempo angepasst werden, was mittels Automatisierung gelingt: KI generiert Testfälle, stellt Testdaten bereit und passt Testsuiten an Veränderungen an. Mit diesen Möglichkeiten wachsen jedoch auch die Kontrollaufgaben. Unternehmen müssen Modellrisiken bewerten, KI-Systeme gezielt auf Schwachstellen prüfen und sicherstellen, dass Entscheidungen nachvollziehbar und auditierbar bleiben. Das Testmanagement wandelt sich somit von einer Abnahmefunktion zur kontinuierlichen Steuerung von Qualität, Vertrauen, Compliance und Geschäftsrisiken.

Neue Aufgaben für den Menschen

Auch etablierte Rollen verändern sich. So werden Requirements Engineers zu Business Value Designern. Sie übersetzen Geschäftsabsichten und Erfolgskriterien für die Zusammenarbeit von Mensch und KI. Dabei steht weniger das Pflichtenheft als vielmehr die Zieldefinition im Vordergrund. Testmanager werden zu AI Quality Governors und übernehmen mehr Verantwortung für Leitplanken, Kontrollen und Risiken. Und dort, wo KI an fachliche oder ethische Grenzen stößt, bleiben Experts-in-the-Loop gefragt: Fachleute, die Entscheidungen beurteilen und eingreifen, wenn die Automatisierung an ihre Grenzen kommt.

Entscheidend ist dabei weniger der neue Jobtitel als die dahinterstehende Veränderung: Je mehr operative Aufgaben KI übernimmt, desto stärker konzentriert sich menschliche Arbeit auf Kontext, Urteil und Verantwortung. Code zu produzieren, bleibt relevant. Er ist jedoch nicht mehr der alleinige Maßstab für gutes Software-Engineering.

Verantwortung lässt sich nicht automatisieren

Menschen verschwinden nicht aus dem Entwicklungsprozess. Ihre Aufgabe verschiebt sich von der Erstellung einzelner Artefakte hin zu Architektur, Orchestrierung und Kontrolle. Dadurch wird Software-Engineering zur Steuerungsaufgabe. Für Entscheider bedeutet dies, dass Architekturkompetenz, Vertrauen und eine durchgängige Qualitätssteuerung zu ihren Führungsaufgaben werden und nicht mehr zu den Detailfragen der IT-Abteilung gehören. Denn je mehr Entwicklung durch KI übernommen wird, desto wichtiger wird es, wer Ziele definiert, Grenzen setzt und für die Ergebnisse Verantwortung trägt.

Bilder: Expleo, Pressfoto / Magnific