Softwareentwicklung im KI-Zeitalter: Wo der Mensch unverzichtbar bleibt

Möchten Sie Ihr Passwort zurücksetzen?» Wohl fast jeder hat in digitalen Anwendungen schon einmal auf diese allgegenwärtige Funktion zurückgegriffen. Doch so simpel sie auch erscheinen mag: Vor wenigen Jahren musste sie noch von Menschen programmiert, getestet und implementiert werden. Heute kann ein KI-System den Code für solche und viele andere Funktionen innerhalb weniger Sekunden generieren.

Engineering-Kompe­tenzen gefragt

«Softwareentwicklerinnen und Softwareentwickler werden durch KI aber nicht überflüssig», sagt Michael Inden, Dozent und Studienleiter des MAS Software Engineering an der OST – Ostschweizer Fachhochschule. «Vielmehr verändert sich ihre Rolle grundlegend.» Anstatt jede Zeile Code selbst zu schreiben, könne der Mensch den Fokus heute zunehmend auf das grosse Ganze richten: auf Architektur, Systemdesign, Qualitätsbewusstsein und fundierte technische Entscheidungen. «Software Engineers werden so immer stärker zu Ingenieurinnen und Ingenieuren, die Anforderungen analysieren, komplexe Systeme entwerfen und KI-generierte Lösungen hinsichtlich Qualität, Wartbarkeit, Sicherheit und Skalierbarkeit kritisch bewerten», erklärt Inden. Eine der wertvollsten Fähigkeiten werde deshalb zukünftig sein, zu erkennen, ob der von KI generierte Code die richtige Lösung für das eigentliche Problem sei. Denn nur, weil dieser auf den ersten Blick funktioniere, bedeute das noch nicht, dass auch alle Anforderungen erfüllt würden.


Hinzu kommt gemäss Inden, dass Entwicklerinnen und Entwickler heutzutage ein Vielfaches ihrer Zeit nicht mit dem Schreiben neuen Codes, sondern mit dem Verstehen von bestehendem Code, dem Integrieren von Änderungen, der Fehlerbehebung und der Weiterentwicklung von Systemen verbringen. Im Zeitalter von KI-Unterstützung erweitere sich dieser Fokus zusätzlich auf Requirements und Spezifikationen – also darauf, welche Anforderungen eine Software erfüllen soll und wie diese genau beschrieben werden: «Anforderungen müssen präzisiert, ihre Umsetzung überprüfbar und die Ergebnisse durch Testfälle und funktionales Testing validiert werden», sagt Inden. «Je einfacher Code generiert werden kann, desto wichtiger wird die Fähigkeit, klar zu spezifizieren, was gebaut werden soll – und nachzuweisen, dass es tatsächlich richtig gebaut wurde.» Deshalb seien Engineering-Kompetenzen – also Systemverständnis, Qualitätsbewusstsein und technisches Urteilsvermögen – zentraler denn je. «Ohne diese besteht sogar die Gefahr, dass technische Schulden schneller entstehen als früher, weil sich durch KI viel mehr Code in deutlich kürzerer Zeit produzieren lässt», sagt er. Die hohe Geschwindigkeit der KI könnte damit also zum Nachteil werden, wenn die fachliche und technische Sorgfalt nicht Schritt hält.

Fallstricke durch ergänzende Annahmen

Mit den Fallstricken, die KI mit sich bringt, beschäftigt sich auch Clemens Meier, Softwareingenieur und Dozent an der OST: «Besonders herausfordernd ist, dass KI alles, was nicht eindeutig beschrieben ist, durch eigene, eher willkürliche Annahmen ergänzt», erklärt er. KI erzeuge plausible Lösungen, statt Anweisungen immer exakt gleich umzusetzen. «Deshalb ist es riskant anzunehmen, dass sie genau das programmiert, was tatsächlich gemeint war», sagt Meier. Zwar würden auch Menschen solche Annahmen treffen. «Doch KI tut dies viel schneller und in wesentlich grösserem Umfang.»

Schwächen werden insbesondere auch bei der Weiterentwicklung bestehender Software deutlich. «Gerade bei Änderungen zeigen sich die Grenzen heutiger KI-basierter Entwicklung», erklärt Clemens Meier. Denn in solchen Fällen müsse KI erneut grosse Teile der Anforderungen und des bestehenden Codes analysieren, Zusammenhänge erkennen und ermitteln, welche Stellen es anzupassen gelte. «Das kostet Rechenleistung und Energie und kann neue Fehler oder Widersprüche erzeugen. Im ungünstigsten Fall wird bestehender Code eher neu erzeugt als gezielt weiterentwickelt.»


Gemäss Meier können ausführbare fachliche Beschreibungen dieses Problem stark reduzieren. «Änderungen würden so an einer klaren Quelle vorgenommen und ohne erneute Interpretation immer auf dieselbe Weise umgesetzt.»

Derzeit arbeitet er an einem Prototyp namens SPEX. Die Abkürzung steht für Executable Specifications, also ausführbare Spezifikationen. Fachliche Regeln werden dabei in einem vereinfachten Englisch so festgehalten, dass sie auch ohne Programmierkenntnisse verständlich sind. SPEX übersetzt diese Regeln direkt in ein ausführbares Programm. Das soll Missverständnisse vermeiden und sicherstellen, dass eine einmal festgelegte Vorgabe von der Software immer gleich umgesetzt wird. Wo hingegen noch Entscheidungen offen sind, können Menschen oder KI die weitere Umsetzung übernehmen.

Mehrwert schaffen durch Kombination der Stärken

Kombiniert man die jeweiligen Stärken von KI und Mensch, kann Mehrwert entstehen. Für Clemens Meier ist es denkbar, dass die derzeitigen Entwicklungen das Software Engineering nicht nur verändern, sondern der Branche auch einen zusätzlichen Schub verleihen. «Wenn Software-Entwicklung durch den sinnvollen Einsatz von KI effizienter und günstiger wird, könnte zugleich die Nachfrage nach neuer Software steigen. Es ist deshalb gut möglich, dass künftig insgesamt mehr Software entsteht.»


Michael Inden sieht KI dank ihrer Geschwindigkeit als leistungsfähige Assistenz. «Der eigentliche Mehrwert der KI entsteht dabei aber nicht durch möglichst viel generierten Code, sondern durch die Möglichkeit und Fähigkeit von Software Engineers, aus verschiedenen Implementierungsalternativen diejenige auszuwählen, die langfristig wartbar, verständlich und für das konkrete System am besten geeignet ist.»

Beurteilung durch Menschen wird immer notwendig sein

Bei aller Leistungsfähigkeit der KI bleibt der Mensch dort gefragt, wo es um den Überblick, um Verständnis, Abwägung und Verantwortung geht. «Menschen müssen letztlich festlegen, welches Problem gelöst werden soll, welche Regeln gelten und wer Verantwortung für die Folgen übernimmt», sagt Clemens Meier. KI könne zwar Vorschläge machen und fehlende Angaben ergänzen, jedoch nicht zuverlässig erkennen, ob ihre Annahmen tatsächlich der Absicht der Beteiligten entsprechen. Genau hier setzt auch Michael Inden an. Für ihn bleiben die Analyse von Anforderungen, Architekturentscheidungen und die Priorisierung von Qualitätsmerkmalen zentrale Aufgaben des Menschen. «Denn selbst wenn KI geeignete Lösungsansätze vorschlägt, muss letztlich jemand beurteilen, ob diese unter den konkreten fachlichen und technischen Bedingungen tatsächlich die richtige Wahl sind.»