7 Minuten Lesezeit Mit Insights von David Elliman Global Chief of Software Engineering david.elliman@zuhlke.com Sebastian Schweitzer Lead Data Consultant sebastian.schweitzer@zuehlke.com Moritz Gruber Lead Data Consultant moritz.gruber@zuhlke.com Vor nicht allzu langer Zeit wurde eine Science-Fiction-Zukunft skizziert, in der mühsame körperliche Arbeit dank künstlicher Intelligenz von Robotern der Vergangenheit angehören sollte. Es scheint wie eine Ironie des Schicksals, dass sich die Erfolge von Boston Dynamics auf Parkour-Turnübungen und dem Transport einheitlicher Kartons von Regal zu Regal beschränken, während parallel Lage Language Models und generative KI eine ernsthafte Bedrohung für kreative, technische und kaufmännische Berufe darzustellen scheinen. Aber: Tun sie das wirklich? Wird die KI zum Beispiel Software-Engineering-Jobs überflüssig machen? Oder wird es immer eine menschliche Ebene zwischen der künstlichen Intelligenz und dem Endprodukt geben müssen? Nach den Vorträgen zu diesem Thema an der Microsoft Ignite Switzerland haben wir mit den Zühlke KI- und Datenexperten Moritz Gruber, David Elliman und Sebastian Schweitzer gesprochen, um das herauszufinden: Unsere Phantasie einfangen „KI hatte schon immer die Fähigkeit, die Öffentlichkeit in ihren Bann zu ziehen - seit der Begriff in den 1950er Jahren geprägt wurde“, so David. „Die Erwartungen der Menschen an KI waren bereits hoch. Dann kam ChatGPT und hat die ganze Sache explodieren lassen. Ich meine, massiv aufgemischt. Jetzt gehen die Erwartungen durch die Decke. Vor allem, wenn es um Technologie-Buyer geht - wie z. B. CIOs und CTOs. Ihre Erwartungen an die Technologie sind enorm“. David betont jedoch, dass die Erwartungen der Menschen an die KI oft höher sind als ihre tatsächlichen Fähigkeiten und dass ihre Implementierung in Software-Engineering-Umgebungen bisher recht überschaubar war. Er ist der Meinung, dass Software-Engineering-Jobs ziemlich sicher vor dem technologischen Fortschritt sind, zumindest im Moment. Er räumt jedoch ein, dass sich die Dinge seit seiner ersten Zusammenarbeit mit frühen KI-Frameworks in den 1980er Jahren stark weiterentwickelt haben. Heute wird KI in der Softwareentwicklung als Werkzeug zur Vervollständigung des Codes eingesetzt, aber sie hat mit Aufgaben zu kämpfen, die über einfache Anwendungsfälle hinausgehen. „Der Schwerpunkt lag auf dem Implementierungsteil des Prozesses“, fügt Moritz hinzu. „Das ist also der reine Codegenerierungsteil“. Ein stumpfes Instrument also. Auch wenn stumpfe Instrumente immer noch ziemlich effektiv Nüsse knacken können. Moritz ist jedoch überzeugt, dass wir bei den potenziellen Anwendungen von KI erst an der Oberfläche kratzen. Längerfristig könnte GenAI das Design und die Entwicklung digitaler Produkte verändern. Moritz nennt Beispiele für den Einsatz von GenAI zur Automatisierung von Bereichen der Nutzerforschung und des App-Designs, zur Erstellung und Überprüfung der technischen Architektur und zur Empfehlung neuer Funktionen auf der Grundlage von Betriebskennzahlen und Nutzerfeedback. Doch bevor man anfängt, seinen Lebenslauf zu überarbeiten, sollte man sich darüber im Klaren sein, dass KI inhärente Grenzen hat - angeborene Engpässe, die es schwierig machen, Entwickler im großen Stil zu ersetzen. Lassen Sie uns also erkunden, was generative KI dem technischen Mix hinzufügt und welche Einschränkungen wahrscheinlich bleiben werden. Ein zweiteiliges Problem KI in der Softwareentwicklung ist durchaus in der Lage, Code zu generieren, aber es fehlt an echtem Verständnis und - ganz entscheidend - an echtem Fachwissen. Mit anderen Worten: KI-Softwareentwicklung benötigt menschliche Anleitung, Korrekturen und Wissen, um jede nicht-triviale Aufgabe effektiv zu bewältigen. Wie David erklärt, handelt es sich dabei um ein Problem mit zwei Dimensionen: „Zum einen ist KI nicht sehr gut geeignet, wenn es um mehr als einfache, eng begrenzte Codegenerierungsaufgaben geht. Und wenn sie Ihnen nicht das gibt, was Sie wollen, weil die Trainingsbasis nicht viel mehr als diesen Punkt umfasst, dann bekommen Sie schnell Probleme. „Zudem, wie um alles in der Welt sollen Menschen Dinge diagnostizieren und beheben, wenn sie es nicht von Grund auf selbst tun? Man braucht diese menschliche Komponente, die Fehler erkennen kann. Und der einzige Weg, diese Probleme zu lösen, ist zu wissen, was man überhaupt tut, entweder um es selbst zu korrigieren oder um in der Lage zu sein, es erneut anzufordern“. Wir stoßen hier also auf zwei große Einschränkungen: Trainingsdaten und menschengesteuerte Qualitätssicherung. KI muss mit unzureichenden Trainingsdaten umgehen und Entwickler:innen müssen Fehler überprüfen und korrigieren. Bei ersterem muss KI die Hürde unzureichender Trainingsdaten für die Handhabung komplexer Softwaresysteme und -architekturen überwinden. Bei letzterem müssen Menschen in der Lage sein, Fakten zu überprüfen und Ergebnisse zu korrigieren. Klarer wird die Thematik mit einer Analogie, wie z. B. dem Bau eines Hauses. Es klingt verlockend, wenn ein Roboter diese Aufgabe übernehmen könnte. Aber nur ein ausgebildeter Facharbeiter ist in der Lage zu beurteilen, ob das Haus richtig gebaut wurde oder zu erklären, warum das Dach heruntergefallen ist. Oder, wie David es ausdrückt: „Man muss das tiefe Verständnis besitzen, dass man sagen kann: ‚Nein, das habe ich nicht gemeint‘“. Aufgrund dieser Einschränkungen sehen sowohl David als auch Moritz KI in der Softwareentwicklung eher als Optimierungs- denn als Ersatztool - ein Werkzeug, mit dem erfahrene Entwickler ihre Produktivität steigern können. Das bedeutet, dass Entwickler mit Fachkenntnissen und der Fähigkeit, Anforderungen zu definieren, mit Komplexität umzugehen und Qualität zu gewährleisten, immer noch gebraucht werden, um die menschliche Kontrolle zu gewährleisten. Gleichzeitig wissen wir, dass sich die Dinge stets weiterentwickeln. Wird dieses Gefühl auch in fünf, zehn oder 20 Jahren noch gelten? „Man kann nie mit Sicherheit sagen, wie es sich entwickeln wird“, sagt David, „oder dass sich diese Aussagen schon sehr bald als falsch erweisen könnten. „Ich denke, wir werden eine Steigerung der Fähigkeiten der Modelltypen selbst erleben, was die Möglichkeiten angeht. Und ich glaube, dass wir sie effektiver trainieren werden, aber ich glaube nicht, dass wir den Punkt erreichen werden, an dem menschliche Entwickler nicht mehr gebraucht werden, denn die Richtung, in die es geht, basiert immer noch auf menschlichem Input“. Ein kostspieliges Problem will gelöst werden Wenn KI keine Arbeitsplätze ersetzt, stellt sich die Frage: Welchen Einfluss hat die Arbeit mit KI? Und wie wird sich diese Beziehung auf Funktionen und Verantwortlichkeiten auswirken? Vereinfacht ausgedrückt, könnte man sagen, Menschen werden durch KI fachlich vielseitiger. Funktionen wie Qualitätssicherung und Testing werden an Bedeutung gewinnen, da KI die Notwendigkeit erhöht, jeden generierten Code zu validieren. Gleichzeitig werden Domänenexperten, die auch die Geschäftslogik verstehen, weiter sehr gefragt sein. Dies wird wahrscheinlich dazu führen, dass sich einige Funktionen miteinander verzahnen. „Moritz erklärt: Wenn man sich Schlüsseldisziplinen wie Customer Experience und User Experience anschaut, sehen wir eine Zukunft, in der es Sinn macht, einzelne Teildisziplinen zu verschmelzen“. Zukunftssichere Tipps für Software-Führungskräfte Für agile Teams und Praktiker: Sie werden von Kollegen, die generative KI nutzen und verstehen, überholt werden. Also experimentieren Sie mit neuen Tools und lernen Sie, Ihre Prompts zu beherrschen. Grundlegendes Fachwissen wird langfristig zur Ware; heben Sie sich jetzt ab, indem Sie Ihr Fachwissen erweitern. Generative KI wird die Grenzen zwischen den Disziplinen verwischen, so dass es sich lohnt, die eigene Disziplin zu erweitern Für technische Leitende und Entscheider:innen: Generative KI steigert den Produktivitätswettbewerb, also beschleunigen Sie jetzt die Einführung von Tools in Ihrem Unternehmen KI bringt neue Risiken und Chancen mit sich, daher sollten Sie erwägen, KI-Fachleute in Ihr Team zu integrieren. Langfristig wird GenAI dazu führen, dass Disziplinen konvergieren und sich überschneiden. Kurzfristig wird sie innerhalb der jeweiligen Disziplinen ein großer Beschleuniger sein, wenn sie mit menschlicher Aufsicht kombiniert wird. Sie werden Fachwissen einstellen wollen, das sich über Disziplinen und Abteilungen erstreckt. Letztlich räumen sowohl David als auch Moritz ein, dass es eine Schwelle geben könnte, unterhalb derer die am wenigsten komplexen Arbeiten (die einfachsten Dinge, die derzeit von Menschen erledigt werden) automatisiert werden. Aber, wie David erklärt, wird es die wichtige menschliche Komponente weiterhin geben müssen, um schwierige Probleme zu lösen: „Wenn man bei der KI-Softwareentwicklung einen Punkt erreicht, an dem die Komplexität zu hoch wird, kommt man bald zu einem Stück Code, das man nicht versteht, und es passieren unerwartete Dinge. Und wenn man das Problem nicht ausfindig machen kann, wird es zu einem kostspieligen Problem, das zu lösen ist. „Wir wollen uns also nicht in eine Lage bringen, in der wir nicht wirklich verstehen, was in den Code eingeflossen ist. Man könnte zwar argumentieren, dass wir einfach intelligentere Diagnosewerkzeuge entwickeln, aber in diesem Szenario gibt es plötzlich zu viele Abhängigkeiten zwischen den Systemen“. Letztendlich wird also immer der Mensch gebraucht. Vor allem Menschen, die verstehen, was KI vor hat - oder zumindest wissen, wie man ihre Fehler behebt. Das macht die KI-Softwareentwicklung zu einem leistungsstarken Werkzeug zur Ergänzung und Optimierung von Softwareentwicklungsabläufen, aber nicht zu einem vollwertigen Ersatz für menschliche Software-Engineering-Jobs. Und es gibt eine klare Botschaft an die Software-Ingenieure von heute: Halten Sie sich über Tools und Trends rund um KI in der Softwareentwicklung auf dem Laufenden, verfeinern Sie Ihre Eingabeaufforderungen und werden Sie neugierig auf die Disziplinen zu Ihrer Linken und Rechten. Das könnte Sie auch interessieren: KI in der Softwareentwicklung: Was Führungskräfte wissen sollten Responsible AI: ein Framework für ethische KI-Lösungen KI-Trends: wie sich KI auf Ihr Unternehmen auswirkt | Zühlke