DevSecOps neu gedacht: Wie KI Entwickler unterstützt

Künstliche Intelligenz wird unser Leben in vielfacher Hinsicht verändern. Julia Gätjens ist Solutions-Architektin bei GitLab und berät ihre Kunden bei der Umsetzung von DevSecOps-Prozessen. In ihrer Keynote auf unserer Jahreskonferenz IT-Tage spricht die ehemalige Simultandolmetscherin und Wahl-Frankfurterin über die Macht der Synergie zwischen Mensch und KI und beleuchtet die vielfältigen Möglichkeiten und Herausforderungen dieser Beziehung. Wir haben sie vor der Konferenz gefragt, welche Entwicklungen wir im Bereich der künstlichen Intelligenz erwarten können, welche Gefahren KI mit sich bringt und wie KI heute bereits bei der Software-Entwicklung unterstützen kann. Spannend ist dabei sicherlich auch die Frage, welche Rolle der Datenschutz und ethische Leitlinien im Zusammenhang mit KI spielen.

Informatik Aktuell: In einer Welt, die zunehmend von Software gesteuert wird, gewinnt die künstliche Intelligenz immer mehr an Bedeutung. Die Einsatzmöglichkeiten von KI eröffnen uns ungeahnte Horizonte, um komplexe Probleme mit bisher unvorstellbarer Effizienz und Präzision anzugehen. Wie wird KI unsere Entwicklung, unser Leben, unsere Arbeitsweise und unsere Entscheidungsfindung in Zukunft verändern?

Julia Gätjens: Kein Zweifel: KI wird die Zukunft von Wirtschaft und Technologie revolutionieren. Für viele Unternehmen geht es bei KI tatsächlich um mehr Effizienz. Sie wollen ihre Teams auf ein höheres Niveau bringen, ihre Leistung steigern und Software schneller bereitstellen.

Erhebungen aus unserem "2023 Global DevSecOps Report" zeigen, dass KI die Produktivität und Zusammenarbeit in fast 60 Prozent der täglichen Arbeit von Entwicklern steigern kann [1]. Um das volle Potenzial von KI auszuschöpfen, muss sie in den gesamten Lebenszyklus der Software-Entwicklung eingebettet werden. Erst dann profitieren alle, die an der sicheren Bereitstellung von Software beteiligt sind, von der Leistungssteigerung und nicht nur die Entwickler.

Entwicklern hilft die KI dabei, effektiver zu programmieren und Code schneller fertigzustellen. Sicherheitsteams können Schwachstellen besser eingrenzen und managen. Und Betriebsteams haben die Gewähr, dass sie effektiver CI-/CD-Pipelines aufbauen und Software bereitstellen können. Letztlich hilft KI den Unternehmen, Software schneller zu liefern.

Informatik Aktuell: Was wird in den nächsten Jahren die sensationellste Entwicklung im Bereich der künstlichen Intelligenz sein? Was können wir dort erwarten?

Julia Gätjens: Transparenz in Bezug auf Datenschutz und geistiges Eigentum. Gerade bei Unternehmen, die KI als Teil ihrer DevSecOps-Prozesse einsetzen, ist Transparenz noch wichtiger. Denn sie müssen wissen, worauf sie sich bei der Verwendung von KI-Funktionen einlassen und wie Updates kommuniziert werden.

Optimistisch stehen Teams der Einführung von KI gegenüber. Das ergab der 2023 Global DevSecOps Report von GitLab. 83 Prozent der Befragten halten es für unerlässlich, KI in ihre Software-Entwicklungsprozesse zu integrieren, um nicht ins Hintertreffen zu geraten. Fast ebenso viele Befragte (79 Prozent) äußerten jedoch auch Bedenken, dass KI-Tools Zugriff auf ihre privaten Daten und ihr geistiges Eigentum haben könnten.

Ohne Transparenz seitens der Anbieter von KI-Tools sind Unternehmen nicht in der Lage, die Risiken beim Umgang mit sensiblen Informationen, Kundendaten, Geschäftsgeheimnissen sowie dem geistigen Eigentum des Unternehmens zu erkennen.

Informatik Aktuell: Was sind die Gefahren?

Julia Gätjens: Mit der raschen Entwicklung und Einführung von KI-gesteuerter Code-Implementierung geht die Gefahr einher, dass immer mehr voreingenommene und diskriminierende Code-Vorschläge gemacht werden. Dieser Anstieg ist darauf zurückzuführen, dass die KI-Tools nur so gut sind wie die Datensätze, auf denen sie trainiert werden. Es ist zu erwarten, dass im Jahr 2024 solche voreingenommenen Ergebnisse zunehmen werden. Dies wird jedoch wie ein Katalysator für die Branche wirken, der zu strengen ethischen Richtlinien und verstärkten Schulungsmaßnahmen führt. Dies wird die Fähigkeit der KI-Tools verbessern, kritischer und unparteiischer zu sein.

Informatik Aktuell: Außerdem halten Sie eine Keynote zum Thema Künstliche Intelligenz auf den IT-Tagen der Informatik Aktuell. Welche besonderen Chancen und Vorteile haben wir im Bereich der Software-Entwicklung mit KI?

Julia Gätjens: In meiner eigenen Arbeit erlebe ich (fast) täglich, dass KI den Entwickler entlasten kann. Beispielsweise kann KI einem Entwickler mit Code-Vorschlägen dabei helfen, eine neue Programmiersprache schneller zu erlernen, anstatt die Dokumentation zu durchsuchen und durch Trial-and-Error zu lernen. Das wahre Potenzial der KI in der Software-Entwicklung geht jedoch weit über die Code-Generierung hinaus.

Laut dem GitLab DevSecOps-Bericht verbringen Entwickler nur 25 Prozent ihrer Zeit mit der Code-Generierung. Der Rest entfällt darauf, bestehenden Code zu verbessern, zu verstehen, zu testen und zu warten – sowie Sicherheitslücken zu erkennen und zu beheben. Das macht fast 60 Prozent ihrer täglichen Arbeitszeit aus. Hier kann die KI – durch Erklärungen zu Schwachstellen, Zusammenfassungen von Codeänderungen, automatisierte Tests und vieles mehr – zu Effizienzsteigerungen beitragen und die Produktivität und Zusammenarbeit über den gesamten Softwareentwicklungszyklus hinweg verbessern.

KI ist nicht in der Lage, Software selbständig und fehlerfrei zu entwickeln.

Informatik Aktuell: Wie kann künstliche Intelligenz derzeit die Software-Entwicklung und den IT-Betrieb unterstützen?

Julia Gätjens: KI automatisiert wiederholbare und monotone Aufgaben und setzt dadurch Ressourcen für komplexere und kreative Aufgaben frei. So kann KI beispielsweise Code generieren, Fehler erkennen und Schwachstellen erklären, was die Entwicklungsprozesse beschleunigt und die Software-Qualität verbessert. Im IT-Betrieb kann KI die Überwachung und Analyse der Systemleistung und -verfügbarkeit automatisieren, indem Probleme frühzeitig erkannt und Präventivmaßnahmen vorgeschlagen werden. Sie kann auch prognostizieren, wann Hardware- und Software-Wartungen durchgeführt werden sollten, um Ausfallzeiten zu minimieren und die Zuverlässigkeit zu erhöhen.

Trotz dieser Fortschritte muss betont werden, dass KI nicht in der Lage ist, Software selbständig und fehlerfrei zu entwickeln. Es gibt immer noch einen Unterschied zwischen "es funktioniert" und "es ist richtig", da KI-Modelle Schwierigkeiten haben, abstrakte Konzepte oder die Gesamtheit der Anforderungen zu verstehen. Hier bleibt das menschliche Fachwissen entscheidend und unverzichtbar. Die Automatisierung einfacher Aufgaben kann sich jedoch auf bestimmte Funktionen innerhalb einer Organisation auswirken. Daher ist es wichtig, Umschulungs- und Weiterbildungsprogramme zu fördern, um DevOps-Fachleute auf komplexere Aufgaben vorzubereiten und sicherzustellen, dass sie mit ihren Aufgaben wachsen können. KI fördert die menschliche Kreativität und Problemlösungskompetenz, indem sie den Menschen Zeit verschafft, während die KI sich um Routineaufgaben kümmert.

Informatik Aktuell: Sie sind Solution-Architektin bei GitLab. Sie bieten eine der führenden DevSecOps-Plattformen an und decken damit den gesamten Software-Entwicklungszyklus ab. Wie unterstützt GitLab bereits den Prozess der Software-Entwicklung, CI/CD oder DevSecOps mit KI? Was kann ich als Software-Entwickler erwarten?

Julia Gätjens: KI muss in den gesamten Lebenszyklus der Software-Entwicklung integriert werden, damit DevSecOps-Teams von mehr Sicherheit, Effizienz und Zusammenarbeit profitieren. Anfang dieses Jahres haben wir GitLab Duo vorgestellt, eine Suite mit 14 KI-Funktionen, darunter automatische Empfehlungen für Reviewer, Code-Vorschläge, Chat, Schwachstellen-Zusammenfassungen, Code Suggestions, Zusammenfassungen von Diskussionsverläufen im Projektmanagement, Zusammenfassungen von Merge-Requests, Erstellung von Merge-Request-Vorlagen, Zusammenfassungen von Code-Reviews, Generierung von Tests, Git-Hilfestellungen, Ursachenanalyse, Erstellung von Beschreibungen im Projektmanagement und Value-Stream-Prognosen.

Und im November haben wir die Beta-Version von GitLab Duo Chat angekündigt. Dieser leistungsfähige KI-Assistent in NLP-Sprache bietet Anwendern Anleitungen, Einblicke und Vorschläge in Echtzeit. Sie unterstützen bei der Analyse von Code und assistieren bei der Planung. Sie helfen, Sicherheitsprobleme zu verstehen und zu beseitigen, Fehler in der CI/CD-Pipeline und auch bei Merge-Anfragen zu beheben und vieles mehr.

Informatik Aktuell: Dürfen wir eine blasphemische Frage stellen? Wird künstliche Intelligenz in fünf Jahren alle Software-Entwickler ersetzt haben?

Julia Gätjens: Nein, aber KI wird zunehmend in die Arbeitsabläufe von Software-Entwicklern integriert werden und sie in fast allen Aspekten ihrer Arbeit unterstützen.

Software-Entwickler sind verantwortlich für kreative Problemlösungen, Designentscheidungen und die Kommunikation mit anderen Teammitgliedern und Kunden. In diesen Bereichen werden menschliche Intelligenz und Erfahrung immer wichtig sein.

Unternehmen sollten sich eher darauf konzentrieren, KI-Schulungen und -Angebote für alle Stellen und Funktionsbereiche bereitzustellen, die KI einsetzen. Es muss unbedingt sichergestellt werden, dass die Angebote für die Entwicklungsteams relevant und aktuell sind und die neuesten KI-Technologien und -Anwendungen abdecken.

Die künftige Rolle des Software-Entwicklers wird wahrscheinlich eher die eines Software-Architekten sein, der für das Gesamtkonzept verantwortlich ist. Daher wird die Zusammenarbeit zwischen Mensch und Maschine noch wichtiger werden.

Informatik Aktuell: Und wann und für welche Aufgaben sollten wir keine KI einsetzen?

Julia Gätjens: Jedes Unternehmen hat einen anderen Anwendungsfall und KI wird nicht immer alle Probleme lösen. Um KI verantwortungsbewusst einzuführen, müssen Unternehmen zunächst nach Möglichkeiten suchen, dies in Einklang mit ihren Zielen und Werten zu tun. Anschließend gilt es, zu ermitteln, wo das Risiko im Unternehmen am geringsten ist, um hier mit dem Einsatz von KI zu beginnen. Sie können Best Practices in einem Bereich mit geringem Risiko entwickeln, bevor sie weiteren Teams die Einführung von KI gestatten. Danach können sie auch in anderen Bereichen sicher skalieren.

Unternehmensleiter sollten als erstes Gespräche zwischen ihren technischen Teams, der Rechtsabteilung und KI-Dienstleistern organisieren. Hier geht es darum, sich auf gemeinsame Ziele zu verständigen. Auf dieser Basis gelingt die Entscheidung darüber, worauf man sich konzentrieren und wie man das Risiko, das durch KI entstehen kann, minimieren will.

Von dort aus können Unternehmen damit beginnen, Rahmenbedingungen und Richtlinien für die KI-Implementierung festzulegen, z. B. für die Nutzung durch Mitarbeiter, die Bereinigung von Daten, die Offenlegung von Daten in Produkten oder um Möglichkeiten der Moderation.

Die leistungsfähigsten Systeme entstehen, wenn wir die Fähigkeiten der Menschen durch KI erweitern.

Informatik Aktuell: KI-Algorithmen sind in der Lage, enorme Datenmengen zu analysieren und zu verarbeiten. Sie können uns zu neuen Erkenntnissen und schnellerem Fortschritt verhelfen. Aber wir Menschen haben eine einzigartige Fähigkeit: Kreativität. Wie könnte hier eine Lösung aussehen?

Julia Gätjens: Die menschliche Kreativität ist zweifellos einzigartig und KI-Algorithmen haben bisher Schwierigkeiten, sie nachzuahmen. KI-Systeme sind zwar in der Lage, große Datenmengen zu analysieren und Muster zu erkennen, aber sie arbeiten in der Regel auf der Grundlage von vorhandenem Wissen und Daten. Kreativität hingegen basiert oft auf unerwarteten Verbindungen und der Fähigkeit, neue Ideen und Konzepte zu entwickeln, die nicht unbedingt aus vorhandenen Daten abgeleitet sind.

Die leistungsfähigsten Systeme entstehen jedoch, wenn wir die Fähigkeiten der Menschen durch KI erweitern. KI kann uns zum Beispiel monotone Aufgaben abnehmen, damit wir Zeit für kreative Tätigkeiten haben. KI kann aber auch eingesetzt werden, um für uns eine Rohfassung eines Projekts zu erstellen, die wir als Ausgangspunkt nutzen und weiterentwickeln können. Durch diese Symbiose werden wir in Zukunft viele weitere spannende Anwendungen finden und die Grenzen der Kreativität deutlich erweitern oder sogar neu definieren.

Informatik Aktuell: Es gibt bereits beeindruckende Anwendungsbeispiele aus verschiedenen Branchen, die zeigen, dass der Einsatz von KI zu revolutionären Ergebnissen führen kann. Welche sind das?

Julia Gätjens: Unsere Kunden profitieren von der KI-gesteuerten Software-Entwicklung in allen Branchen, vom Finanzsektor über das Gesundheitswesen und den Einzelhandel bis hin zur Fertigung.

Wichtiger als die Frage, in welchen Branchen KI zu bahnbrechenden Ergebnissen führt, ist jedoch die Frage, in welchen Unternehmensfunktionen die KI zu Ergebnissen führt. Eine McKinsey-Studie von Anfang des Jahres ergab, dass die am häufigsten genannten Geschäftsbereiche, die KI-Tools einsetzen, Software-Engineering, Marketing und Vertrieb, Produkt- und Serviceentwicklung sowie Services wie Kundenbetreuung und Back-Office-Support sind [2].

Mit mehr Daten können Unternehmen KI einsetzen, um den Zeitaufwand für Aufgaben zu verringern, die Genauigkeit zu erhöhen, Verwaltungsaufgaben zu erledigen usw. So können sie neue Innovationsbereiche erschließen, sowohl bei der Entwicklung von Software als auch bei der Unterstützung und dem Wachstum von Unternehmen mit dieser Software.

Informatik Aktuell: Welche Rolle spielt der Datenschutz im Zusammenhang mit KI? Was ist hier wichtig?

Julia Gätjens: Der Einsatz von KI erfordert das Festlegen von Rahmenbedingungen, damit sie verantwortungsvoll und nachhaltig betrieben werden kann – sowohl für Unternehmen als auch für deren Kunden.

Ohne gewissenhafte und sorgfältige Abwägung, wie KI-Tools unternehmenseigene Daten sowie die von Kunden und Partnern speichern und schützen, gehen Unternehmen möglicherweise Sicherheitsrisiken ein, die in der Folge zu Geldstrafen, Kundenverlusten und Rufschädigungen führen können. Dies ist besonders wichtig für Organisationen in stark regulierten Bereichen, wie dem öffentlichen Sektor, dem Finanzsektor oder dem Gesundheitswesen, die strenge externe Regularien und Compliance-Verpflichtungen einhalten müssen.

Um das geistige Eigentum zu schützen, müssen Unternehmen strenge Richtlinien aufstellen, die festlegen, wann die Verwendung von KI-generiertem Code zulässig ist.

Informatik Aktuell: Wie können wir klare ethische Leitlinien entwickeln, um sicherzustellen, dass die Synergie zwischen Mensch und KI zum Wohle der Gesellschaft genutzt wird?

Julia Gätjens: Zusammenarbeit und Transparenz in der Branche werden von entscheidender Bedeutung sein. Unternehmen können sich an Partner wenden, die sie unterstützen. Das kann bei der sicheren Einführung von KI sowie bei der Implementierung von bewährten Verfahren für Sicherheit und Datenschutz der Fall sein. So führen sie KI erfolgreich ein, ohne die Einhaltung von Compliance-Standards zu gefährden oder die Beziehungen zu ihren Kunden und Stakeholdern zu riskieren.

Die Bedenken von Unternehmen in Bezug auf KI und Datenschutz lassen sich in der Regel in drei Kategorien einteilen: Welche Datensätze werden zum Trainieren von KI/ML-Modellen verwendet, wie werden proprietäre Daten verwendet und wie lange werden sie aufbewahrt inklusive der vom AI-Model generierten, proprietäre Daten? Je transparenter ein Partner oder Anbieter ist, desto besser kann ein Unternehmen die Geschäftsbeziehung beurteilen.

Informatik Aktuell: Vielen Dank für das nette Gespräch.

Quellen