Generative KI sicher einführen
So positioniert sich die IT zwischen Innovation und Kontrolle
Generative KI (GenAI) ist für viele Fachbereiche wie ein Geschenk: endlich Texte in Sekunden erstellen, Ideen visualisieren und sogar Coden mit Anleitung. Manchmal scheinen Analysen sogar schon richtig zu sein. Auch wenn wir hier noch weit weg von stabil nutzbaren Zahlen sind. Doch gerade weil es so einfach ist, bestehen Risiken. Dies erstreckt sich von wachsender Schatten-IT bis zu unbemerkten Datenschutzverstößen. Etwa dann, wenn GenAI auf privaten Geräten heimlich für die Arbeit genutzt wird.
Wenn IT-Verantwortliche einfach "Nein" zu GenAI sagen, treibt das die Begeisterten in den Daten-Untergrund. Denn am Ende zählt Leistung, und Mitarbeitende fordern die Helfer ein. Dieser Beitrag zeigt, wie IT-Teams sich Gehör verschaffen und eine produktive, sichere Einführung gestalten können.
GenAI: Vorteile und Herausforderungen
Kaum eine Technologie hat in so kurzer Zeit so viel Begeisterung ausgelöst wie Generative KI. ChatGPT, Copilot, Claude – all diese KI-basierten Sprachmodelle ermöglichen Business Usern, mit ein paar Prompts Aufgaben zu lösen, für die früher große Teams, Budgets und viele Monate Entwicklungszeit nötig waren, bevor erste Ergebnisse messbar wurden.
Diese Freude ist berechtigt und gleichzeitig eine Herausforderung. Denn wer einmal erlebt hat, wie gut ein öffentlicher Chatbot funktioniert, fragt nicht unbedingt nach Governance, Compliance oder Datensicherheit. Schon gar nicht, wenn es die einzige Chance ist, die Deadline noch zu schaffen.
Wer viel zu tun hat, möchte die Technik einfach nutzen. Verständlich, denn im Job wird Leistung bewertet. Und diese lässt sich mit Generativer KI ohne große Mühe steigern. Kein Wunder also, dass die Mitarbeitenden Zugriff auf die Technologie einfordern. Der Reflex mancher IT-Abteilungen: Geschwindigkeit runter. Vorsicht bitte. Das ist auch richtig. Doch übertriebene Vorsicht kann kontraproduktiv sein.
Wer zu viel verhindert, riskiert Schatten-IT: Fachbereiche buchen SaaS-Lösungen ohne Rücksprache, speichern sensible Daten unkontrolliert in der Cloud oder bauen Workflows an IT und Datenschutz vorbei.
Die eigentliche Frage lautet: Wie können wir als Tech-Experten die Begeisterung teilen, ohne fahrlässig zu handeln? Denn, ganz ehrlich: Wen begeistert diese Technik denn mehr als die Daten-Teams?
GenAI erfordert neue Change-Strategien
Viele Unternehmen denken bei IT-Projekten immer noch in klassischen Mustern: Infrastruktur, Personentage, Lastenhefte, komplexe Releases. Doch diese Zeiten sind vorbei.
Die IT ist längst ein Profit-Center, auch wenn sie das manchmal selbst vergisst. Bei GenAI ist das besonders sichtbar. Die Tools sind sofort einsatzbereit. Die Kosten für einen ChatGPT-Zugang liegen zu Beginn bei ein paar Euro pro Monat. Viele Tools sind anfangs oder bei seltener Nutzung kostenlos. Auch wenn wir wissen, dass ein Roll-out dieser Lösungen in der Regel doch empfindliche Kosten verursacht: Privat und zu Hause stehen den Mitarbeitenden Lösungen zur Verfügung, mit denen sie ihren Job deutlich schneller und besser machen könnten. Wen wundert es, dass sie Wege suchen, es auch zu tun?
Fakt ist: Die Business-Seite kann heute ohne Integrationserfahrung Pilotprojekte starten. Diese radikale Demokratisierung ändert die Dynamik. Plötzlich sind es nicht mehr nur die Datenabteilungen, die über Pipelines oder Infrastruktur reden. Jeder kann theoretisch KI nutzen.
Und das bedeutet: Change ist hier kein Nebenschauplatz, sondern das Hauptproblem. Studien sprechen seit Jahren davon, dass 70 % aller Dateninitiativen am Change scheitern und nicht an der Technik. Das liegt oft daran, dass IT und Business schlechter miteinander kommunizieren als Frauen und Männer in Comedy-Formaten.
Analytisch denkende Menschen kommunizieren grundsätzlich anders als Menschen, die sich mit Ideen oder Verkauf beschäftigen. Das ist auch gut so. Würden sie die Rollen tauschen, wäre das Unternehmen vermutlich in kürzester Zeit bankrott: Stellen Sie sich nur vor, ein Verkäufer hätte so viele Bedenken wie jemand aus der IT Security. Oder andersrum – im Bereich Sicherheit würden Menschen mit einem "Wer nicht wagt, der nicht gewinnt"-Mindset arbeiten.
Beide Gruppen sind gut so, wie sie sind. Sie müssen aber Wege finden, effizient miteinander zu kommunizieren.
GenAI im Unternehmen: typische Stolperfallen beim Start vermeiden
Falsch verteilte Rollen und schlechte Abläufe
Business-Verantwortliche wissen oft sehr genau, was sie möchten, aber nicht, wie das technisch umzusetzen ist. Häufig finden sie dann SaaS-Lösungen, die ihr Problem anscheinend lösen. Nach einer erfolgreichen Testphase mit manuell eingegebenen Daten versuchen sie dann, diese Lösung mit Druck einzukaufen. Das beinhaltet selbstverständlich das Anbinden an die bestehenden Systeme. Idealerweise mit 2-Way-Interfaces. Der Fakt, dass möglicherweise das Bereinigen und Verfügbar-Machen der Daten das größere Projekt ist als der kleine Prozess in der gewünschten Software, ist schwer zu kommunizieren.
Die IT wiederum weiß, welche Lösungen integrierbar sind. Sie kennt die Sicherheitsbestimmungen, die eigene Landschaft, aber auch den Wartungsaufwand in der Zukunft. Das Tech-Team, mal ganz generell gesprochen, kennt in der Regel die Anwendungsfälle nicht gut genug und argumentiert deswegen (oft zu Recht) rein über die Technik der ausgewählten Lösung. Das Verständnis des Problems löst allerdings leider das Problem der Anwender nicht. Im Gegenteil.
Es entsteht ein gegenseitiges Blockieren.
Erschwerend kommt hinzu: Die Geschäftsführung muss Budgets und Ressourcen steuern. Bei den zahlreichen Aufgaben und dem klaren Use Case ist es wahrscheinlich, dass demjenigen Geld zugesprochen wird, der am lautesten danach ruft. Es wird also eine Lösung eingekauft und eingerichtet, die langfristig Probleme erzeugt, die die IT schon vorhergesehen hat.
Das hätte aber verhindert werden können, auch von IT-Seite.
Es muss andere Rollen geben:
Business definiert das Problem.
IT sucht die Lösung.
Zusammen fordern sie ein Budget.
Konkret lässt sich diese Struktur mit dieser einfachen Strategie erreichen: Nachdem das Business das nächste Mal begeistert eine neue SaaS-Lösung vorstellt, geben Sie nicht Ihre technische Einschätzung. Stattdessen loben Sie die Initiative und fragen Sie, was genau aktuell das Problem ist. Erklären Sie, dass Sie es genau verstehen möchten. Schließlich schlagen Sie einen Termin zur Diskussion von Lösungsansätzen vor. Das gibt Ihnen Zeit für die Entwicklung einer Strategie und ist wertschätzend gegenüber dem Business.
Fehlendes Vertrauen
Misstrauen ist oft kulturell gewachsen. Sales fühlt sich bereits mit 51 % Sicherheit top informiert – Data möchte bei 99 % immer noch prüfen. Das ist nachvollziehbar, denn Sales arbeitet mit der Zukunft. Es gibt hier keine Sicherheit, und der Grenznutzen zusätzlicher Analysen ist gering. Ein gutes Bauchgefühl und einige gute Gründe dafür sind oft ausreichend für eine Entscheidung. Die Realität wird ohnehin anders aussehen.
Auf der Datenseite ist dies anders. Die Mathematik ist gnadenlos. Eine übersehene, verfügbare Software oder eine bessere Alternative lässt sich jederzeit rückwirkend zeigen, Fehler lassen sich belegen. Natürlich wäre es hier unklug auszuschließen, dass man sich irren könnte.
Emotionalität und Begeisterung sind notwendig, um Innovation zu treiben. Besser ist es, klar zu machen, dass man dieses Grundgefühl teilt. Das gibt der anderen Seite die Gewissheit: "Die wollen das auch." Oft ist das ausreichend, um die Stimmung im Projekt grundsätzlich zu ändern. Zeigen sich in den nächsten Phasen Hindernisse, ist allen klar, dass gemeinsam daran gearbeitet wird, um das Ziel ebenfalls gemeinsam zu erreichen. Niemand vermutet, dass "die IT blockt", wenn es ein klares Commitment zum Projekt gibt.
Solo-Schnellschüsse
Schatten-IT und ungetestete Tools wird es immer geben. Das liegt auch daran, dass vieles unbekannt ist. Es ist auch nicht schlimm, wenn nicht alles gleich groß gedacht wird. Mit unkritischen Daten oder für bestimmte Use Cases kann ein bekannter Schatten eine gute Idee sein.
Auch gibt es viele GenAI Use Cases, für die keine Stammdaten benötigt werden, weil Mitarbeitende die Schnittstelle sind und über die Lösungen direkt Themen klären können.
Beispiele sind:
KI-gestützte Nutzung von Patent-Datenbanken.
KI-Angebote von Verlagen zu Fachthemen wie Jura.
Proprietäre KI zu Normen.
Hier hilft ein schlanker Abstimmungsprozess, um sicher die Nutzung von KI zu ermöglichen. Solange nur Wissen eingekauft wird, ohne selbst Daten einzugeben, ist das Risiko meist gering.
Diese fünf Erfolgsfaktoren helfen bei der Einführung von GenAI
1. Beziehungen aufbauen
IT und Business sind Partner. Ohne Dialog funktioniert es nicht. Das bedeutet konkret, Einzelgespräche zu führen. Zusammenfassende E-Mails kann ein Chatbot übrigens mit positiven Formulierungen anreichern und so für die Zielgruppe leichter verständlich machen. Wichtig ist auch, sich gegenseitig aktiv über Updates zu informieren oder die berühmten Mittagessen- oder Kaffee-Einladungen anzunehmen. Informelle Gespräche sind oft der beste Weg, Kontakte zu pflegen. Auch wenn es zunächst ineffizient wirkt, in der Kantine und nicht am Rechner zu sitzen.
2. Rollen klar definieren
Wie bereits erwähnt, sind klare Rollen wichtig. Hier darf die IT ruhig selbstbewusst auftreten. Technische Kompetenz heißt auch, auf positive Art Grenzen zu ziehen.
Beispiel: "Die Idee ist gut. Genau so wie vorgeschlagen können wir das nicht sicher umsetzen, aber wir haben Optionen. Lassen Sie uns bis nächste Woche einen Vorschlag machen." So können IT-Teams die Ideen und die Begeisterung der Fachabteilungen ernst nehmen und wertschätzen. Zusammenarbeit auf Augenhöhe entsteht.
3. Vertrauen schaffen
Vertrauen entsteht, wenn Erwartungen regelmäßig positiv erfüllt werden. Das bedeutet, Versprechen müssen klar und realistisch formuliert sein – und dann auch gehalten werden. Gerade bei AI-Projekten bedeutet das, eine ehrliche Roadmap zu erstellen und diese einzuhalten.
Wenn die Erwartungen zu hoch werden, ist es eine gute Idee, zur Klärung einen Detail-Termin anzusetzen. Oft ist tatsächlich mehr möglich, wenn der Scope ganz genau beschrieben und verhandelt ist.
4. Erwartungen managen
Was nicht möglich ist, bleibt unmöglich – auch wenn es sich gut verkaufen würde. Statt eines harten "Nein", das wie eine Aufforderung zum Machtkampf wirken kann, hilft ein: "Ich verstehe dein Problem. Lass mich mal darüber nachdenken."
Das schafft Zeit und Raum, um Alternativen zu erarbeiten und konstruktive Lösungen vorzuschlagen.
5. Wissen teilen
GenAI ist für viele neu. Auch die Business-Seite muss nachvollziehen können, was technisch passiert – zumindest grob. Das ist wichtig, um zu verstehen, was möglich ist und was nicht. Beispielsweise, wie Halluzinationen entstehen. Dabei helfen Alltags-Allegorien, die Sie leicht mit Chatbots erfinden und mit Ihrem Fachwissen validieren können.
Beispiel zur Frage: Wie arbeitet GenAI? Wie kann Text aus Statistik entstehen?
Eine KI kann mit verzweifelten Studenten in der Prüfung verglichen werden, die das Thema nicht verstanden, aber hervorragende Spickzettel vom vorherigen Jahrgang erbeutet haben. In der Prüfung lesen sie die Fragen und gleichen sie mit den Themen auf den Spickzetteln ab. Entweder finden sie schnell den richtigen und können die Frage zuordnen. Dann bekommen sie mit kleinem Aufwand die Bestnote.
Oder: Sie finden nichts. Nun müssen sie improvisieren. Sie wählen irgendeine Antwort, die stimmig klingt und hoffen auf Glück. Letzteres geht meistens schief.
Echte GenAI hat sehr viele Spickzettel und nutzt Statistik, um die richtigen zu finden. Dadurch ist sie oft besser als Menschen, die zwar einen Bereich verstanden, aber viel weniger Daten im Gedächtnis haben. Das Beispiel erklärt die grobe Mechanik von Generativer KI. Keine Details. Keine Fachsprache. Trotzdem wird klar: Sobald es um Dinge geht, die auf Wissen basieren, ist eine KI sehr gut. Jeder weiß, wie Spickzettel funktionieren. Und es ist ebenso klar, dass daraus nur zufällig Neues entstehen kann.
Hier wird aber auch klar: Gemeinsam über KI-Anwendungen und Grenzen zu sprechen gelingt nur, wenn die IT bereit ist, Wissen zu teilen und Input aktiv einzufordern. Sie muss lernen, in einfachen Bildern zu sprechen, die leicht zu verstehen sind. Das Business wiederum muss lernen, dass sich zuhören lohnt, auch wenn es rhetorisch und argumentativ sonst weit überlegen ist.Das Ziel: Alle verstehen das Projekt gut genug, um gemeinsam tragfähige Entscheidungen zu treffen.
Technische Komplexität von GenAI und was Sie bei der Umsetzung beachten müssen
Auch wenn GenAI auf den ersten Blick nach Plug-and-Play aussieht, ist sie in der Praxis technisch und organisatorisch komplexer, als viele vermuten. Wichtig ist es, die Unterschiede zwischen kostenlosen, aber datenhungrigen Tools im Internet und sicheren, aber eingeschränkten, eigenen Systemen einfach zu erklären, so dass es im Unternehmen ein grundsätzliches Verständnis für die Situation gibt.
Mitarbeitende verstehen sonst nicht, warum das teure, firmeneigene LLM genutzt werden soll, obwohl es günstigere Tools online kostenlos gibt.
Performance-Entscheidungen sind relevant, weil nur Sekunden als Wartezeit akzeptiert werden. Hier stehen grundsätzlich zwei Wege zur Verfügung:
Cloud-basierte APIs "im Internet" (z. B. OpenAI, Azure): schnell verfügbar, flexibel skalierbar, aber mit potenziellen Datenschutzrisiken, variablen Kosten und möglicher hoher Wartezeit bei hoher Last. Gerade die Risiken von Wirtschaftsspionage müssen immer mehr bedacht werden.
Lokale (On-Premise-)Modelle (z. B. LLaMA, Mistral): höhere initiale Investitionen und Wartungsaufwand, aber bessere Datenschutzkontrolle, fixe Betriebskosten und bessere Möglichkeit, die Performance zu steuern.
Wichtig ist, genau darauf zu schauen, welche Qualität die Nutzer am Ende fordern werden. Da dies bei GenAI häufig schwerer zu definieren ist als bei einem Prozess-Chart in der klassischen IT, wird das häufig nicht genau genug geprüft.
Um sich Gehör zu verschaffen, kann es helfen, die gleiche Fragestellung an verschiedene Modelle zu senden und dem Business zu zeigen.
Denkbar wäre es zum Beispiel, einen öffentlichen Geschäftsbericht eines großen Unternehmens per Chat befragbar zu machen.
Einfache Fragen werden alle Modelle gut beantworten. Bei komplexen oder detaillierten Fragen gibt es Unterschiede.
Am Beispiel-Chat finden Sie gemeinsam heraus, ob ein Antwort-Niveau “gut und schnell genug” ist, oder ob Sie beispielsweise mit Nachtrainieren selbst eine höhere Qualität herstellen müssen.
Dies vorab zu klären ist essentiell, um nicht ungewollt Legacy IT zu generieren.
Bei den Kosten gilt es, zwischen einmaligen (Setup-)Kosten und laufenden (Betriebs-)Kosten klar zu unterscheiden:
Setup-Kosten (CapEx): Investitionen in Hardware (z. B. GPU Cluster), initiale Lizenzkosten, Einrichtung und Indizierung der Datenbanken, Aufbau interner Infrastruktur.
Laufende Kosten (OpEx): Wartung, Hosting, Lizenzen für Vektor-Datenbanken oder Cloud-Dienste, Personalaufwand für Monitoring, regelmäßige Updates und Neuindizierungen.
Besonders bei der Nutzung einer Retrieval Augmented Generation (RAG)-Architektur wird dies relevant. Das bereits erläuterte Bild einer "Spickzettel-Bibliothek" hilft hier gut weiter. Es ist aufwändig, sie zu erstellen. Aber eigene Spicker sind die besten. Meine Kollegen empfehlen einen Blick auf MSFT Graphrag.
Um genaue Ergebnisse aus großen, sensiblen Datenmengen zu erhalten, führt praktisch kein Weg an einer eigenen, intern betriebenen Vektor-Datenbank vorbei, deswegen ist es wichtig, es erklären zu können.
Natürlich gibt es zusätzliche technische Aspekte, die unbedingt berücksichtigt werden sollten, wie konsequentes Logging, Audit-Trails, systematische Versionierung, regulatorische Anforderungen. Diese sind auch bei anderen Projekten wichtig und eine große, aber keine wirklich neue Herausforderung. GenAI kann allerdings den Aufwand verringern. Eine weitere Motivation für die Tech-Teams, die GenAI-Projekte zu treiben und die eigenen Themen sofort mit einzubinden.
Fazit
Die Einführung von Generativer KI ist keine einfache Tool-Auswahl – sie ist eine Transformationsaufgabe. Nur wer auf Augenhöhe zusammenarbeitet, kann das Potenzial wirklich heben. IT-Abteilungen müssen sich Gehör verschaffen – nicht als Verhinderer, sondern als Ermöglicher. Klare Rollen, Vertrauen, geteiltes Wissen und technische Exzellenz sind die Bausteine für eine produktive, sichere und strategische Einführung.
