Christian Ullrich 02. Juni 2025
Die Organisation beabsichtigt, eine selbstbetriebene, generative KI-Chatbot-Lösung auf Basis marktverfügbarer Large Language Models (LLM) zu beschaffen und in das eigene Rechenzentrum zu integrieren. Ziel ist es, eine funktional leistungsfähige und datensouveräne Alternative zu cloudbasierten Systemen wie ChatGPT zu etablieren, um digitale Selbstbestimmung, IT-Sicherheit und technologische Anschlussfähigkeit zu gewährleisten. Die Lösung soll breit einsetzbar, skalierbar und alltagstauglich sein, ohne bestehende IT-Systeme tiefgreifend zu verändern. Der GenKI-Chatbot dient nicht als visionäres Experiment, sondern als produktiver Assistenzdienst, der Mitarbeiter in der täglichen Wissensarbeit unterstützt und Prozesse effizienter gestaltet. Mit einem klar umrissenen Zielbild, pragmatischer Architektur, realistischem Zeit- und Kostenrahmen sowie integrierter Schulungsstrategie verfolgt das Projekt eine zügige, eigenverantwortliche Umsetzung. Es adressiert eine deutlich erkennbare Fähigkeitslücke, ist strategisch notwendig und entspricht den Anforderungen an eine moderne, resiliente und lernfähige Organisation. Die Einführung erfolgt unter Berücksichtigung bestehender Sicherheits-, Datenschutz- und Standardisierungsanforderungen und stellt eine zentrale Weichenstellung für die digitale Zukunftsfähigkeit dar.
Die Organisation strebt den Aufbau einer selbstbetriebenen generativen KI-Chatbot-Lösung an, die auf modernen Large Language Models (LLM) basiert. Ziel ist es, eine Chatbot-Funktion bereitzustellen, die funktional mit marktführenden Lösungen wie ChatGPT vergleichbar ist, jedoch vollständig auf eigener Hardware und Software innerhalb des eigenen Rechenzentrums betrieben wird. Dies schließt die Nutzung von Public-Cloud-Diensten wie Microsoft Copilot oder OpenAI-Diensten explizit aus und gewährleistet die vollständige Datenhoheit sowie die Einhaltung interner IT- und Sicherheitsstandards.
Generative KI ist keine Modeerscheinung, sondern ein technologischer Wendepunkt. In kurzer Zeit hat sich ihr Nutzen im Alltag und in der Arbeitswelt millionenfach bewährt. Die Frage, ob eine Organisation in GenKI investiert, stellt sich nicht mehr, sondern entscheidend ist, mit welcher Geschwindigkeit sie es tut. Ein Verzicht auf diese Fähigkeit würde die Wettbewerbsfähigkeit gefährden und die Anschlussfähigkeit an die digitale Gesellschaft verlieren. Für eine öffentliche Organisation würde das bedeuten, die eigene Wirksamkeit und Bürgerorientierung zu schwächen.
Die geforderte Fähigkeit ist kein optionales Innovationsvorhaben, sondern ein struktureller Hebel zur Effizienz- und Qualitätssteigerung in nahezu allen Arbeitsbereichen. Auch ohne fortgeschrittene KI-Agenten ermöglichen bereits heute verfügbare GenKI-Chatbots signifikante Produktivitätsgewinne, etwa durch Textverständnis, Zusammenfassungen, kreative Textgenerierung, Übersetzung oder Analyse.
Im Unterschied zu bisherigen KI-Systemen zeichnet sich GenKI durch semantisches Sprachverständnis, Multimodalität und adaptives Lernverhalten aus. Klassische KI-Lösungen basieren oft auf eng definierten Regelwerken oder maschinellem Lernen mit statischem Modellverhalten. GenKI hingegen nutzt LLMs, die kontextsensitiv reagieren und über breite Wissensbereiche hinweg menschenähnlich kommunizieren können. Diese Leistungsfähigkeit erschließt neue Nutzungsfelder und verändert bestehende Prozesse grundlegend.
Die Verantwortung für den Umgang mit der neuen Technologie liegt bei der Organisation. Sie umfasst nicht nur die technische Beschaffung, sondern auch die Entwicklung organisatorischer und ethischer Leitlinien für die Nutzung. Die Fähigkeit wird nicht gegen die Belegschaft entwickelt, sondern für sie. Viele Beschäftigte kennen ChatGPT aus dem privaten Umfeld. Unsere Aufgabe ist es, diese Erfahrung systematisch zu nutzen und weiterzuentwickeln, um die Akzeptanz zu fördern und das Potenzial voll auszuschöpfen.
Die Lösung selbst wird technisch als hybrides System zwischen Monolith und modularer Architektur geplant. Aufgrund der zugrundeliegenden Hochleistungs-Hardware ist sie in ihrer physischen Infrastruktur monolithisch, gleichzeitig aber funktional erweiterbar. Die Skalierbarkeit der Anwendung stellt sicher, dass steigender Bedarf und neue Nutzungsformen abgedeckt werden können.
Ein Versagen dieser Fähigkeit ist kaum zu erwarten, wenn marktverfügbare Lösungen sorgfältig geprüft und verantwortungsvoll eingeführt werden. Die globale GenKI-Praxis zeigt, dass diese Systeme längst über den experimentellen Status hinaus sind. Sie stellen heute für Millionen Nutzer weltweit einen verlässlichen Bestandteil ihrer digitalen Arbeit dar. Unsere Organisation wird davon nicht ausgenommen bleiben, sie kann nur entscheiden, wann und wie professionell sie diesen Schritt geht.
Die Organisation fordert die Einführung einer generativen KI-Chatbot-Lösung, die vollständig im Eigenbetrieb auf eigener Hardware und Software im Rechenzentrum betrieben wird. Ziel ist es, eine Lösung zu realisieren, die funktional mit etablierten Systemen wie ChatGPT vergleichbar ist, aber nicht auf externen Cloud-Diensten basiert. Diese Fähigkeit umfasst den Aufbau eines leistungsfähigen Systems auf Basis von Large Language Models (LLM), das mittels marktüblicher Funktionen konfigurierbar, skalierbar und in einer sicheren IT-Infrastruktur betreibbar ist.
Der GenKI-Chatbot soll komplexe Anfragen in natürlicher Sprache verarbeiten, Kontexte über längere Dialogverläufe hinweg verstehen und verschiedene Medientypen wie Text, Bild und optional Audio integrieren können. Er muss in der Lage sein, externe Datenquellen abzufragen, Inhalte zusammenzufassen, neu zu formulieren oder zu analysieren sowie bei kreativen oder technischen Aufgaben zu unterstützen. Darüber hinaus soll die Lösung rollenbasiertes Verhalten ermöglichen, das sich flexibel an die Bedarfe der jeweiligen Anwendungsszenarien anpassen lässt. Steuerungsfunktionen für Stil, Tonalität oder Formalitätsgrad sind ebenso vorgesehen wie Datenschutzkonformität bei Logging und Auditing.
Das angestrebte Zielbild ist ambitioniert, aber notwendig. Es orientiert sich nicht an spekulativen Zukunftstechnologien, sondern an real erprobten Funktionen, die bereits heute in großem Umfang genutzt werden. Die Welt hat sich verändert, und die Organisation kann es sich nicht leisten, weiter zu warten. Eine Zurückhaltung aus Angst vor Veränderung oder aufgrund von Sicherheitsbedenken ohne konkrete Lösungsansätze würde bedeuten, digitale Anschlussfähigkeit zu verlieren. In einem Umfeld, in dem technologische Disruption zur Regel geworden ist, muss das Zielbild mehr sein als ein bürokratisches Dokument. Es muss zur Richtschnur für konsequentes Handeln werden.
Der selbstbetriebene GenKI-Chatbot ist als dedizierter IT-Service mit klaren Betriebsgrenzen geplant. Er wird für vier Jahre betrieben und kann während dieser Zeit technisch erweitert werden. Das Zielbild ist daher nicht als kontinuierlich dynamischer Innovationsprozess zu verstehen, sondern als konkrete, realisierbare Zielvorgabe im Rahmen eines klassischen Beschaffungsvorhabens. Nach dem Projektstart soll die Lösung zeitnah verfügbar gemacht und nach Einführung organisatorisch etabliert werden. Parallel dazu wird der Wissensstand innerhalb der Organisation wachsen, sodass zukünftige Ausbaustufen oder Nachfolgelösungen auf dieser Basis entwickelt werden können.
Die Definition dieser Fähigkeitsforderung folgt einem pragmatischen, nutzerorientierten Ansatz. Sie orientiert sich nicht an theoretischen Anforderungen, sondern an real existierenden, millionenfach erprobten GenKI-Funktionalitäten. Das Zielbild integriert marktverfügbare Technologie, ohne sich auf ein bestimmtes Modell oder einen Anbieter festzulegen. Die Lösung wird mit einer hohen Modellvielfalt (LLM) beschafft und betreibbar sein. Das reduziert Abhängigkeiten und ermöglicht Anpassungen an zukünftige Entwicklungen.