Budget-Schätzung einer selbstbetriebenen GenKI-Chatbot-Lösung
Christian Ullrich
2025-06-15
Inhaltsverzeichnis
Kurzer Ansatz
Prompts
Prompt
- Wie viel kostet eine selbstbetriebene GenKI-Chatbot-Lösung mit Hardware, Software und Dienstleistungen für 250000 Nutzer? Funktionsumfang ist wie ChatGPT bzw. die vielen Open-Source-Frontends.
- Der Lebenszyklus beträgt fünf Jahre.
- Die Beschaffung erfolgt im Januar 2027.
Detaillierter Ansatz
Prompts
Prompt
- Wir erstellen ein Budget für eine selbstbetriebene GenKI-Chatbot-Lösung mit Hardware, Software und Dienstleistungen für 250.000 Nutzer?
- Funktionsumfang ist wie bei ChatGPT bzw. die vielen Open-Source-Frontends.
- Erstelle die Kostenpositionen (Bezeichnungen) ohne weitere Gliederung unter Hardware, Software und Dienstleistungen.
- Die konkreten Zahlen folgen später.
Prompt
- Wir erstellen ein Budget für eine selbstbetriebene GenKI-Chatbot-Lösung mit Hardware, Software und Dienstleistungen für 250.000 Nutzer?
- Funktionsumfang ist wie bei ChatGPT bzw. die vielen Open-Source-Frontends.
- Der Lebenszyklus beträgt vier Jahre.
- Die Beschaffung erfolgt im Januar 2027. Die Außerbetriebsetzung erfolgt im Dezember 2030.
- Berücksichtige die Inflation über den Lebenszyklus hinweg i.H.v. 3%.
- Im Folgenden findest du die Kostenpositionen.
- Was fehlt in meinen Informationen? Was wären noch hilfreiche Variablen?
Prompt
- Wie schätzt du die Größe von LLMs, wenn man 2025 DeepSeek 3 als Grundannahme annimmt?
- In: 2026
- In: 2027
- In: 2028
- In: 2029
- In: 2030
- Fixe Werte anstelle Durchschnittswerte
Prompt
- Wir erstellen ein Budget für eine selbstbetriebene GenKI-Chatbot-Lösung mit Hardware, Software und Dienstleistungen für 250.000 Nutzer?
- Funktionsumfang ist wie bei ChatGPT bzw. die vielen Open-Source-Frontends.
- Der Lebenszyklus beträgt vier Jahre.
- Die Beschaffung erfolgt im Januar 2027. Die Außerbetriebsetzung erfolgt im Dezember 2030.
- Berücksichtige die Inflation über den Lebenszyklus hinweg i.H.v. 3%.
- Im Folgenden findest du die Kostenpositionen und die zu berücksichtigenden Variablen.
- Erstelle das Budget, sodass ich es in ein Textdokument kopieren kann.
Struktur
Hardware
- Server-Hardware (GPU-Cluster)
- Speicherlösungen (SSD/NVMe für schnellen Zugriff und für Archivierung)
- Netzwerkinfrastruktur (Switches, Firewalls, Load Balancer)
- USV und Stromversorgungssysteme
- Kühl- und Racksysteme
- Ersatzteile / Reserve-Hardware
- Nicht Bestandteil: Standortinfrastruktur (Housing, ggf. eigenes Rechenzentrum) (beschaffen wir separat)
Software zur Miete inkl. Aktualisierungen
- Betriebssystemlizenzen, Datenbank- und Caching-Systeme, Monitoring- und Logging-Software, Sicherheitslösungen (z. B. Virenschutz, Intrusion Detection), API-Gateways und Load-Balancer-Software, Frontend-Software für Nutzerinteraktion sind ein Komplettpaket, da All-in-one-Lösung
Dienstleistungen einmalig
- Implementierung und Integration
- Penetration Testing und Security-Audits
- Schulung des internen Personals
Dienstleistungen fortlaufend
Weitere Variablen
Nutzungsprofil & Kapazität
- Gleichzeitige Nutzer (Peak Load) in 2027: 1%
- Gleichzeitige Nutzer (Peak Load) in 2028: 2%
- Gleichzeitige Nutzer (Peak Load) in 2029: 3%
- Gleichzeitige Nutzer (Peak Load) in 2030: 5%
- Interaktionsvolumen in 2027: Jeder Nutzer stellt pro Tag eine Anfrage
- Interaktionsvolumen in 2028: Jeder Nutzer stellt pro Tag drei Anfragen
- Interaktionsvolumen in 2029: Jeder Nutzer stellt pro Tag fünf Anfragen
- Interaktionsvolumen in 2030: Jeder Nutzer stellt pro Tag zehn Anfragen
- Antwortgeschwindigkeit / SLA-Anforderungen: maximal möglich, also was das Modell hergibt
- 2027
- Parameter (gesamt): 1.000 Milliarden (1 Billion)
- Aktive Parameter (bei MoE): 60 Milliarden
- Architektur: Hybrid-MoE
- Kontextfenster: 256.000 Tokens
- 2028
- Parameter (gesamt): 2.000 Milliarden (2 Billionen)
- Aktive Parameter (bei MoE): 100 Milliarden
- Architektur: MoE mit Planning/Routing
- Kontextfenster: 512.000 Tokens
- 2029
- Parameter (gesamt): 4.000 Milliarden (4 Billionen)
- Aktive Parameter (bei MoE): 150 Milliarden
- Architektur: Modular MoE mit Tool-Chain-Fähigkeit
- Kontextfenster: 768.000 Tokens
- 2030
- Parameter (gesamt): 6.000 Milliarden (6 Billionen)
- Aktive Parameter (bei MoE): 200 Milliarden
- Architektur: Dynamisches MoE mit adaptivem Gedächtnis
- Kontextfenster: über 1.000.000 Token
Modell und KI-spezifisch
- LLM-Quelle: Nutzung von Open-Source-Modellen
- Modell-Finetuning: Nein
- Inference oder eigenes Pretraining: Nein
Finanzielle Annahmen
- Investitionsverteilung: Hardware vollständig in 2027, Software jährlich gemietet inkl. Aktualisierungen, Dienstleistungen einmalig und fortlaufend.
- Zahlungsplan: Jährlich
- Abschreibung: Nicht berücksichtigen, da öffentlicher Auftraggeber
- Restwert für Hardware nach 4 Jahren: 0 EUR (Schrott, aber keine Entsorgungskosten)
Inflationsanwendung
- Indexierungsmethodik: Aufgeschlagene Gesamtsumme (Vereinfachung)
- Inflationsrelevante Kostenarten: Alle
IT-Betriebsmodell
- Betrieb durch eigenes IT-Team, jedoch mittels separaten Vertrags. Hier findet keine Berücksichtigung statt.
- Backup- und Notfallkonzepte: DR-Site muss enthalten sein, aber nicht die Rechenzentren.
Output
Hardware (einmalig in 2027, dann konstant)
| Position |
Basispreis in 2027 |
| Server-Hardware (GPU-Cluster) |
3.200.000 € |
| Speicherlösungen (SSD + Archiv) |
600.000 € |
| Netzwerkinfrastruktur |
450.000 € |
| USV & Stromversorgung |
300.000 € |
| Kühl- und Racksysteme |
250.000 € |
| Ersatz-/Reserve-Hardware |
200.000 € |
| Summe Hardware |
5.000.000 € |
Software (jährlich gemietet, inkl. 3 % Inflation p.a.)
| Jahr |
Preis/Jahr |
Kumuliert über 4 Jahre |
| 2027 |
400.000 € |
|
| 2028 |
412.000 € |
|
| 2029 |
424.360 € |
|
| 2030 |
437.090 € |
1.673.450 € |
Dienstleistungen einmalig (mit 4-jährigem Inflationsaufschlag)
| Position |
Preis 2027 |
+12,55 % Inflationsaufschlag |
Endsumme |
| Implementierung & Integration |
300.000 € |
37.650 € |
337.650 € |
| Penetration Testing & Security-Audits |
150.000 € |
18.825 € |
168.825 € |
| Schulung internes Personal |
80.000 € |
10.040 € |
90.040 € |
| Summe einmalige Dienstleistungen |
|
|
596.515 € |
Dienstleistungen fortlaufend (jährlich, +3 % p.a.)
| Jahr |
Preis/Jahr |
Kumuliert über 4 Jahre |
| 2027 |
300.000 € |
|
| 2028 |
309.000 € |
|
| 2029 |
318.270 € |
|
| 2030 |
327.818 € |
1.255.088 € |
Gesamtbudget 2027–2030 (inkl. Inflation)
| Kategorie |
Gesamtkosten (EUR) |
| Hardware (einmalig 2027) |
5.000.000 € |
| Software (mietweise) |
1.673.450 € |
| Dienstleistungen (einmalig) |
596.515 € |
| Dienstleistungen (fortlaufend) |
1.255.088 € |
| Gesamtkosten brutto (4 Jahre) |
8.525.053 € |