Make or Buy: IT-Infrastruktur für KI-Workflows im Mittelstand

Das Problem: Cloud-Rechnung steigt, eigene Server stehen leer

Viele Mittelständler kennen die Situation: Die monatliche Rechnung des Cloud-Anbieters wächst kontinuierlich, während im eigenen Rechenzentrum oder im Co-Location-Rack Server stehen, die nur zu 30 Prozent ausgelastet sind. Gleichzeitig entstehen erste KI-Workflows, die Rechenleistung brauchen, und die IT-Leitung stellt die Frage, ob man diese Workloads nicht auf der bestehenden Infrastruktur laufen lassen könnte.

Die Antwort ist selten eindeutig. Wer vorschnell auf Cloud setzt, zahlt Jahr für Jahr mehr, als nötig wäre. Wer vorschnell auf eigene Hardware setzt, bindet Kapital und Personal, das sich woanders besser einsetzen ließe. Dieser Artikel zeigt, welche Kriterien wirklich zählen und wie Sie die Entscheidung systematisch treffen.

Make or Buy: Was bedeutet das konkret?

Im Kontext von IT-Infrastruktur für KI-Workflows meint „Make” den Betrieb auf eigener Hardware, im eigenen Rechenzentrum oder in einem gemieteten Rack mit dedizierten Servern. „Buy” steht für Cloud-Services, bei denen Sie Rechenleistung, Speicher und Dienste nach Bedarf mieten.

Beide Varianten haben Vor- und Nachteile, die sich nicht pauschal gegeneinander ausspielen lassen. Entscheidend ist, welche Anforderungen Ihr Unternehmen hat und welche Kosten über einen realistischen Zeitraum von drei bis fünf Jahren anfallen.

Entscheidungskriterium 1: Kosten über drei Jahre

Cloud-Anbieter rechnen nutzungsbasiert ab. Das ist zunächst transparent, führt aber bei dauerhaft laufenden Workloads zu hohen Gesamtkosten. Ein virtueller Server mit 8 Kernen, 32 GB RAM und 500 GB SSD kostet bei einem großen EU-Anbieter etwa 180 bis 220 Euro pro Monat. Über drei Jahre sind das 6.500 bis 8.000 Euro.

Ein vergleichbarer dedizierter Server im Co-Location-Rack kostet in der Anschaffung rund 3.500 Euro, das Rack-Placement 80 bis 120 Euro pro Monat. Über drei Jahre ergibt das 6.400 bis 7.800 Euro, ohne Personalkosten für Wartung und Updates.

Die Rechnung kippt, sobald Sie spezialisierte Dienste brauchen: Managed Databases, Load Balancer, Object Storage oder API-Gateways kosten in der Cloud monatlich zusätzlich, während Sie sie auf eigener Hardware selbst konfigurieren müssen. Hier ist die Frage, ob Ihre IT-Abteilung das Know-how hat oder ob Sie externen Support einkaufen.

Faustregel: Wer mehr als drei bis fünf Workloads dauerhaft betreibt und eigenes IT-Personal hat, fährt mit eigener Hardware günstiger. Wer sporadisch Rechenleistung braucht oder keine IT-Kapazität hat, bleibt in der Cloud.

Entscheidungskriterium 2: Kontrolle und Compliance

Für manche Mittelständler ist die volle Kontrolle über Daten und Verarbeitung ein hartes Ausschlusskriterium. Wenn Sie personenbezogene Daten verarbeiten und der Cloud-Anbieter Subprozessoren in Drittländern einsetzt, brauchen Sie Auftragsverarbeitungsverträge, Transfer Impact Assessments und regelmäßige Nachweise.

Mit eigener Hardware in einem deutschen Rechenzentrum vereinfacht sich die DSGVO-Compliance deutlich. Sie bleiben Herr über die Daten, müssen keine externen AV-Verträge managen und können in Audits klar nachweisen, wo welche Daten liegen.

Das gilt besonders für KI-Workflows, die auf sensiblen Dokumenten trainieren oder diese verarbeiten: Kundendaten, Verträge, Konstruktionspläne. Hier ist die rechtliche und technische Kontrolle oft wichtiger als die letzte Kostenoptimierung.

Entscheidungskriterium 3: Skalierbarkeit und Flexibilität

Cloud-Anbieter punkten mit schneller Skalierung. Sie brauchen für zwei Wochen zusätzliche Rechenleistung? Sie buchen sie, nutzen sie und skalieren wieder herunter. Diese Elastizität ist bei eigener Hardware nicht gegeben. Hier müssen Sie Server kaufen, liefern lassen, einbauen und konfigurieren. Das dauert Wochen.

Umgekehrt: Wer seine Workloads kennt und über Monate oder Jahre konstant betreibt, braucht diese Elastizität nicht. Dann wird sie zum teuren Luxus, für den Sie monatlich zahlen, ohne ihn zu nutzen.

Typisches Beispiel: Ein automatisches Reporting-Dashboard, das jeden Morgen um 6 Uhr Daten aus ERP, CRM und Buchhaltung zusammenführt und per E-Mail versendet. Das läuft immer gleich, die Last ist vorhersehbar, die Hardware kann fix dimensioniert werden. Hier lohnt sich eigene Infrastruktur.

Anders sieht es bei saisonalen Spitzen aus: Ein E-Commerce-Mittelständler, der im November und Dezember das Dreifache an Anfragen hat, profitiert von Cloud-Elastizität. Die gleiche Infrastruktur zehn Monate im Jahr vorzuhalten, wäre unwirtschaftlich.

Entscheidungskriterium 4: IT-Personal und Know-how

Eigene Hardware zu betreiben, bedeutet eigenes Personal oder eingekauften Support. Wer keine Linux-Administratoren im Team hat, wird Self-Hosted-Lösungen nicht wirtschaftlich betreiben können. Dann übersteigen die Personalkosten schnell die Ersparnis gegenüber der Cloud.

Mittelständler mit eigener IT-Abteilung haben hier einen strukturellen Vorteil. Sie betreiben ohnehin Server, kennen Monitoring-Tools, haben Backup-Strategien und wissen, wie Firewall-Regeln konfiguriert werden. Für sie ist der Schritt zu selbst gehosteten KI-Workflows klein.

Wer dagegen nur eine externe IT-Dienstleistung hat, die auf Zuruf Rechner austauscht, wird mit Self-Hosted überfordert sein. Hier ist Cloud die bessere Wahl, weil sie Betriebsverantwortung outsourct.

Entscheidungskriterium 5: Vendor Lock-in und Exit-Strategie

Cloud-Anbieter machen es Ihnen leicht, einzusteigen, und schwer, wieder auszusteigen. Wer einmal auf proprietäre Dienste setzt, etwa spezielle KI-APIs, Datenbank-Formate oder Workflow-Orchestrierung, bindet sich technisch. Ein Umzug kostet dann Zeit, Geld und Nerven.

Eigene Hardware gibt Ihnen die Freiheit, jederzeit den Anbieter zu wechseln oder ganz auf andere Technologie zu setzen. Sie besitzen die Maschinen, Sie kontrollieren die Software, Sie entscheiden, wann und wie Sie migrieren.

Das ist kein theoretisches Szenario. Wir haben Mittelständler begleitet, die nach zwei Jahren aus der Cloud zurück auf eigene Server gezogen sind, weil die monatlichen Kosten explodierten und die Abhängigkeit zu groß wurde. Der Umzug war aufwendig, aber kalkulierbar, weil sie auf offene Standards gesetzt hatten.

Hybrid-Ansatz: Das Beste aus beiden Welten

Viele Mittelständler fahren am besten mit einem Hybrid-Modell: Basislast auf eigener Hardware, Spitzen in der Cloud. Konkret bedeutet das: Ihre Workflow-Plattform läuft auf einem dedizierten Server im Co-Location-Rack, aber für rechenintensive Batch-Jobs nutzen Sie temporär Cloud-Instanzen.

Technisch ist das mit modernen Workflow-Plattformen wie n8n oder Make problemlos möglich. Sie definieren, welche Workflows lokal laufen und welche an Cloud-Worker delegiert werden. So halten Sie die Fixkosten niedrig und zahlen nur für echte Spitzen.

Ein weiterer Hybrid-Ansatz: Datenverarbeitung und Speicher auf eigener Infrastruktur, externe APIs und spezialisierte KI-Dienste aus der Cloud. So behalten Sie die Kontrolle über sensible Daten, nutzen aber die Innovationsgeschwindigkeit externer Anbieter.

Was in der Praxis nicht funktioniert

Drei Fallen, die wir regelmäßig sehen:

Erstens: Mittelständler kaufen Server, ohne die laufenden Kosten zu kalkulieren. Strom, Kühlung, Wartung, Software-Lizenzen und Backup summieren sich. Wer nur Hardware-Kosten vergleicht, unterschätzt die Total Cost of Ownership um 40 bis 60 Prozent.

Zweitens: Cloud wird als „IT-freie Zone” missverstanden. Auch Cloud-Infrastruktur muss konfiguriert, überwacht und abgesichert werden. Wer glaubt, Cloud bedeute keine IT-Arbeit, erlebt spätestens beim ersten Sicherheitsvorfall ein böses Erwachen.

Drittens: Entscheidungen werden emotional getroffen. „Wir wollen unabhängig sein” oder „Cloud ist modern” sind keine validen Argumente. Nur eine nüchterne Rechnung über drei bis fünf Jahre, inklusive Personal, Risiko und Compliance, liefert eine belastbare Entscheidungsgrundlage.

So treffen Sie die Entscheidung systematisch

Gehen Sie in drei Schritten vor:

1. Workloads inventarisieren: Welche KI-Workflows laufen oder sind geplant? Wie viel Rechenleistung, Speicher und Netzwerk brauchen sie? Ist die Last konstant oder schwankend?

2. Kosten über drei Jahre rechnen: Einmalige Hardware-Kosten plus monatliche Betriebskosten (Strom, Rack, Personal) versus monatliche Cloud-Kosten. Realistische Nutzung annehmen, nicht Best Case.

3. Compliance und Kontrolle bewerten: Gibt es rechtliche oder geschäftliche Gründe, die für oder gegen Cloud sprechen? Wie kritisch ist Vendor Lock-in?

Wer diese Fragen ehrlich beantwortet, findet eine wirtschaftlich und strategisch tragfähige Lösung. Oft ist es kein Entweder-oder, sondern ein Sowohl-als-auch.

Fazit: Die richtige Infrastruktur ist eine Geschäftsentscheidung

Make or Buy bei IT-Infrastruktur ist keine technische Frage, sondern eine strategische. Wer rechnet, vergleicht und seine eigenen Anforderungen kennt, trifft bessere Entscheidungen als derjenige, der Trends folgt oder aus dem Bauch heraus entscheidet.

White Fox Automations begleitet Mittelständler bei dieser Abwägung, rechnet realistische Szenarien durch und setzt die gewählte Infrastruktur um. Wenn Sie Klarheit über Ihre IT-Strategie für KI-Workflows gewinnen möchten, sprechen Sie mit uns.

Sprechen Sie mit uns

Sie möchten das in Ihrem Betrieb umsetzen? Wir bauen die passende Maschine mit Ihnen.

Telefon: 040 468 967 680
E-Mail: info@whitefox-automations.com
Oder über unser Kontaktformular.