Penetrationstest für KI-Workflows: Sicherheitslücken finden

Sie haben Ihre KI-Workflows aufgebaut, Firewall-Regeln gesetzt, Zugriffskontrolle eingerichtet und Verschlüsselung aktiviert. Die Frage bleibt: Wie sicher ist Ihre Installation wirklich? Ein Penetrationstest gibt Ihnen die Antwort, bevor es ein Angreifer tut.

Warum ein Penetrationstest keine Pflicht ist, aber trotzdem sinnvoll

Die DSGVO verlangt “dem Risiko angemessene technische und organisatorische Maßnahmen”. Einen expliziten Penetrationstest schreibt sie nicht vor. Sobald Sie jedoch personenbezogene Daten verarbeiten, müssen Sie nachweisen können, dass Ihre Sicherheitsmaßnahmen wirken. Ein externer Test ist der schnellste Weg, Lücken zu finden, bevor die Aufsichtsbehörde oder ein Angreifer sie entdeckt.

Viele mittelständische Unternehmen scheuen die Kosten und den Aufwand. Erfahrungsgemäß kostet ein Penetrationstest für eine typische KI-Workflow-Umgebung mit n8n, Make oder einer Self-Hosted-Lösung zwischen 3.000 und 8.000 Euro. Das ist weniger als die durchschnittlichen Kosten eines Datenverlusts, die je nach Branche zwischen 50.000 und 250.000 Euro liegen.

Was ein Penetrationstest konkret abdeckt

Ein Penetrationstest simuliert reale Angriffsszenarien auf Ihre Infrastruktur. Er unterscheidet sich von einem Schwachstellenscan dadurch, dass er nicht nur potenzielle Lücken auflistet, sondern aktiv versucht, sie auszunutzen.

Typische Prüfbereiche für KI-Workflows:

• Netzwerk-Perimeter: Sind Ihre API-Endpunkte von außen erreichbar? Gibt es offene Ports, die keinen Geschäftszweck erfüllen?
• Authentifizierung und Autorisierung: Können Token abgefangen oder wiederverwendet werden? Sind Rollen und Berechtigungen korrekt konfiguriert?
• Workflow-Plattform: Lassen sich Workflows von außen manipulieren? Gibt es unautorisierte Zugriffe auf Konfigurationsdateien oder Umgebungsvariablen?
• Datenbankzugriff: Sind SQL-Injection oder NoSQL-Injection möglich? Werden Credentials im Klartext gespeichert?
• KI-Modelle und Datenquellen: Können RAG-Datenbanken ohne Autorisierung abgefragt werden? Lassen sich Prompts manipulieren, um ungewollte Ausgaben zu erzwingen (Prompt Injection)?
• Logging und Monitoring: Werden Angriffe überhaupt erkannt? Kann ein Angreifer Log-Dateien löschen oder manipulieren?

Ein vollständiger Test dauert in der Regel drei bis fünf Arbeitstage. Das Ergebnis ist ein schriftlicher Bericht mit Schwachstellen, Risikobewertung (nach CVSS-Score) und konkreten Handlungsempfehlungen.

Die drei Testmethoden: Black Box, Grey Box, White Box

Sie können den Umfang und die Tiefe des Tests steuern:

Black Box: Der Tester erhält keine Informationen über Ihre Infrastruktur. Er verhält sich wie ein externer Angreifer, der nur Ihre Domain kennt. Dieser Ansatz zeigt, was ein Angreifer ohne Insiderwissen erreichen kann, benötigt aber mehr Zeit und deckt eventuell interne Schwachstellen nicht ab.

Grey Box: Der Tester erhält Zugangsdaten mit eingeschränkten Rechten, beispielsweise ein Standard-Benutzerkonto. Dieser Ansatz simuliert einen Innentäter oder ein kompromittiertes Konto und deckt Schwachstellen auf, die nur bei authentifizierten Zugriffen sichtbar werden.

White Box: Der Tester bekommt vollständigen Zugang zu Netzwerkplänen, Quellcode, Konfigurationsdateien und Administratorrechten. Dieser Ansatz liefert die umfassendste Prüfung, erfordert aber intern mehr Vorbereitungsaufwand.

Für mittelständische Unternehmen mit KI-Workflows empfehle ich einen Grey-Box-Test. Er ist effizienter als Black Box und deckt die häufigsten Angriffsszenarien ab, ohne dass Sie Ihre gesamte Dokumentation extern bereitstellen müssen.

Ablauf eines Penetrationstests in der Praxis

Ein typisches Projekt läuft in fünf Phasen:

1. Vorbereitung und Scoping: Sie definieren gemeinsam mit dem Dienstleister, welche Systeme geprüft werden sollen, welche Testmethode zum Einsatz kommt und welche Systeme explizit ausgenommen sind. Sie vereinbaren einen Zeitraum und einen Notfallkontakt.

2. Reconnaissance: Der Tester sammelt öffentlich verfügbare Informationen über Ihre Domain, Subdomains, IP-Bereiche und E-Mail-Adressen. Diese Phase ist passiv und verursacht keine Last auf Ihren Systemen.

3. Aktive Prüfung: Der Tester versucht, identifizierte Schwachstellen auszunutzen. Er dokumentiert jeden Schritt und informiert Sie sofort, wenn er auf kritische Lücken stößt, die einen sofortigen Stopp erfordern.

4. Berichtserstellung: Sie erhalten einen detaillierten Bericht mit Executive Summary, technischen Details zu jeder Schwachstelle, Risikobewertung und Empfehlungen zur Behebung.

5. Retest: Nach Umsetzung der Maßnahmen führt der Dienstleister eine erneute Prüfung der behobenen Schwachstellen durch, um sicherzustellen, dass die Lücken geschlossen sind.

Typische Schwachstellen, die wir in KI-Workflows finden

In den letzten 18 Monaten haben wir bei mittelständischen Kunden immer wieder dieselben Muster beobachtet:

• Ungepatchte Workflow-Plattformen: n8n oder Make wurden initial installiert, aber Updates nicht eingespielt. Bekannte Schwachstellen bleiben offen.
• Offene API-Endpunkte ohne Rate Limiting: Ein Angreifer kann unbegrenzt Anfragen senden und entweder Daten abgreifen oder die Verfügbarkeit beeinträchtigen.
• Fehlende Verschlüsselung bei Webhook-Callbacks: Daten werden im Klartext übertragen, weil das Zertifikat abgelaufen ist oder Webhooks über HTTP statt HTTPS konfiguriert wurden.
• Secrets in Umgebungsvariablen im Klartext: API-Keys liegen in Konfigurationsdateien, die im Git-Repository oder auf dem Server lesbar sind.
• Unzureichende Zugriffskontrolle auf RAG-Datenbanken: Die Vektordatenbank ist ohne Authentifizierung erreichbar, weil sie im internen Netz als “sicher” angenommen wird.

Jede dieser Schwachstellen ist mit überschaubarem Aufwand zu beheben. Der Penetrationstest zeigt Ihnen, welche davon in Ihrer Umgebung existieren und welche Priorität sie haben.

Was ein Penetrationstest nicht leisten kann

Ein Test ist eine Momentaufnahme. Er bewertet den Zustand Ihrer Systeme zu einem bestimmten Zeitpunkt. Sobald Sie eine neue Version Ihrer Workflow-Plattform einspielen, ein neues Modul hinzufügen oder Firewall-Regeln ändern, kann sich die Sicherheitslage verändern.

Ein Penetrationstest ersetzt kein kontinuierliches Monitoring und keine regelmäßigen Schwachstellenscans. Er deckt auch keine organisatorischen Schwächen ab, beispielsweise fehlende Schulungen oder unklare Verantwortlichkeiten im Incident-Response-Prozess. Für eine ganzheitliche Sicherheitsstrategie benötigen Sie beides: technische Tests und organisatorische Maßnahmen.

Rechtliche Rahmenbedingungen und Dokumentation

Ein Penetrationstest muss rechtlich sauber dokumentiert sein. Der Vertrag sollte folgende Punkte enthalten:

• Umfang und Testzeitraum: Welche Systeme dürfen geprüft werden, wann findet der Test statt?
• Haftung und Vertraulichkeit: Wer haftet bei Ausfällen, und wie werden die Ergebnisse behandelt?
• Notfallkontakt: Wen ruft der Tester an, wenn er eine kritische Schwachstelle findet?

Wenn Sie Cloud-Dienste nutzen, prüfen Sie die Nutzungsbedingungen. Manche Anbieter verlangen, dass Sie Penetrationstests vorher anmelden. AWS, Azure und Google Cloud erlauben Tests auf bestimmten Diensten ohne Voranmeldung, andere Cloud-Provider haben strengere Regeln.

Der Abschlussbericht sollte nach DSGVO als Teil Ihrer technisch-organisatorischen Maßnahmen dokumentiert und mindestens drei Jahre aufbewahrt werden. Bei einer Prüfung durch die Aufsichtsbehörde oder im Falle eines Vorfalls belegt er, dass Sie Ihre Sorgfaltspflicht erfüllt haben.

Wie oft sollten Sie testen?

Die Antwort hängt vom Risiko ab. Verarbeiten Sie besondere Kategorien personenbezogener Daten (Gesundheitsdaten, biometrische Daten), empfehle ich einen jährlichen Test. Bei Standard-Workflows mit Geschäftsdaten reicht ein Test alle zwei Jahre, ergänzt durch vierteljährliche automatisierte Schwachstellenscans.

Zusätzliche Tests sind sinnvoll nach größeren Änderungen: Migration auf eine neue Workflow-Plattform, Einführung eines neuen KI-Modells, Wechsel des Hosting-Providers oder nach einem Sicherheitsvorfall.

Erste Schritte für Ihren Penetrationstest

Wenn Sie einen Penetrationstest planen, starten Sie mit einer internen Bestandsaufnahme:

1. Systeminventar: Welche Workflow-Plattformen, Datenbanken, APIs und KI-Modelle sind im Einsatz?
2. Netzwerkdiagramm: Welche Systeme kommunizieren miteinander, welche Ports sind offen?
3. Bestehende Dokumentation: Haben Sie Firewall-Regeln, Zugriffslisten und AV-Verträge dokumentiert?
4. Kritische Assets: Welche Daten und Systeme haben die höchste Priorität?

Mit diesen Informationen können Sie den Scope präzise definieren und dem Dienstleister die notwendigen Zugänge bereitstellen. Je besser die Vorbereitung, desto effizienter der Test und desto aussagekräftiger das Ergebnis.

Fazit: Sicherheit, die Sie messen können

Ein Penetrationstest liefert Ihnen belastbare Fakten über den Sicherheitszustand Ihrer KI-Workflows. Er zeigt, welche Maßnahmen wirken und wo Lücken bestehen. Für den Mittelstand ist das kein Nice-to-have, sondern eine Investition in den Nachweis Ihrer Sorgfaltspflicht und in die Vermeidung teurer Sicherheitsvorfälle.

Wenn Sie wissen möchten, wie ein Penetrationstest für Ihre Umgebung konkret aussehen würde und welcher Umfang sinnvoll ist, sprechen wir gern darüber.

Sprechen Sie mit uns

Sie möchten das in Ihrem Betrieb umsetzen? Wir bauen die passende Maschine mit Ihnen.

Telefon: 040 468 967 680
E-Mail: info@whitefox-automations.com
Oder über unser Kontaktformular.