n8n Hochrisiko KI: Technische EU-AI-Act-Checkliste

Inhalt
    Fügen Sie eine Überschrift hinzu, um mit der Erstellung des Inhaltsverzeichnisses zu beginnen

    Wann wird dein n8n-Workflow zur Hochrisiko-KI?

    „Wir nutzen doch nur n8n für Automatisierung, das ist doch keine KI im rechtlichen Sinne.“ Diesen Satz höre ich in fast jedem zweiten Audit-Gespräch. Und er ist fast nie ganz richtig.

    Der EU AI Act unterscheidet nicht danach, welches Tool du einsetzt. Er unterscheidet danach, wofür du es einsetzt. Ein n8n-Workflow, der E-Mails sortiert, ist harmlos. Derselbe Workflow, der über die Bewerbung eines Menschen mitentscheidet, ist unter Umständen Hochrisiko-KI nach Annex III – unabhängig davon, dass n8n selbst nur eine Automatisierungsplattform ist.

    Hier ist die technische Checkliste, die ich in Audits tatsächlich durchgehe.


    Der Denkfehler: „n8n ist nur Klempnerarbeit“

    n8n und Make verbinden APIs, verschieben Daten, rufen LLMs auf. Das Tool selbst trifft keine Entscheidungen – es führt aus, was du ihm konfigurierst. Genau deshalb übersehen viele Teams die Einstufung: Sie prüfen das Tool, nicht den Zweck.

    Der EU AI Act fragt aber nicht „ist das ein KI-Tool“, sondern „wird hier ein KI-System für einen der in Annex III gelisteten Zwecke eingesetzt, und beeinflusst der Output eine Entscheidung mit relevanter Wirkung für eine Person“. Ob dieser Output aus einem n8n-Workflow, einer Make-Automatisierung oder eigenem Python-Code kommt, spielt keine Rolle.


    Die technische Checkliste

    Ich gehe bei jedem Audit diese vier Fragen durch, in dieser Reihenfolge:

    1. Fließt der Output in eine Entscheidung über eine Person?

    Nicht: „Verarbeitet der Workflow Daten über Personen.“ Sondern konkret: Beeinflusst das Ergebnis, ob jemand eingestellt, befördert, ein Kredit gewährt, ein Versicherungstarif berechnet oder ein Bewerbungsgespräch überhaupt stattfindet?

    Ein n8n-Workflow, der eingehende Bewerbungen nach Keywords filtert und die Top 10 an HR weiterleitet, erfüllt dieses Kriterium. Ein Workflow, der nur eingehende Rechnungen in ein Buchhaltungssystem einträgt, nicht.

    2. Gehört der Anwendungsfall zu einem der acht Annex-III-Bereiche?

    Die für n8n-/Make-Setups in der Praxis relevantesten vier von acht Bereichen:

    • Beschäftigung, Personalmanagement: Bewerbungsscreening, Kandidaten-Ranking, Leistungsbewertung, Kündigungsentscheidungen
    • Kreditwürdigkeit und Bonität: automatisierte Score-Berechnung, die über Kreditvergabe mitentscheidet
    • Zugang zu wesentlichen privaten und öffentlichen Diensten: automatisierte Vorprüfung von Anträgen (Versicherung, Sozialleistungen)
    • Biometrische Identifikation: Gesichtserkennung, Stimmerkennung zur Identifizierung von Personen

    Wenn dein Workflow in keinen dieser Bereiche fällt, ist er nach heutigem Stand aller Wahrscheinlichkeit nach kein Hochrisiko-System, auch wenn ein LLM beteiligt ist.

    3. Trifft ein Mensch die tatsächliche Entscheidung, oder nur formal?

    Das ist der Punkt, an dem die meisten Teams sich selbst etwas vormachen. „Ein Mensch schaut noch mal drüber“ reicht nicht, wenn der Mensch de facto nur die von der KI vorsortierte Liste abarbeitet und nie sieht, wer aussortiert wurde.

    Konkrete Testfrage: Wenn dein Workflow 200 Bewerbungen auf 20 herunterfiltert und HR nur diese 20 sieht – hat dann ein Mensch entschieden, oder hat die KI die Entscheidung bereits getroffen und der Mensch nur noch die Durchführung übernommen?

    4. Ist dein Prozess so gebaut, dass du es im Zweifel nachweisen kannst?

    Selbst wenn du zu dem Schluss kommst „kein Hochrisiko-System“ – kannst du das nachträglich belegen? Annex III-Einstufung ist keine einmalige Entscheidung, sondern etwas, das du im Zweifel gegenüber einer Aufsichtsbehörde begründen musst.

    Technisch bedeutet das für n8n-/Make-Workflows konkret:

    Workflow-Dokumentation, die im Audit tatsächlich fehlt:
    - Welche Datenfelder fließen in die Entscheidung ein?
    - Welche Logik/welches Modell trifft die Vorauswahl?
    - Wo genau greift menschliche Prüfung ein - vor oder nach der Filterung?
    - Wird die Entscheidung geloggt, inklusive der aussortierten Fälle?

    Die meisten n8n-Setups, die ich sehe, haben davon nichts. Nicht, weil das Team nachlässig ist, sondern weil n8n als Prototyping-Tool gebaut wurde, nicht als Compliance-Infrastruktur.


    Was das für Annex-III-Systeme praktisch bedeutet

    Falls dein Workflow alle vier Kriterien erfüllt, gelten ab Dezember 2027 (verschoben von ursprünglich August 2026, „Digital Omnibus on AI“) die vollständigen Hochrisiko-Pflichten: dokumentiertes Logging, nachweisbare menschliche Aufsicht, technische Dokumentation, Registrierung des Systems.

    Das ist kein Grund für Panik, aber ein guter Grund, jetzt schon sauber zu dokumentieren – die Vorlaufzeit für saubere Prozessdokumentation ist real, unabhängig davon, wie weit die Frist noch entfernt liegt.

    Was das nicht bedeutet

    Nicht jeder Einsatz von KI in einem n8n-Workflow ist Hochrisiko. Ein Chatbot, der FAQ beantwortet, ein Workflow, der Rechnungen automatisch kategorisiert, ein Scraper, der Preise vergleicht – all das bleibt außerhalb von Annex III, solange keine Entscheidung mit relevanter Wirkung für eine Person getroffen wird.

    Was in diesen Fällen trotzdem gilt: die DSGVO, unabhängig von jeder EU-AI-Act-Einstufung. Sobald personenbezogene Daten an eine externe LLM-API wie OpenAI gehen, ist das ein eigenständiges Thema – siehe dazu meinen Artikel zum US CLOUD Act.


    Die Checkliste zum Mitnehmen

    1. Beeinflusst der Output eine Entscheidung über eine konkrete Person? 2. Gehört der Zweck zu einem der acht Annex-III-Bereiche? 3. Ist die menschliche Prüfung echt, oder nur eine formale Durchwinkstation? 4. Kannst du die Antwort auf 1-3 dokumentiert belegen?

    Wenn du bei Frage 4 ins Stocken kommst, ist das unabhängig von der eigentlichen Einstufung schon ein Warnsignal.


    Weitere Ressourcen

    Die vollständige Annex-III-Liste mit allen acht Bereichen:

    Hochrisiko-KI-Systeme nach EU AI Act: Annex III vollständig erklärt

    Wenn du wissen willst, wo deine eigenen Systeme stehen:

    KI-Compliance-Schnellcheck – 8 Fragen, erste Einordnung

    Für eine vollständige technische Analyse deiner Workflows:

    Zum KI-Compliance Audit auf brain-maze.de

    Bild von Ingo Janßen

    Ingo Janßen

    Nicht einfach nur programmieren. Probleme lösen und Aufgaben automatisieren!

    Das könnte dich auch interessieren

    Nach oben scrollen