Muss ich Schulungen nach KI-VO Artikel 4 machen?
Die erste Frage, die sich stellt, wenn es um den Artikel 4 der EU-KI-Verordnung geht, ist die nach der Relevanz für das eigene Unternehmen.
Auch wenn es für jedes Unternehmen und jeden Mitarbeiter sinnvoll ist, eine entsprechende Schulung zu machen, ist diese Frage verständlich. Es entstehen externe Kosten und interne Aufwände, daher sollte die Frage geklärt sein. Wir geben hier eine möglichst einfache und verständliche Übersicht, wer verpflichtet ist.
Spoiler zu Beginn: Fast alle sind verpflichtet. Aber informieren Sie sich hier lieber gründlich.
Wir starten mit einer eher trockenen Materie, die jedoch die Grundlage darstellt: Was steht in der EU-KI-Verordnung?
Grundsätzlich gilt die Verordnung für natürliche und juristische Personen (Unternehmen, Organisationen, Einzelunternehmer), die:
KI-Systeme im Sinne der Definition in Art. 3 Nr. 1 entwickeln, in Verkehr bringen, bereitstellen oder nutzen,
in der EU ansässig sind oder
deren KI-Systeme Auswirkungen auf Personen in der EU haben (auch wenn der Anbieter selbst nicht in der EU sitzt).
Merke: Auch Unternehmen, die keine KI selbst entwickeln, sondern nur nutzen, können unter die Verordnung fallen.
Artikel 4 gilt für:
Nutzer von KI-Systemen (Art. 3 Nr. 4) – also jede Person, die ein KI-System unter eigener Verantwortung verwendet (z. B. Vertrieb, Support, HR, Produktion).
Betreiber / Bereitsteller – also interne Teams, die KI-Anwendungen konfigurieren, trainieren oder bereitstellen.
Personen im Auftrag – z. B. externe Dienstleister, die für das Unternehmen KI-Systeme bedienen.
Ein Beispiel:
Auch wenn ein Unternehmen nur einen Chatbot oder ein Übersetzungstool im Alltag einsetzt, fällt es unter die „Nutzer“-Definition.
Laut Artikel 4 müssen alle, die im Unternehmen mit KI arbeiten, über eine angemessene Kombination aus
technischen Kenntnissen,
Erfahrung,
Ausbildung oder Schulung
verfügen, um Risiken zu verstehen und das System sicher zu betreiben.
Das bedeutet:
Ja, Pflicht → Wenn Mitarbeitende in irgendeiner Form mit KI-Systemen im Sinne der Verordnung interagieren.
Nein, keine Pflicht → Nur wenn gar keine KI-Systeme im Unternehmen eingesetzt oder bereitgestellt werden – weder direkt noch indirekt über Drittsoftware.
Kurzform:
Jedes Unternehmen, das irgendeine Form von KI nutzt oder bereitstellt, fällt unter Art. 4 und muss sicherstellen, dass seine Nutzer und Betreiber ausreichend KI-Kompetenz haben.
Ausnahme: Unternehmen ohne jeglichen KI-Bezug.
Praxisbeispiele: Wann greift die Schulungspflicht nach Art. 4 EU-KI-VO?
Kategorie 1 – Unternehmen entwickelt selbst KI-Systeme
Typisch bei Tech-/Daten-getriebenen Firmen oder in F&E-Bereichen
Beispiele:
Entwicklung eines Machine-Learning-Modells zur Absatzprognose (z. B. Python/Scikit-Learn, TensorFlow)
Eigenentwickelter Chatbot mit Natural Language Processing
Bild- oder Videoanalyse zur Qualitätsprüfung in der Fertigung (Computer Vision)
Sprachsteuerung für Maschinen oder Apps
KI-gestützte Betrugserkennung in Zahlungsprozessen
Individuelle Empfehlungssysteme im E-Commerce (ähnlich wie Amazon-Empfehlungen, aber intern entwickelt)
Prognosemodelle für Wartungsbedarf (Predictive Maintenance)
KI-Module in Embedded Devices (z. B. intelligente Sensoren, Robotiksteuerung)
Generative KI intern trainiert (z. B. eigenes LLM für Kundenservice-Wissensdatenbank)
Kategorie 2 – Unternehmen stellt KI-Systeme Dritten zur Verfügung
Auch dann relevant, wenn KI nur Teilfunktion eines Produkts oder Services ist!
Beispiele:
SaaS-Plattform mit automatischer Texterstellung oder Übersetzung
Recruiting-Software mit automatischer Lebenslaufanalyse
Bildbearbeitungstool mit KI-basiertem Hintergrund-Entferner
Analyse- oder Reporting-Tools mit Anomalieerkennung
Routenoptimierungssoftware mit Machine-Learning-Optimierung
Chatbots im Kundenservice, die Antworten automatisch generieren
Gesundheits-App mit KI-gestützter Diagnoseunterstützung
Lernplattform mit automatischer Aufgabenkorrektur oder personalisierten Lernpfaden
Vertragsprüfungs-Tools mit NLP-gestützter Risikoanalyse
CRM- oder ERP-Module mit KI-Vorhersagen (z. B. Sales Forecast, Lead Scoring)
Kategorie 3 – Unternehmen nutzt externe KI-Systeme
Die größte „Überraschungskategorie“ – viele Alltags-Tools enthalten KI, oft unbemerkt!
Beispiele:
Bürosoftware:
Microsoft 365 (Copilot in Word, Excel, Outlook, Teams)
Google Workspace (KI-Autovervollständigung, Smart Compose in Gmail/Docs)
Kommunikation & Kollaboration:
Zoom (Live-Transkription, Meeting-Zusammenfassungen)
Slack (KI-Such- und Zusammenfassungsfunktionen)
Vertrieb & Marketing:
HubSpot, Salesforce Einstein (Lead-Scoring, Prognosen)
Mailchimp (Optimierungszeitpunkt für E-Mail-Versand)
Kundensupport:
Zendesk (KI-gestützte Ticket-Kategorisierung)
Intercom (KI-Antwortvorschläge)
Übersetzung & Sprache:
DeepL, Google Translate, Microsoft Translator
Otter.ai (Transkription, Meeting-Mitschriften)
Design & Content-Erstellung:
Canva (KI-Bildgenerator, Magic Write)
Adobe Photoshop (Generative Fill, Objekterkennung)
ERP/CRM/Branchensoftware:
SAP (Predictive Analytics, Machine Learning Add-ons)
Microsoft Dynamics 365 (Verkaufsprognosen, Textanalyse)
Theorg mit KI-gestützter Terminplanung (in manchen Modulen)
HR & Recruiting:
Softgarden, Personio mit automatischer Lebenslaufanalyse
LinkedIn Recruiter (KI-gestützte Kandidatenvorschläge)
Fertigung & Logistik:
IoT-Analysen in MES-Systemen
Lagerverwaltung mit automatischer Nachfrageprognose
Sicherheit & IT:
Firewalls mit Anomalieerkennung (z. B. Palo Alto, Fortinet KI-Module)
Microsoft Defender mit KI-basiertem Threat Detection
Branchenspezifische Spezialfälle:
Medizingeräte mit KI-Bilderkennung (Radiologie)
Bauplanung mit KI-unterstützter Mengenermittlung
Landwirtschaftsdrohnen mit Objekterkennung
💡 Praxis-Tipp:
Unternehmen sollten nicht nur fragen „Nutzen wir KI?“, sondern „Welche unserer Tools enthalten KI-Funktionen – auch als Nebenfunktion?“
Oft schlummern diese in Updates, ohne dass die IT oder Compliance es aktiv registriert.