Spoiler zu Beginn: Fast alle sind verpflichtet. Aber informieren Sie sich hier lieber gründlich.

Wir starten mit einer eher trockenen Materie, die jedoch die Grundlage darstellt: Was steht in der EU-KI-Verordnung?

Grundsätzlich gilt die Verordnung für natürliche und juristische Personen (Unternehmen, Organisationen, Einzelunternehmer), die:

• KI-Systeme im Sinne der Definition in Art. 3 Nr. 1 entwickeln, in Verkehr bringen, bereitstellen oder nutzen,
• in der EU ansässig sind oder
• deren KI-Systeme Auswirkungen auf Personen in der EU haben (auch wenn der Anbieter selbst nicht in der EU sitzt).
  

Merke: Auch Unternehmen, die keine KI selbst entwickeln, sondern nur nutzen, können unter die Verordnung fallen.

Artikel 4 gilt für:

• Nutzer von KI-Systemen (Art. 3 Nr. 4) – also jede Person, die ein KI-System unter eigener Verantwortung verwendet (z. B. Vertrieb, Support, HR, Produktion).
• Betreiber / Bereitsteller – also interne Teams, die KI-Anwendungen konfigurieren, trainieren oder bereitstellen.
• Personen im Auftrag – z. B. externe Dienstleister, die für das Unternehmen KI-Systeme bedienen.
  

Ein Beispiel:

Auch wenn ein Unternehmen nur einen Chatbot oder ein Übersetzungstool im Alltag einsetzt, fällt es unter die „Nutzer“-Definition.

Laut Artikel 4 müssen alle, die im Unternehmen mit KI arbeiten, über eine angemessene Kombination aus

• technischen Kenntnissen,
• Erfahrung,
• Ausbildung oder Schulung

verfügen, um Risiken zu verstehen und das System sicher zu betreiben.

Das bedeutet:

• Ja, Pflicht → Wenn Mitarbeitende in irgendeiner Form mit KI-Systemen im Sinne der Verordnung interagieren.
• Nein, keine Pflicht → Nur wenn gar keine KI-Systeme im Unternehmen eingesetzt oder bereitgestellt werden – weder direkt noch indirekt über Drittsoftware.

Kurzform:

Jedes Unternehmen, das irgendeine Form von KI nutzt oder bereitstellt, fällt unter Art. 4 und muss sicherstellen, dass seine Nutzer und Betreiber ausreichend KI-Kompetenz haben.

Ausnahme: Unternehmen ohne jeglichen KI-Bezug.

‍

Praxisbeispiele: Wann greift die Schulungspflicht nach Art. 4 EU-KI-VO?

Kategorie 1 – Unternehmen entwickelt selbst KI-Systeme

Typisch bei Tech-/Daten-getriebenen Firmen oder in F&E-Bereichen

Beispiele:

• Entwicklung eines Machine-Learning-Modells zur Absatzprognose (z. B. Python/Scikit-Learn, TensorFlow)
• Eigenentwickelter Chatbot mit Natural Language Processing
• Bild- oder Videoanalyse zur Qualitätsprüfung in der Fertigung (Computer Vision)
• Sprachsteuerung für Maschinen oder Apps
• KI-gestützte Betrugserkennung in Zahlungsprozessen
• Individuelle Empfehlungssysteme im E-Commerce (ähnlich wie Amazon-Empfehlungen, aber intern entwickelt)
• Prognosemodelle für Wartungsbedarf (Predictive Maintenance)
• KI-Module in Embedded Devices (z. B. intelligente Sensoren, Robotiksteuerung)
• Generative KI intern trainiert (z. B. eigenes LLM für Kundenservice-Wissensdatenbank)

Kategorie 2 – Unternehmen stellt KI-Systeme Dritten zur Verfügung

Auch dann relevant, wenn KI nur Teilfunktion eines Produkts oder Services ist!

Beispiele:

• SaaS-Plattform mit automatischer Texterstellung oder Übersetzung
• Recruiting-Software mit automatischer Lebenslaufanalyse
• Bildbearbeitungstool mit KI-basiertem Hintergrund-Entferner
• Analyse- oder Reporting-Tools mit Anomalieerkennung
• Routenoptimierungssoftware mit Machine-Learning-Optimierung
• Chatbots im Kundenservice, die Antworten automatisch generieren
• Gesundheits-App mit KI-gestützter Diagnoseunterstützung
• Lernplattform mit automatischer Aufgabenkorrektur oder personalisierten Lernpfaden
• Vertragsprüfungs-Tools mit NLP-gestützter Risikoanalyse
• CRM- oder ERP-Module mit KI-Vorhersagen (z. B. Sales Forecast, Lead Scoring)

Kategorie 3 – Unternehmen nutzt externe KI-Systeme

Die größte „Überraschungskategorie“ – viele Alltags-Tools enthalten KI, oft unbemerkt!

Beispiele:

• Bürosoftware:
  • Microsoft 365 (Copilot in Word, Excel, Outlook, Teams)
  • Google Workspace (KI-Autovervollständigung, Smart Compose in Gmail/Docs)
• Kommunikation & Kollaboration:
  • Zoom (Live-Transkription, Meeting-Zusammenfassungen)
  • Slack (KI-Such- und Zusammenfassungsfunktionen)
• Vertrieb & Marketing:
  • HubSpot, Salesforce Einstein (Lead-Scoring, Prognosen)
  • Mailchimp (Optimierungszeitpunkt für E-Mail-Versand)
• Kundensupport:
  • Zendesk (KI-gestützte Ticket-Kategorisierung)
  • Intercom (KI-Antwortvorschläge)
• Übersetzung & Sprache:
  • DeepL, Google Translate, Microsoft Translator
  • Otter.ai (Transkription, Meeting-Mitschriften)
• Design & Content-Erstellung:
  • Canva (KI-Bildgenerator, Magic Write)
  • Adobe Photoshop (Generative Fill, Objekterkennung)
• ERP/CRM/Branchensoftware:
  • SAP (Predictive Analytics, Machine Learning Add-ons)
  • Microsoft Dynamics 365 (Verkaufsprognosen, Textanalyse)
  • Theorg mit KI-gestützter Terminplanung (in manchen Modulen)
• HR & Recruiting:
  • Softgarden, Personio mit automatischer Lebenslaufanalyse
  • LinkedIn Recruiter (KI-gestützte Kandidatenvorschläge)
• Fertigung & Logistik:
  • IoT-Analysen in MES-Systemen
  • Lagerverwaltung mit automatischer Nachfrageprognose
• Sicherheit & IT:
  • Firewalls mit Anomalieerkennung (z. B. Palo Alto, Fortinet KI-Module)
  • Microsoft Defender mit KI-basiertem Threat Detection
• Branchenspezifische Spezialfälle:
  • Medizingeräte mit KI-Bilderkennung (Radiologie)
  • Bauplanung mit KI-unterstützter Mengenermittlung
  • Landwirtschaftsdrohnen mit Objekterkennung

💡 Praxis-Tipp:

Unternehmen sollten nicht nur fragen „Nutzen wir KI?“, sondern „Welche unserer Tools enthalten KI-Funktionen – auch als Nebenfunktion?“

Oft schlummern diese in Updates, ohne dass die IT oder Compliance es aktiv registriert.

‍