AI Act und Schulungspflichten in Arzt- und Zahnarztpraxen

Was wirklich gilt – und was derzeit gern „verkauft“ wird

1. Ausgangspunkt: „AI-Act-Schulung mit Zertifikat“ – brauche ich das?

Viele Praxisinhaber erhalten derzeit E‑Mails und Werbematerialien, in denen behauptet wird, es gebe eine „generelle Schulungspflicht nach EU AI Act“ und man müsse diese Pflicht durch ein spezielles Webinar mit Zertifikat erfüllen. Teilweise wird sogar der Eindruck erweckt, ohne ein solches Zertifikat verstoße die Praxis gegen den AI Act.

Für Arzt‑ und Zahnarztpraxen ist wichtig:

• Der AI Act sieht keine pauschale Pflicht vor, dass alle Mitarbeitenden ein bestimmtes, externes Zertifikats-Webinar absolvieren müssen.
• Der AI Act verlangt aber, dass Praxisinhaber als „Betreiber“ von KI‑Systemen dafür sorgen, dass ihr Personal den sachgerechten Umgang mit eingesetzter KI versteht und beherrscht – risikoadäquat und im konkreten Einsatzkontext.

Mit anderen Worten: Schulung ja – aber nicht im Sinne einer starren, allgemeingültigen Zertifikatspflicht, sondern als Bestandteil einer sinnvollen und anwendungsbezogenen Compliance.

2. Was steht tatsächlich im AI Act zur „Schulungspflicht“?

a) Allgemeine Pflicht zur KI‑Kompetenz (Art. 4 AI Act)

Art. 4 AI Act verpflichtet Anbieter und Betreiber von KI‑Systemen, Maßnahmen zu ergreifen, um „nach besten Kräften sicherzustellen“, dass ihr Personal und andere Personen, die in ihrem Auftrag KI‑Systeme betreiben oder nutzen, über ein ausreichendes Maß an KI‑Kompetenz verfügen.

„KI‑Kompetenz“ ist im Gesetz definiert als die Fähigkeiten, Kenntnisse und das Verständnis, die es ermöglichen, KI sachkundig zu nutzen und Chancen wie Risiken einzuschätzen.

Wesentliche Punkte:

• Adressaten sind Anbieter (z.B. Hersteller von KI‑Software oder Medizinprodukten mit KI) und Betreiber – also in Ihrem Kontext die Arzt- oder Zahnarztpraxis, die KI im Praxisalltag einsetzt.
• Das Gesetz nennt ausdrücklich, dass bei der Sicherstellung der KI‑Kompetenz u.a. Ausbildung und Schulung zu berücksichtigen sind.
• Die Pflicht ist bewusst offen formuliert („Maßnahmen“, „nach besten Kräften“) und knüpft an:
  • technische Kenntnisse und Erfahrung des Personals,
  • die konkrete Art und den Kontext des KI‑Einsatzes,
  • die betroffenen Patientengruppen.

Daraus folgt: Der Gesetzgeber zwingt niemanden zu einem bestimmten Schulungsformat. Er verlangt aber, dass Sie angemessene, dokumentierte Maßnahmen ergreifen, damit diejenigen, die mit KI arbeiten, wissen, was sie tun.

b) Spezielle Anforderungen bei Hochrisiko‑KI

Für sogenannte Hochrisiko‑KI‑Systeme (was das genau sein kann, erklären wir weiter unten) gelten zusätzlich spezielle Vorgaben. Dazu gehören u.a. KI‑Systeme, die im Gesundheitsbereich über Zugang zu oder die Gewährung von Gesundheitsleistungen entscheiden oder z.B. Notfall-Triage unterstützen.

Hier ist geregelt:

• Anbieter müssen im Rahmen ihres Risikomanagements ggf. auch eine „entsprechende Schulung der Betreiber“
• Betreiber (also die Praxis) müssen sicherstellen, dass Personen, denen die menschliche Aufsicht übertragen wird, „über die erforderliche Kompetenz, Ausbildung und Befugnis“ verfügen.
• Die Erwägungsgründe stellen klar, dass Betreiber die menschliche Aufsicht nur an Personen übertragen sollen, die über ein angemessenes Niveau an KI‑Kompetenz und Schulung verfügen.

Das ist mehr als eine allgemeine Sensibilisierung – in Hochrisiko‑Konstellationen geht es um konkret auf das jeweilige System und seine Risiken zugeschnittene Schulungsinhalte.

3. Gibt es eine „generelle Schulungspflicht“ für Praxismitarbeiter?

Nein. Weder Art. 4 AI Act noch die spezialgesetzlichen Vorschriften für Hochrisiko‑Systeme verlangen, dass:

• jede Praxis sämtliche Mitarbeitenden
• in einem bestimmten Standard-Webinar schulen muss,
• dieses Webinar von einem bestimmten Anbieter stammen muss,
• oder zwingend ein Zertifikat in einer bestimmten Form vorliegen muss.

Vielmehr gilt:

1. Allgemeine Pflicht zur Sicherstellung von KI‑Kompetenz (Art. 4):
   • Sie als Praxisinhaber müssen Maßnahmen ergreifen, damit Ihr Team KI sachkundig nutzen kann – wie diese Maßnahmen genau aussehen, steht Ihnen im Rahmen der Verhältnismäßigkeit frei.
2. Spezifische Pflicht bei Hochrisiko‑KI:
   • Sowohl Anbieter als auch Betreiber müssen sicherstellen, dass die Personen, die das System bedienen und beaufsichtigen, über die erforderliche Kompetenz, Ausbildung und Befugnis verfügen.

Ein Zertifikats-Webinar kann dabei ein sinnvolles Mittel sein, um diese Pflichten zu erfüllen und gegenüber Behörden nachzuweisen, ist keine gesetzlich vorgeschriebene Form.

4. Ab wann gilt das Ganze überhaupt? – Zeitliche Anwendung des AI Act

Teile der Verordnung gelten bereits seit Anfang 2025. Z.B. die allgemeine Pflicht zur Sicherstellung von KI‑Kompetenz. Die speziellen Regelungen für Hochrisiko‑Systeme samt Betreiberpflichten gelten ab 2. August 2026, mit Übergangsvorschriften für bereits vorhandene Systeme. Für Hochrisiko‑Szenarien müssen Sie also bis 2026 (und zum Teil erst bis 2030) – je nach Konstellation – Ihre Prozesse und Schulungen anpassen.

5. Unter welchen Voraussetzungen kann in Arzt- und Zahnarztpraxen eine konkrete Schulungspflicht bestehen?

Entscheidend sind drei Fragen:

1. Wer sind Sie in der Logik des AI Act?
   In aller Regel sind Praxisinhaber Betreiber von KI‑Systemen, nicht Anbieter.
2. Welche Art von KI setzen Sie ein?
   • Nur einfache Büro‑/Verwaltungs‑KI?
   • Oder KI‑Systeme, die medizinische Entscheidungen unterstützen oder beeinflussen?
3. Fällt das System in den Bereich „Hochrisiko“?
   Im Gesundheitsbereich sind insbesondere Systeme betroffen, die über Zugang zu Gesundheitsleistungen oder Priorisierung im Notfall entscheiden.

a) Geringes Risiko – typische Praxis-IT / Büro‑KI

Beispiele:

• KI‑gestützte Terminverwaltung (Vorschlag optimaler Termine, Ausfallprognosen).
• KI‑unterstützte Abrechnung (Plausibilitätsprüfungen von GOÄ/GOZ‑Leistungen, automatische Zuordnung).
• Chatbots auf der Website für Terminwünsche oder einfache Anfragen.
• Allgemeine Text-KI (z.B. zur Erstellung von Patienteninformationen, Formularen, Standardbriefen).

Diese Systeme werden typischerweise nicht als Hochrisiko‑KI eingestuft. Für Sie gilt:

• Umsetzung der allgemeinen Pflicht aus Art. 4 AI Act:
  • Sensibilisierung des Personals für den Umgang mit KI (z.B. Datenschutz, Vertraulichkeit, Qualitätskontrolle, „Halluzinationen“ von Text-KI).
  • Arbeitsanweisungen und Policies (z.B. „Welche Daten dürfen in eine KI eingegeben werden?“).
  • Dokumentation der Unterweisung.

Eine formale „Zertifizierungs-Schulung“ ist hier rechtlich nicht vorgeschrieben, aber eine klare interne Unterweisung und dokumentierte Schulung sind aus Compliance‑ und Haftungsgründen empfehlenswert.

b) Medizinische KI‑Systeme mit Einfluss auf Diagnose oder Therapie

Beispiele aus Arzt- und Zahnarztpraxen:

• KI‑gestützte Auswertung von Röntgenbildern (z.B. Karies-/Parodontaldiagnostik, Erkennung von Befunden).
• KI‑unterstützte Planung von Implantaten oder kieferorthopädischen Behandlungen.
• KI‑basierte Triage oder Risikobewertung (z.B. Einschätzung, ob ein Patient als „dringlich“ eingestuft wird).
• KI‑basierte Systeme als Bestandteil eines Medizinprodukts (z.B. chirurgische Assistenzsysteme, Alarme).

Ist ein System als Hochrisiko‑KI einzustufen, gilt:

• Der Anbieter muss im Rahmen seines Risikomanagements u.a. sicherstellen, dass geeignete Informationen und ggf. Schulungen für Betreiber vorhanden sind.
• Der Betreiber (Praxis) muss:
  • das System gemäß Betriebsanleitung einsetzen,
  • die menschliche Aufsicht nur natürlichen Personen übertragen, die über die erforderliche „Kompetenz, Ausbildung und Befugnis“ verfügen,
  • den Betrieb überwachen und Protokolle ggf. vorhalten.

Das bedeutet für die Praxis konkret:

• Die Ärztinnen/Ärzte und ggf. bestimmte MFA/ZFA, die das System bedienen oder überwachen, müssen systembezogen geschult sein:
  • Funktionsweise, Stärken/Schwächen des Systems,
  • typische Fehlerquellen,
  • wann muss der Mensch korrigierend eingreifen oder die Empfehlung verwerfen,
  • Dokumentations- und Protokollierungspflichten.
• Diese Schulung kann – und sollte – häufig direkt durch den Hersteller oder mit dessen Materialien stattfinden (z.B. Geräteeinweisung, Online‑Tutorials, Präsenz‑Workshop).

Wichtig: Die Pflicht ist inhaltlich sehr konkret (Systemwissen und Aufsichtsrollen), aber formal offen. Auch hier gibt es keine Pflicht, ein bestimmtes Webinar eines Drittanbieters zu buchen.

6. Wie sind die aktuellen Verkaufsangebote vor diesem Hintergrund zu bewerten?

Viele Angebote machen sich zunutze, dass:

• der Begriff „Schulungspflicht“ im AI Act an verschiedenen Stellen (insb. 4 und Hochrisiko‑Regime) auftaucht,
• aber die wenigsten Adressaten die Differenzierung zwischen allgemeiner KI‑Kompetenz, Hochrisiko‑Kontext und konkretem Systemumfeld kennen.

Sachlich zutreffend ist:

• Der AI Act verpflichtet Betreiber (also auch Arzt- und Zahnarztpraxen), für ausreichende KI‑Kompetenz im Team zu sorgen.
• Bei Hochrisiko‑Systemen sind Schulung/Kompetenz zentrale Voraussetzung für die zulässige Nutzung.
• Es ist sinnvoll, Schulungen nachweisen zu können (z.B. über Teilnahmebescheinigungen), um im Prüfungsfall zeigen zu können, dass Sie Ihre Pflichten ernst genommen haben.

Irreführend bzw. zu pauschal ist:

• Der Eindruck, es gebe eine generelle, einheitliche Schulungspflicht für alle Mitarbeitenden – unabhängig davon, welche KI Sie einsetzen.
• Die Behauptung, nur ein bestimmtes „KI‑Compliance‑Webinar mit Zertifikat“ eines bestimmten Anbieters könne die Pflichten aus dem AI Act erfüllen.
• Die Andeutung, ohne ein solches Zertifikat sei Ihre Praxis automatisch nicht compliant.

Ein solches Angebot kann also ein Baustein Ihrer Compliance sein – mehr aber auch nicht. Ob es für Ihre Praxis sinnvoll ist, hängt davon ab:

• Welche KI‑Systeme nutzen Sie konkret?
• In welchen medizinischen oder administrativen Prozessen kommen sie zum Einsatz?
• Welche Risiken bestehen für Patientenrechte, Datenschutz, Haftung?

7. Fazit für Praxisinhaber

Eine pauschale „Zertifikatspflicht“ für alle Praxismitarbeitenden gibt es nicht. Der AI Act verpflichtet Sie als Praxisinhaber gleichwohl, KI-Kompetenz in Ihrem Team sicherzustellen – Art. 4 formuliert dies als allgemeine Pflicht, bei Hochrisiko-KI steigt der Anspruch an Schulung und Qualifikation der Aufsichtspersonen deutlich. Wie Sie diese Pflicht konkret ausgestalten, hängt von Ihrer Rolle im Sinne der Verordnung ab (in der Regel Betreiber, nur ausnahmsweise Anbieter), vom Einsatzbereich der KI (administrativ oder medizinisch) und davon, ob das jeweilige System als Hochrisiko einzustufen ist. Zertifikats-Schulungen externer Anbieter können dabei ein sinnvoller Baustein sein – sie sind eine mögliche Erfüllungsform, kein gesetzlich vorgeschriebenes „Muss“. Für Arzt- und Zahnarztpraxen empfiehlt sich stattdessen ein maßgeschneiderter Ansatz, der die tatsächlich eingesetzten Systeme und die konkreten Praxisabläufe in den Blick nimmt, anstatt generische Standardangebote unkritisch zu übernehmen.

Sie möchten wissen, welche KI-Systeme in Ihrer Praxis unter den AI Act fallen und wie Sie Ihre Schulungs- und Compliance-Pflichten konkret umsetzen? Sprechen Sie uns an – wir beraten Sie praxisnah und individuell.