AI Act – Erste Neuerungen ab dem 02. Februar 2025 umsetzbar

Seit dem 1. August 2024 gilt in der Europäischen Union die KI-Verordnung (KI-VO) als neuer Rechtsrahmen für den verantwortungsvollen Einsatz von Künstlicher Intelligenz (KI). Die rasante Entwicklung im Bereich der Künstlichen Intelligenz (KI) macht auch vor dem Healthcare-Sektor nicht halt. Ob medizinische Diagnostik per KI-gestützter Bildanalyse, intelligente Algorithmen in der Medizintechnik oder smarte Patientenüberwachung: KI findet immer mehr Einsatzmöglichkeiten.

Während viele Bestimmungen der KI-VO erst ab dem 2. August 2026 Anwendung finden, rückt mit dem 2. Februar 2025 bereits jetzt ein erster wichtiger Stichtag näher. Ab diesem Datum müssen Unternehmen die Anforderungen aus Artikel 4 und Artikel 5 der KI-VO umsetzen.

Artikel 4 KI-VO: Aufbau von KI-Kompetenzen

Artikel 4 der KI-VO fordert Unternehmen auf, die Kompetenzentwicklung im Bereich KI strukturiert voranzutreiben. Ziel ist es, sicherzustellen, dass alle Personen, die mit dem Betrieb und der Nutzung von KI-Systemen betraut sind, über die nötigen Kenntnisse und Fähigkeiten verfügen. Nur so können KI-Systeme sicher und regelkonform genutzt und entwickelt werden.

Ein Verstoß gegen diese Vorschrift ist zwar nicht ausdrücklich sanktioniert, dennoch ist sie von erheblicher Bedeutung. Verursacht ein KI-System beispielsweise Personen- oder Sachschäden, die durch geeignete Schulungen hätten verhindert werden können, kann dies eine Verletzung der allgemeinen Sorgfaltspflicht darstellen. Gerade im medizinischen Umfeld können Fehlbedienungen von KI-Systemen oder mangelndes Risikobewusstsein gravierende Auswirkungen haben. Durch die Beachtung der Vorgaben in Art. 4 KI-VO können Haftungsrisiken minimiert und das Vertrauen in eine sichere und qualitativ hochwertige Versorgung gestärkt werden.

KI-Kompetenz: Begriff und Anforderungen

Art. 3 Nr. 56 KI-VO definiert KI-Kompetenz als die

„Fähigkeiten, Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI‑Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.“

Aus dieser Definition lassen sich im Wesentlichen drei Kernbereiche ableiten:

• Technisches Wissen: Wie funktionieren KI-Systeme, maschinelles Lernen oder Algorithmen? Insbesondere medizinische Fachkräfte müssen KI-Ergebnisse richtig einordnen, um Diagnosen nicht ausschließlich „blind“ einer KI zu überlassen.
• Bewusstsein für Chancen und Risiken: Vorteile wie eine schnellere Diagnostik, effiziente Prozessabläufe und Entlastung des Klinikpersonals stehen möglichen Risiken (z.B. Datenschutz, Bias und Sicherheitslücken) gegenüber.
• Rechtliches und ethisches Verständnis: Datenschutzrecht (Datenschutz-Grundverordnung, DSGVO), Dokumentationspflichten, Transparenzvorgaben und Diskriminierungsverbote sind nur einige Aspekte, die beachtet werden müssen.

Diese umfassenden Kompetenzanforderungen zeigen: Es geht nicht nur darum, juristisches Wissen zu vermitteln, sondern vor allem ein ganzheitliches Verständnis für KI-Anwendungen aufzubauen, um einen verantwortungsvollen Umgang mit KI zu ermöglichen.

Praxisempfehlung zur Umsetzung von Artikel 4 KI-VO

Schulungen als Grundbaustein für KI-Kompetenz

Eine wirksame Methode zur Vermittlung von KI-Kompetenz sind Schulungen für alle Personengruppen, die in irgendeiner Weise mit KI-Systemen zu tun haben – sei es in der Entwicklung, Implementierung, Bedienung oder Überwachung. Auf diese Weise kann sichergestellt werden, dass sowohl die Anwenderinnen und Anwender in den medizinischen Fachabteilungen als auch die Geschäftsleitung ein ausreichendes Verständnis entwickeln.

In der Gesundheitsbranche betrifft dies insbesondere folgende Personengruppen:

• Ärztinnen und Ärzte sowie Pflegepersonal: Sie arbeiten direkt mit KI-Lösungen, etwa bei Diagnosetools oder Robotik in der Chirurgie.
• Führungskräfte (z.B. Klinikleitung): Sie tragen die Verantwortung für Beschaffung, Implementierung und Kontrolle der KI-Systeme.
• IT-Fachkräfte und Medizintechniker: Sie kümmern sich um die technische Integration, Wartung und Einhaltung des Datenschutzes.
• Externe Dienstleistende: Auch Beratende oder temporär eingesetztes Personal sollten bereits über ein Grundverständnis für KI-Systeme verfügen, wenn diese damit in Kontakt kommen.

Da die Anforderungen und der Wissensstand in den verschiedenen Bereichen stark variieren, empfiehlt sich hier ein mehrstufiges Schulungskonzept, das zielgruppenspezifisch aufgebaut ist.

Weitere Maßnahmen zur Förderung der KI-Kompetenz

Neben gezielten Schulungen kann es ebenso sinnvoll sein, weitere organisatorische und kulturelle Maßnahmen zu ergreifen, um den sicheren und effektiven Einsatz von KI im Unternehmen zu gewährleisten. Dazu gehören:

• Interne Richtlinien und Standards: Klare Vorgaben zu Nutzung, Überwachung und Wartung. Beispiele dafür liefern Datenschutz- und Qualitätsmanagement-Handbücher, die klare Prozesse und Verantwortlichkeiten festlegen.
• Ernennung eines KI-Beauftragten: Eine solche Person koordiniert alle Schulungsmaßnahmen und dient als zentrale Anlaufstelle für KI-spezifische Fragen. Gerade im Gesundheitsbereich sollte sie eng mit Qualitäts- und Datenschutzbeauftragten zusammenarbeiten.
• Regelmäßige Fortbildungen und Updates: Die schnelle Weiterentwicklung der KI-Technologie erfordert ein stetes Lern- und Verbesserungsmanagement. Vor allem bei der Einführung neuer Diagnostik-Verfahren oder Medizintechnikgeräte müssen Mitarbeitende rechtzeitig auf den aktuellen Stand gebracht werden.

Durch eine Kombination aus strukturierten Schulungen und begleitenden Maßnahmen wie Richtlinien, Beauftragtenfunktionen und kontinuierlichen Fortbildungen schaffen Unternehmen und Einrichtungen in der Gesundheitsbranche ein stabiles Fundament für den verantwortungsvollen Einsatz von KI. So können sie nicht nur haftungsrechtliche Risiken reduzieren, sondern auch das Vertrauen von Patienten, Geschäftspartnern und Mitarbeitenden in zukunftsorientierte Lösungen stärken.

Artikel 5 KI-VO: Verbotene KI-Anwendungen

Ebenfalls von besonderer Relevanz für den Healthcare-Sektor ist Art. 5 KI-VO, der ab dem 2. Februar 2025 den Einsatz bestimmter risikobehafteter KI-Systeme untersagt. Hierzu zählen unter anderem KI-Anwendungen, die:

• Menschen manipulieren oder durch unzulässige Überwachungsmethoden kontrollieren,
• Diskriminierung fördern,
• oder grundlegende Rechte und Freiheiten beeinträchtigen.

Diese Vorschrift soll gewährleisten, dass hochriskante KI-Instrumente, die das Patientenwohl gefährden oder die Privatsphäre verletzen könnten, gar nicht erst auf den Markt gelangen.

Für Unternehmen und Einrichtungen im Gesundheitswesen bedeutet dies, dass sie sowohl ihre bereits im Einsatz befindlichen als auch ihre geplanten KI-Systeme systematisch auf die in Art. 5 KI-VO genannten Kriterien hin überprüfen sollten. Verstöße gegen diese Verbotsnorm können nicht nur schwerwiegende rechtliche Konsequenzen nach sich ziehen, sondern auch das Vertrauen der Patientinnen und Patienten nachhaltig beeinträchtigen. Gerade in Bereichen, in denen sensible Gesundheitsdaten verarbeitet werden und KI-basierte Entscheidungen weitreichende Folgen für das Wohl und die Selbstbestimmung von Menschen haben, ist die Einhaltung dieser Regelungen unerlässlich.

Fazit: Jetzt handeln und Prozesse anpassen

Die Anforderungen der KI-VO sind eine Chance, die internen Abläufe und die Compliance in Ihrem Unternehmen zu stärken. Insbesondere die Förderung von KI-Kompetenz minimiert Haftungsrisiken und steigert das Vertrauen von Patientinnen und Patienten in KI-gestützte Produkte. Dies ist ein klares Signal dafür, dass Sie rechtlichen und ethischen Pflichten im Umgang mit KI-Systemen nachkommen – ein entscheidender Faktor für das Image von Kliniken, Arztpraxen und Medizintechnikherstellern sowie eine langfristige Wettbewerbsfähigkeit auf dem Markt.

Nutzen Sie die Gelegenheit, sich umfassend auf die neuen Anforderungen vorzubereiten. Unsere Kanzlei unterstützt Sie dabei mit maßgeschneiderten Beratungsleistungen, Schulungen und Webinaren. Kontaktieren Sie uns noch heute, um Ihre Prozesse zukunftssicher zu gestalten und das volle Potenzial von KI in Ihrem Unternehmen zu entfalten!