In der siebten und letzten Sonderfolge von „Medizinrecht leicht gemacht“ ziehen wir zusammen mit Rechtsanwältin Prof. Dr. Julia Gokel sowie Rechtsanwalt Christian Erbacher ein Fazit zur DMEA 2025 und werfen einen detaillierten Blick auf die rechtlichen Herausforderungen und Haftungsfragen rund um den Einsatz von Künstlicher Intelligenz im Gesundheitswesen.
Seit Februar 2025 gilt die neue EU-KI-Verordnung – und für Unternehmen, Ärzt:innen und innovative Start-ups im Gesundheitswesen ist es damit höchste Zeit, das Thema Künstliche Intelligenz (KI) wirklich ernst zu nehmen. Die regulatorischen Anforderungen sind kein „Zukunftsthema“ mehr, sondern spätestens mit Inkrafttreten der Verordnung gelebte Realität. Die Spielregeln für Entwicklung, Einsatz und Haftung von KI im Alltag medizinischer Versorgung haben sich grundlegend gewandelt.
Ein zentrales Risiko: Die Haftungsfragen. Unternehmen, Ärzt:innen und insbesondere Start-ups, die KI-Lösungen nutzen oder vertreiben, stehen jetzt im Fokus. Wer KI einsetzt, haftet auch für deren Fehler – und zwar oftmals verschärft. Auch Fragen der Produkthaftung oder der Verantwortung im ärztlichen Alltag werden neu bewertet. Ärzt:innen müssen nicht nur die Diagnostik verantworten, sondern auch noch nachvollziehbar erklären können, wie und warum ein KI-System zu einem bestimmten Ergebnis kommt. Die „Blackbox“-Mentalität ist vom Gesetzgeber ausdrücklich ausgeschlossen.
Das zentrale Stichwort der Verordnung lautet „meaningful human control“. Damit ist gemeint, dass der Mensch – ob Mediziner:in oder Mitarbeiter:in eines Unternehmens – stets die letzte Kontrollinstanz bleibt. KI muss nachvollziehbar, überprüfbar und steuerbar sein. Gleichzeitig dürfen Ärzt:innen und Unternehmen sich nicht als „Haftungsknecht“ missverstehen: Wer KI nutzt, muss Verantwortung übernehmen, darf aber nicht das Gefühl haben, in der Haftungsfalle zu landen, weil Technik und Mensch keine klaren Aufgaben- und Verantwortungsbereiche haben.
Der Aufbau von KI-Kompetenz wird jetzt zur gesetzlichen Pflicht. Ab Februar 2025 müssen nicht nur große Unternehmen, sondern gerade auch Start-ups gezielte Schulungen anbieten und dokumentieren: Wer KI-Lösungen plant, einführt oder nutzt, braucht rechtlich fundierte und technisch geschulte Mitarbeitende. Ein KI-Verantwortlicher – ähnlich wie ein:e Datenschutzbeauftragte:r – ist künftig vorgeschrieben. Compliance statt Chaos lautet die Maxime, um teure und imageschädigende Haftungsrisiken zu vermeiden.
Die Rolle der Ärzt:innen verändert sich dadurch grundlegend: Sie bleiben unverzichtbar, werden aber zugleich zur Schnittstelle zwischen Technik, Medizin und Recht. Die ärztliche Aufklärung wird komplexer, da Patient:innen nun ein Recht darauf haben, verständlich zu erfahren, wie ein KI-gestützter Befund zustande gekommen ist.
Auch für Start-ups heißt das: Frühzeitig rechtlich denken, nicht erst handeln und dann im Nachhinein nachbessern! Wer sich von Beginn an juristisch beraten lässt, erspart sich teure Nachrüstungen, Prozesse und mögliche Schadenersatzforderungen. Gerade junge Unternehmen, die auf Geschwindigkeit und Innovation setzen, sollten wissen, dass Rechtskonformität ein echter Wettbewerbsvorteil ist.
Neben den juristischen Pflichten stehen aber auch ethische Themen im Raum: Wie viel Kontrolle darf, soll und muss der Mensch über KI ausüben? Welche Daten sind in welchem Umfang nutzbar? Wie lässt sich die Akzeptanz bei Patient:innen, Nutzer:innen und Ärzt:innen nachhaltig sichern? Und wie lässt sich die praktische Umsetzung in einem immer komplexer werdenden Gesundheitsmarkt sinnvoll gestalten?
Unsere wichtigsten Tipps zu den Haftungsfragen auf einen Blick:
– Schulungen sind Pflicht: Der Nachweis von KI-Kompetenz ist ab Februar 2025 Voraussetzung – auch bei Start-ups.
– KI-Verantwortliche benennen: Jedes Unternehmen braucht klare Zuständigkeiten für KI.
– Compliance statt Chaos: Mit juristischer Begleitung Haftungsfallen frühzeitig meiden.
– Vertrauen ist kein Zufall: Verantwortlichkeiten und Abläufe müssen offen und transparent geregelt sein.
– Verständliche Aufklärung: Ärzt:innen müssen in der Lage sein, KI-gestützte Ergebnisse nachvollziehbar zu erklären.
– Technik ist kein Freifahrtschein: Verantwortung und Haftung beim KI-Einsatz müssen klar geregelt und auch ethisch durchdacht werden.
– Frühzeitig juristisch beraten lassen: Ein solider Rechtsrahmen schützt vor bösen Überraschungen und verschafft langfristig Stabilität.
Gerade für Gründer:innen im digitalen Gesundheitswesen ist es jetzt entscheidend, nicht nur die technischen, sondern vor allem die rechtlichen und ethischen Herausforderungen der KI frühzeitig anzugehen. Die neue KI-Verordnung ist Neuland – mit großen Chancen für alle, die vorbereitet sind.
👉 Hören Sie jetzt rein: Siebte Folge!
Wir freuen uns auf Ihr Feedback und den Austausch mit Ihnen!
Sechste Folge: DeepDive 06: Recht, Risiko, Regulatorik – Gründung im Gesundheitswesen zwischen Vision & Wirklichkeit
