Der Einsatz von Künstlicher Intelligenz (KI) in der Medizin nimmt rasant zu – sei es in der Diagnoseunterstützung, bei Therapieempfehlungen oder in der Patientenkommunikation. Doch was passiert, wenn eine KI falsche oder irreführende Informationen liefert? Das Landgericht (LG) Kiel hat mit seinem Urteil vom 15.11.2024 (Az. 6 O 151/23) eine der ersten Entscheidungen in Deutschland zur Haftung für KI-generierte Inhalte getroffen. Die Kernaussage: Wer KI einsetzt, ist für deren Ergebnisse verantwortlich – unabhängig davon, ob die KI autonom agiert.
Das Urteil des LG Kiel: Unternehmen haften für Fehler ihrer KI
Das Gericht befasste sich mit der Frage, wer haftet, wenn eine KI falsche Informationen verbreitet. In dem Fall hatte eine KI eine fehlerhafte Unternehmensauskunft generiert, wonach ein Unternehmen wegen Vermögenslosigkeit angeblich aus dem Handelsregister gelöscht wurde. Das Unternehmen klagte, da diese Falschinformation geschäftsschädigend war.
Das LG Kiel entschied schließlich, dass die Betreiberfirma der KI für die fehlerhafte Auskunft haftet – unabhängig davon, dass die Information nicht von einem Menschen, sondern von der KI erzeugt wurde. Das Gericht stellte dabei auf das Prinzip der Störerhaftung ab: Unternehmen, die KI-Systeme einsetzen, tragen die Verantwortung für deren Ergebnisse und müssen sicherstellen, dass keine falschen oder schädlichen Informationen verbreitet werden.
Was bedeutet das für die Gesundheitsbranche?
Obwohl das Urteil nicht explizit den Medizinsektor betrifft, sind die Auswirkungen für Ärztinnen und Ärzte sowie medizinische Einrichtungen enorm. Denn KI-Systeme werden im Gesundheitswesen bereits intensiv genutzt – zur Diagnoseunterstützung, in der Patientenkommunikation oder zur administrativen Prozessoptimierung. Wenn dabei falsche medizinische Informationen vermittelt werden, kann dies gravierende Folgen haben. Das Urteil verdeutlicht, dass Betreiber von KI-Systemen für deren Fehler haftbar gemacht werden können und haftbar sind – Ärztinnen und Ärzte bilden keine Ausnahme.
Mögliche Haftungsszenarien in der Gesundheitsbranche
• Fehl- oder Fehldiagnosen: Eine KI schlägt eine falsche Diagnose vor, was zu verzögerter oder falscher Behandlung führt.
• Falsche Therapieempfehlungen: Ein KI-gestütztes System empfiehlt eine inkorrekte Medikamentendosierung oder eine kontraindizierte Therapie.
• Irreführende Patienteninformationen: Ein Praxis-Chatbot gibt veraltete oder unzutreffende Ratschläge, die die Gesundheit von Patienten gefährden.
Warum bleibt die Haftung bei Ärztinnen und Ärzten?
Die zentrale Begründung liegt darin, dass eine KI nicht selbst rechtsfähig ist. Daher kann sie weder verklagt werden noch eine eigene Haftung übernehmen. Verantwortlich sind immer diejenigen, die die KI einsetzen und unter deren Namen und Verantwortung die KI-Systeme agieren. Ärztinnen und Ärzte müssen sich bewusst sein, dass sie für alle von der KI erzeugten Diagnosen oder Empfehlungen haften. Ein Verweis auf die „Selbstständigkeit“ oder „Autonomie“ einer KI befreit nicht von der ärztlichen Sorgfaltspflicht.
Wie kann man das Risiko einer Haftung für KI-Fehler minimieren?
Um das Risiko einer Haftung für KI-Fehler dauerhaft zu minimieren, sind insbesondere vier Punkte wichtig: Die sorgfältige Auswahl und regelmäßige Überprüfung der eingesetzten KI-Systeme, klare vertragliche Regelungen mit den KI-Anbietern (einschließlich Haftungsklauseln), ausreichend Transparenz und Aufklärung gegenüber den Patienten hinsichtlich des KI-Einsatzes sowie menschliche Kontrollinstanzen bei jeder Diagnose oder Empfehlung. Hinzu kommt, dass eine Berufshaftpflichtversicherung angepasst oder erweitert werden sollte, damit mögliche Schäden durch KI-Fehlfunktionen in jedem Fall abgedeckt sind.
Ärztliche Verantwortung trotz KI-Unterstützung
Das Urteil des LG Kiel zeigt, dass Unternehmen – und somit auch Praxen und Kliniken – für die Fehler ihrer KI-Systeme haften. KI kann zwar eine wertvolle Unterstützung bei Diagnose und Therapie sein, ersetzt aber niemals die ärztliche Sorgfalt. Damit bleibt die Verantwortung für Diagnose und Behandlung letztlich stets bei der behandelnden Ärztin oder dem behandelnden Arzt. Wer KI nutzt, muss ihre Zuverlässigkeit gewährleisten, regelmäßige Kontrollen durchführen und darf sich nicht auf eine vermeintliche „Autonomie“ der KI verlassen.
Wie wir Sie unterstützen können
Das Thema KI-Haftung ist komplex und wird in den kommenden Jahren mit Blick auf Gesetzesänderungen wie den AI Act weiter an Bedeutung gewinnen. Wenn Sie planen, KI-Systeme in Ihrer Praxis oder Klinik einzusetzen, beraten wir Sie gerne zu den rechtlichen Rahmenbedingungen, Haftungsrisiken und vertraglichen Anforderungen. Sprechen Sie uns an, damit Sie die Chancen von KI sicher nutzen und zugleich rechtliche Fallstricke vermeiden können.
