Die American Medical Association (AMA) hat ein Rahmenwerk zur Haftung bei klinischer künstlicher Intelligenz vorgelegt. Kernprinzip: Verantwortung soll dort liegen, wo eine Partei über Informationen, Entscheidungsgewalt und Möglichkeiten zur Schadensvermeidung verfügt. Das Papier ist keine gesetzliche Regelung, dürfte aber die Debatte über Produkt-, Klinik- und Arzthaftung in den USA prägen.
Für Entwickler und Hersteller sieht die AMA die Verantwortung bei Design, Trainings- und Validierungsdaten, Benutzeroberflächen, Zweckbestimmung und Warnhinweisen. Diese Pflicht endet nicht mit der Markteinführung. Wer weiter Kontrolle über Updates, Leistungsdaten oder Sicherheitsrisiken hat, soll auch für Überwachung und Korrekturen im laufenden Betrieb einstehen. Der pauschale Hinweis, ein Arzt müsse jedes Ergebnis prüfen, soll Produktmängel nicht auf Anwender verlagern dürfen.
Krankenhäuser, Praxen und andere Betreiber sollen wiederum für Auswahl, Einführung und lokale Nutzung verantwortlich sein. Dazu gehören die Validierung im vorgesehenen Versorgungskontext, Schulungen, Leistungs- und Sicherheitsmonitoring sowie Prozesse für Zwischenfälle. Auch Änderungen an Konfiguration oder Workflow fallen in ihren Bereich. Bei neuen Risiken müsse eine Organisation die Nutzung einschränken oder das System außer Betrieb nehmen können.
Ärzte bleiben für ihr klinisches Urteil verantwortlich – allerdings nur, wenn sie es sinnvoll ausüben können. Dafür müssen sie die Zweckbestimmung und bekannte Grenzen kennen, genügend Zeit zur Prüfung haben und tatsächlich eingreifen dürfen. Fehler, die in einer unsichtbaren Triage oder in nicht überprüfbaren Eingangsdaten entstehen, sollen nicht automatisch ihnen zugerechnet werden. Für angemessen validierte Systeme fordert die AMA einen verlässlichen Haftungsschutz bei vertretbarem Vertrauen in die Ausgabe.
Das Rahmenwerk reagiert auf eine zentrale Marktbremse. In einer AMA-Befragung von 2026 nannte mehr als ein Drittel der Ärzte klare Haftungsregeln als jene regulatorische Maßnahme, die Vertrauen und Nutzungsbereitschaft am stärksten erhöhen würde. Für Health-Tech-Anbieter wird damit nachvollziehbare Evidenz zum Verkaufsargument: Leistung in vergleichbaren Patientengruppen, dokumentierte Modelländerungen und verwertbare Sicherheitsinformationen könnten künftig ebenso wichtig werden wie Zulassung und Integration.
Für Klinikmanager verschiebt sich der Einkauf von einer reinen IT-Entscheidung zu einer dauerhaften Governance-Aufgabe. Verträge, die Risiken über Haftungsbegrenzungen oder Freistellungsklauseln einseitig verschieben, geraten unter Druck. Gleichzeitig entstehen Kosten für lokale Tests, Monitoring, Schulung und Vorfallmanagement. Kleinere Einrichtungen könnten dafür standardisierte Prüfverfahren, Versicherungsprodukte oder externe Überwachungsdienste benötigen.
Einordnung
Die AMA liefert noch kein fertiges Haftungsrecht, aber eine klare Verhandlungsposition: Ärztliche Aufsicht ersetzt weder belastbare Evidenz noch gutes Produktdesign. Für den Markt bedeutet das höhere Nachweispflichten, aber auch mehr Planungssicherheit. Für Patienten ist entscheidend, dass bei Fehlern ein erreichbarer Anspruchsgegner bleibt, selbst wenn mehrere Akteure am KI-System beteiligt sind.
Christian Kloewer
Tech & Startups
Christian Kloewer schreibt bei MIDO Health über Health-Tech, Startups und Finanzierungen. Er kommt aus der Kommunikation und dem Digitalgeschäft und liest Gründungen im Gesundheitswesen mit dem Blick des Machers: Was löst das Produkt, wer bezahlt dafür, und trägt das Modell?
