Das US-Gesundheitsministerium hat diese Woche eine umfassende Regelung zur Gesundheitstechnologie veröffentlicht, die die ersten spezifischen Transparenzanforderungen der Bundesregierung für künstliche Intelligenz und andere prädiktive Algorithmen in zertifizierter Gesundheits-IT festlegt und neue Verpflichtungen für Technologien einführt, die die Versorgung in den meisten US-Krankenhäusern und Arztpraxen unterstützen.
Die endgültige Regelung HTI-1 des Office of the National Coordinator for Health Information Technology (ONC) wurde am 9. Januar im Federal Register veröffentlicht. Die endgültige Regelung überarbeitet das ONC Health IT Certification Program, aktualisiert Interoperabilitätsstandards, ändert Bestimmungen zur Informationsblockierung und schafft einen neuen Zertifizierungsrahmen für „Entscheidungsunterstützungsinterventionen“, einschließlich prädiktiver Modelle, die Beziehungen aus Trainingsdaten lernen.
Das ONC bezeichnet die Bestimmungen zu den Algorithmen als wegweisende Transparenzanforderungen. Die Reichweite ist potenziell groß: Laut der Behörde wird die Gesundheitsversorgung in über 96 % der US-Krankenhäuser und 78 % der niedergelassenen Ärzte durch ONC-zertifizierte IT-Systeme unterstützt.
Die Regelung konzentriert sich auf Transparenz statt auf die bundesweite Genehmigung von Algorithmen
HTI-1 schafft kein FDA-ähnliches Zulassungsverfahren für jeden klinischen Algorithmus. Stattdessen verpflichtet es zertifizierte IT-Anbieter im Gesundheitswesen, Basisinformationen bereitzustellen, damit Anwender nachvollziehen können, wie prädiktive Entscheidungshilfen konzipiert, entwickelt, trainiert und evaluiert wurden.
Die Regelung definiert ein prädiktives DSI weit gefasst als Technologie, die Entscheidungsprozesse durch Algorithmen oder Modelle unterstützt, welche aus Trainingsdaten Beziehungen ableiten und Vorhersagen, Klassifizierungen, Empfehlungen, Bewertungen oder Analysen erstellen. Die Definition umfasst Methoden von herkömmlichen statistischen Modellen bis hin zu maschinellem Lernen und komplexeren Systemen der künstlichen Intelligenz, sofern diese über zertifizierte IT-Systeme im Gesundheitswesen eingesetzt werden.
Eine Analyse des HIPAA Journal besagt, dass die Transparenzanforderungen klinischen Anwendern helfen sollen, zu beurteilen, ob Algorithmen fair, angemessen, valide, effektiv und sicher sind. Dieser Rahmen adressiert ein wiederkehrendes Problem im Bereich der KI im Gesundheitswesen: Ein Modell kann die Patientenversorgung beeinflussen, selbst wenn der anwendende Arzt nur über begrenzte Informationen zu Trainingsdaten, Validierung, Verwendungszweck oder bekannten Einschränkungen verfügt.
Entwickler müssen Quellattribute und Risikomanagementinformationen offenlegen
Die neuen Zertifizierungskriterien verpflichten Entwickler von IT-Systemen im Gesundheitswesen, den Zugriff auf bestimmte „Quellattribute“ für Entscheidungsunterstützungsmaßnahmen zu gewährleisten. Dazu gehören Informationen über den Zweck der Maßnahme, die Zielgruppe, die Entwicklung und Validierung, Datensätze, die Leistungsfähigkeit und weitere Merkmale, die für die Beurteilung der Modellnutzung relevant sind.
Die Regelung verpflichtet außerdem Entwickler zertifizierter IT-Systeme im Gesundheitswesen, die prädiktive DSIs unterstützen, Risikomanagementpraktiken anzuwenden und Informationen darüber öffentlich zugänglich zu machen. Der Text im Federal Register nennt Bereiche wie Validität, Zuverlässigkeit, Robustheit, Fairness, Verständlichkeit, Sicherheit und Datenschutz.
Die Anwaltskanzlei Mintz erklärte in einer zeitgleichen Analyse , dass die Regelung die erste wesentliche Änderung der ONC-Zertifizierungsanforderungen für klinische Entscheidungshilfesysteme seit 2012 darstellt. Ziel sei es nicht, die hohe Qualität jedes Modells zu gewährleisten, sondern ausreichend konsistente Informationen für Gesundheitsorganisationen und Kliniker bereitzustellen, um fundiertere Entscheidungen treffen zu können.
Die Regelung tritt in Kraft, während generative KI den Einsatz im Gesundheitswesen beschleunigt
Der Zeitpunkt ist bemerkenswert. Krankenhäuser, Anbieter elektronischer Patientenakten und Technologieunternehmen integrieren zunehmend maschinelles Lernen und generative KI in klinische und administrative Arbeitsabläufe. Diese Tools können Datensätze zusammenfassen, Patienten priorisieren, Behandlungsergebnisse vorhersagen oder Handlungsempfehlungen aussprechen. Ihre Leistungsfähigkeit kann jedoch variieren, wenn sie auf andere Patientengruppen als die für die Entwicklung verwendeten angewendet werden.
Akin Gump bezeichnete HTI-1 als einen bedeutenden Schritt der Bundesregierung zur Regulierung von KI durch die bestehende Zuständigkeit des ONC für zertifizierte Gesundheits-IT. Die Regelung nutzt die Vorteile der Zertifizierung, anstatt zu versuchen, jeden Gesundheitsalgorithmus direkt zu regulieren.
Diese Unterscheidung definiert auch die Grenzen der Regel. Ein Algorithmus außerhalb des zertifizierten Ökosystems für Gesundheits-IT erfüllt diese spezifischen Zertifizierungskriterien möglicherweise nicht. Krankenhäuser und Ärzte behalten zudem ihre Verantwortung für die Steuerung, die lokale Validierung und die Entscheidung, ob die Modellergebnisse für einzelne Patienten geeignet sind.
Die Bestimmungen zur Künstlichen Intelligenz beinhalten Änderungen der Interoperabilität
HTI-1 geht über die reine Transparenz von Algorithmen hinaus. Es übernimmt die US-amerikanischen Kerndaten für Interoperabilität (United States Core Data for Interoperability Version 3) als Grundlage für zukünftige Zertifizierungen und ergänzt und verfeinert Datenelemente, die die öffentliche Gesundheit, die Chancengleichheit im Gesundheitswesen und einen standardisierteren Datenaustausch fördern sollen. Die Regelung aktualisiert außerdem die Anforderungen an die elektronische Fallmeldung und die Programmierschnittstellen (APIs).
Das Gesetz ändert Vorschriften zur Informationsblockierung und schafft Änderungen, die den sicheren Datenaustausch im Rahmen des Trusted Exchange Framework and Common Agreement erleichtern sollen. Healthcare Finance News berichtete, dass das US-Gesundheitsministerium (HHS) erwartet, dass die Kombination aus Interoperabilitäts- und Transparenzrichtlinien das Verständnis von Algorithmen durch Ärzte verbessern und gleichzeitig die umfassenderen Reformen zum Datenaustausch im Rahmen des 21st Century Cures Act fortsetzen wird.
Daher stehen Organisationen im Gesundheitswesen vor sich überschneidenden Implementierungsfragen: Was müssen ihre EHR-Anbieter offenlegen? Wie werden prädiktive Tools inventarisiert? Wie wird die lokale Modellsteuerung die neuen Informationen nutzen? Und wie wirken sich aktualisierte Interoperabilitätsstandards auf bestehende Schnittstellen und Arbeitsabläufe aus?.
Transparenz wird zu einem Bestandteil der klinischen Sicherheitsinfrastruktur
Die Regelung spiegelt die politische Einschätzung wider, dass algorithmische Intransparenz selbst ein Risiko im Gesundheitswesen darstellt. Ein Modell kann zwar einen numerischen Risikowert oder eine Empfehlung liefern, die präzise erscheint, gleichzeitig aber wichtige Informationen darüber verschleiern, wer in den Trainingsdaten repräsentiert war, wie häufig es versagt oder ob sich die Leistung zwischen verschiedenen Patientengruppen unterscheidet.
Hooper Lundy merkte an, dass Anbieter die neuen Transparenzbestimmungen für KI verstehen müssen, auch wenn die Zertifizierungspflichten hauptsächlich bei Entwicklern von Gesundheits-IT liegen. Klinische Anwender tragen letztendlich die Verantwortung dafür, wie Entscheidungshilfen in die Patientenversorgung einfließen.
Die Veröffentlichung im Federal Register nannte den 8. Februar als Datum des Inkrafttretens der Regelung, während die einzelnen Zertifizierungs- und Normenbestimmungen eigene, über dieses Datum hinausgehende Fristen zur Einhaltung vorsehen. Der Übergang ist daher kein einmaliger Schritt, sondern eine schrittweise Umstellung für zertifizierte Produkte und Entwickler.
HTI-1 löst zwar nicht die umfassendere Debatte über die Regulierung künstlicher Intelligenz in der Medizin, etabliert aber eine konkrete nationale Anforderung in einem der wichtigsten Technologiebereiche des Gesundheitswesens. In einem zertifizierten EHR-System, das von nahezu jedem Krankenhaus des Landes genutzt wird, dürfen prädiktive Algorithmen nicht länger als undurchsichtige, proprietäre Funktionen betrachtet werden. Der bundesweite Zertifizierungsrahmen erwartet nun von Ärzten und Organisationen, dass sie ausreichend Informationen erhalten, um die Fairness, Angemessenheit, Validität, Effektivität und Sicherheit dieser Algorithmen zu hinterfragen.