Connecticut wird künftig eine menschliche Überprüfung vorschreiben, bevor künstliche Intelligenz negative Entscheidungen im Rahmen von Krankenversicherungsplänen für mehr als 270.000 Beschäftigte im öffentlichen Dienst, Rentner und teilnehmende Gemeindearbeiter treffen kann. Die von Finanzminister Sean Scanlon am 16. September angekündigten Schutzmaßnahmen gelten für den staatlichen Krankenversicherungsplan für Staatsbedienstete und den Connecticut Partnership Plan und treten laut staatlicher Richtlinie und einem unabhängigen Bericht von CT Mirror am 1. Januar 2027 in Kraft

Die zentrale Regel ist eindeutig: Negative Entscheidungen dürfen nicht allein von einem KI-System getroffen werden. Sie müssen von einer Person überprüft werden. Versicherer dürfen KI oder prädiktive Modelle auch nicht allein verwenden, um einen Leistungsantrag herabzustufen, die Vergütung eines Leistungserbringers zu kürzen oder einen Abrechnungscode zu ändern. Die Richtlinie schließt die Automatisierung der routinemäßigen Leistungsbearbeitung nicht aus; sie erhält autorisierte vertragliche und automatisierte Prozesse aufrecht und führt gleichzeitig eine menschliche Kontrollinstanz für Entscheidungen ein, die die Versorgung oder die Vergütung beeinträchtigen könnten.

Diese Unterscheidung ist wichtig, da der Staat seine eigenen Einkaufsbeziehungen reguliert, anstatt eine Technologie auf dem gesamten Versicherungsmarkt Connecticuts zu verbieten. Die öffentlichen Krankenversicherungen nutzen mehrere Verwaltungsdienstleister: Anthem ist für die medizinische Versorgung aktiver Arbeitnehmer zuständig, Cigna für die Zahnversicherung, Aetna für den Medicare-Advantage-Plan für Rentner und Caremark für die Apothekenleistungen, wie aus Berichten hervorgeht. Scanlon erklärte, die Verwaltungsdienstleister hätten den neuen Anforderungen nach Verhandlungen zugestimmt.

Datenschutz, Offenlegung und Prüfungen

Die Richtlinie verbietet außerdem die Verwendung von Mitgliederdaten zum Trainieren, Entwickeln oder Unterstützen anderer KI-Modelle. Versicherer und Leistungserbringer müssen Mitglieder informieren, wenn KI wesentlich bei einer Leistung oder einem Gesundheitsdienst hilft, direkt daran beteiligt ist oder diesen empfiehlt. KI-Systeme müssen anhand historischer Daten auf Genauigkeit, Konsistenz und Fairness geprüft werden, und Versicherer müssen ihre Governance- und Prüfverfahren dem Rechnungsprüfer offenlegen. Die Berichterstattung des öffentlich-rechtlichen Radiosenders WSHU bestätigte unabhängig die Anforderungen an die menschliche Überprüfung, den Datenschutz, die Offenlegung und die Prüfung.

Für Patienten bedeutet dies in der Praxis ein Recht auf menschliche Beteiligung, wenn ein Algorithmus im Rahmen dieser staatlichen Krankenversicherungen zu einer ungünstigen Leistungsentscheidung beiträgt. Für Ärzte gilt dasselbe Prinzip, wenn automatisierte Systeme die Vergütung kürzen oder die Kodierung ändern würden. Die Richtlinie garantiert zwar nicht, dass ein menschlicher Gutachter eine ursprüngliche Empfehlung revidiert, verhindert aber, dass ein KI-Ergebnis das letzte Wort hat. Zudem schafft sie eine Kontrollstruktur, indem sie Administratoren verpflichtet, zu dokumentieren, wie ihre Systeme verwaltet und überprüft werden.

Die Reichweite ist beträchtlich, aber nicht flächendeckend. Die Regelungen gelten nur für die beiden vom Rechnungsprüfer beaufsichtigten Programme, nicht für alle Einwohner Connecticuts. Scanlon kündigte an, die Abgeordneten in der Sitzung 2027 aufzufordern, vergleichbare Schutzmaßnahmen auf alle staatlich regulierten Krankenversicherungen auszuweiten. Laut CT Mirror.

Die Ärztekammer des Bundesstaates Connecticut unterstützte den Schritt mit der Begründung, dass automatisierte Ablehnungen und Herabstufungen von Leistungsabrechnungen nicht die klinische Beurteilung ersetzen sollten. Ein separater Branchenbericht von Becker’s bestätigte, dass die Richtlinie mehr als 270.000 Mitglieder umfasst und die autorisierten automatisierten Abrechnungsverfahren beibehält. Die Richtlinie dient somit als kurzfristige Beschaffungsvorschrift und als Vorlage für eine breitere legislative Debatte im nächsten Jahr.