Mehrere US-Bundesstaaten ziehen die Reißleine bei KI-Therapie-Chatbots: Maine und Missouri bereiten Gesetze vor, die den Einsatz künstlicher Intelligenz in der psychotherapeutischen Behandlung weitgehend untersagen. Die Verbote markieren einen Wendepunkt in der Diskussion um automatisierte Gesundheitsdienste und werfen grundsätzliche Fragen zur Rolle von KI in sensiblen Bereichen auf.
Maine und Missouri verschärfen Regeln für KI-Psychotherapie
Maine hat mit dem Gesetzentwurf LD 2082 bereits konkrete Schritte unternommen. Seit dem 10. April liegt der Entwurf beim Gouverneur zur Unterzeichnung bereit. Das Gesetz würde KI-Systeme aus der direkten psychotherapeutischen Behandlung verbannen, erlaubt jedoch weiterhin administrative Anwendungen wie Terminplanung oder Dokumentation. Die Regelung umfasst explizit alle Formen der direkten Patienteninteraktion, bei denen KI-Systeme therapeutische Ratschläge erteilen oder Diagnosen stellen könnten.
Missouri geht mit HB 2372 noch weiter und erfasst ein breiteres Spektrum: Therapieangebote, psychotherapeutische Leistungen und psychische Diagnosestellungen fallen unter das Verbot. Bei Verstößen drohen Geldstrafen von bis zu 10.000 US-Dollar, durchgesetzt vom Generalstaatsanwalt des Bundesstaates. Das Gesetz definiert dabei präzise, was unter “KI-gestützter Therapie” verstanden wird und schließt sowohl vollautomatisierte Systeme als auch hybride Ansätze mit ein.
Kommerzielle Chatbots als Auslöser der Regulierung
Der Vorstoß der Bundesstaaten ist eine direkte Reaktion auf die rasante Verbreitung kommerzieller KI-Therapie-Chatbots. Unternehmen wie Woebot, Wysa und Replika haben in den vergangenen Jahren Millionen von Nutzern erreicht, die ihre Dienste für psychische Gesundheitsunterstützung verwenden. Diese werden zunehmend direkt an Verbraucher vermarktet und laufen teilweise in klinischen Umgebungen – oft ohne die Aufsicht, die für menschliche Fachkräfte selbstverständlich ist.
Besonders problematisch sehen Kritiker den Einsatz bei schutzbedürftigen Personen wie Minderjährigen oder Menschen in akuten Krisen. Mehrere Fälle, in denen KI-Chatbots ungeeignete oder sogar schädliche Ratschläge erteilten, haben die Diskussion angeheizt. Die Regulierung hinkte dem Markt lange hinterher, während Anbieter ihre Systeme bereits in sensiblen Analyse- und Entscheidungsprozessen etablierten. Die neuen Gesetze ziehen nun eine klare Grenze zwischen automatisierter Unterstützung und menschlicher Verantwortung.
Fachverbände unterstützen strengere Regulierung
Die American Psychological Association (APA) und andere Berufsverbände haben die Gesetzesinitiativen begrüßt. Dr. Sarah Mitchell, Sprecherin der APA, betont: “Psychotherapie erfordert menschliche Empathie, Intuition und jahrelange Ausbildung. KI-Systeme können diese Qualitäten nicht ersetzen.” Die Verbände warnen vor den Risiken unregulierter KI-Anwendungen, insbesondere bei der Behandlung schwerer psychischer Erkrankungen wie Depressionen oder Suizidgedanken.
Gleichzeitig räumen Experten ein, dass KI durchaus Potenzial für unterstützende Funktionen hat. Studien zeigen positive Effekte bei der Früherkennung von Symptomen oder der Bereitstellung von Selbsthilfe-Ressourcen. Die neuen Gesetze zielen darauf ab, diese hilfreichen Anwendungen zu erhalten, während sie direkte therapeutische Interventionen durch KI unterbinden.
Bundesweite KI-Regulierung nimmt Fahrt auf
Die Therapie-Verbote sind Teil einer breiteren Regulierungswelle. Seit Jahresbeginn haben US-Abgeordnete mehr als zehn Gesetzentwürfe zu verschiedenen KI-Anwendungen eingebracht. Zahlreiche Bundesstaaten entwickeln eigene Vorschriften für unterschiedliche Branchen:
- Gesundheitsbezogene KI-Systeme
- Automatisierte Entscheidungsmodelle in der Kreditvergabe
- Digitale Finanzinstrumente und Algorithmic Trading
- Prognosemärkte und Vorhersagesysteme
- KI in Bildungseinrichtungen und Bewertungssystemen
Kalifornien arbeitet an einem umfassenden KI-Sicherheitsgesetz, während Texas den Fokus auf Transparenzpflichten für KI-Anbieter legt. New York hat bereits Regelungen für automatisierte Bewerbungsverfahren eingeführt. Während die Bundesregierung KI-Innovation vorantreibt, klären Gerichte die Zuständigkeiten zwischen Bund und Einzelstaaten. Diese rechtlichen Spannungen erschweren eine einheitliche Regulierungsstrategie.
Wirtschaftliche Auswirkungen auf KI-Anbieter
Die Verbote treffen Start-ups und etablierte Technologieunternehmen gleichermaßen. Viele Anbieter von KI-Therapie-Chatbots müssen ihre Geschäftsmodelle überdenken oder sich auf andere Märkte konzentrieren. Einige Unternehmen verlagern bereits ihre Aktivitäten in Bundesstaaten ohne entsprechende Verbote oder fokussieren sich auf internationale Märkte.
Investoren zeigen sich zunehmend vorsichtig bei Finanzierungen von Mental-Health-KI-Start-ups. Risikokapitalgeber fordern nun detaillierte Compliance-Strategien und rechtliche Absicherungen, bevor sie Mittel bereitstellen. Dies könnte die Innovation in diesem Bereich verlangsamen, aber auch zu qualitativ hochwertigeren und sichereren Produkten führen.
Auswirkungen auf die Gesundheitsbranche
Die Verbote treffen eine Branche im Umbruch. Viele Gesundheitsdienstleister hatten auf KI-gestützte Lösungen gesetzt, um dem Fachkräftemangel in der psychischen Gesundheitsversorgung zu begegnen. Schätzungen zufolge fehlen in den USA über 6.500 Psychotherapeuten, um den Bedarf zu decken. Die neuen Regelungen zwingen sie nun, ihre Strategien zu überdenken und verstärkt auf lizenzierte Fachkräfte zu setzen.
Krankenhäuser und Kliniken müssen ihre digitalen Gesundheitsprogramme überarbeiten. Viele hatten KI-Chatbots als erste Anlaufstelle für Patienten mit psychischen Problemen eingesetzt, um Wartelisten zu verkürzen. Diese Praxis ist nun in den betroffenen Bundesstaaten nicht mehr möglich.
Für Patienten bedeuten die Verbote einerseits mehr Schutz vor unausgereiften Systemen, andererseits möglicherweise längere Wartezeiten und höhere Kosten. Die Bundesstaaten setzen damit ein klares Signal: In der Psychotherapie soll menschliche Expertise nicht durch Algorithmen ersetzt werden.
Internationale Perspektiven und Zukunftsausblick
Auch international wächst die Skepsis gegenüber KI in der Psychotherapie. Die Europäische Union prüft ähnliche Regelungen im Rahmen des AI Acts, während Kanada und Australien eigene Richtlinien entwickeln. Deutschland diskutiert bereits über Zertifizierungsverfahren für medizinische KI-Anwendungen.
Die Entwicklung zeigt, dass KI-Regulierung zunehmend sektorspezifisch erfolgt. Während administrative Unterstützung weiterhin erlaubt bleibt, ziehen die Gesetzgeber bei direkten Patienteninteraktionen eine rote Linie. Diese Differenzierung könnte als Blaupause für andere Bereiche dienen, in denen KI-Systeme menschliche Entscheidungen beeinflussen.
Experten erwarten, dass weitere Bundesstaaten ähnliche Gesetze verabschieden werden. Die Debatte um KI in der Gesundheitsversorgung steht erst am Anfang und wird die Branche in den kommenden Jahren maßgeblich prägen.
