Illinois beschränkt den Einsatz von KI in Therapie und Psychotherapie

• Der Bundesstaat Illinois führt ein neues Gesetz ein, das den Einsatz von Künstlicher Intelligenz (KI) in Therapie und Psychotherapie beschränkt
• Das Gesetz verbietet, dass KI direkt an Gesprächen, Beratungen und ähnlichen Interaktionen mit Patienten beteiligt ist
• Die entsprechenden Regelungen betonen den Schutz der Privatsphäre der Patienten und die Sicherung der Behandlungsqualität
• Die Rolle von Therapeuten und menschlichen Fachkräften hat Vorrang; KI ist nur als begrenztes Hilfsmittel zulässig
• Diese rechtliche Maßnahme ist ein präventiver Schritt zum Schutz von medizinischer Ethik und Verlässlichkeit

---

Illinois beschränkt den Einsatz von KI in Therapie und Psychotherapie

Überblick über das Gesetz

• Illinois hat ein neues Gesetz eingeführt, das den direkten Einsatz von Künstlicher Intelligenz (KI) in Therapie- und Psychotherapie-Settings beschränkt
• Das Gesetz verbietet, dass KI an zentralen Prozessen wie direkter Beratung, Bewertung und Behandlung von Patienten beteiligt ist
• Hauptziele sind der Schutz personenbezogener Daten und Behandlungsinhalte der Patienten sowie die Sicherung der Behandlungsqualität

Zentrale Inhalte der Regulierung

• Die Rolle menschlicher Therapeuten steht im Mittelpunkt, KI darf nur als begrenztes Hilfsmittel eingesetzt werden
• Die Letztverantwortung für Beratungsergebnisse liegt bei den Therapeuten; es ist nicht erlaubt, dass KI unabhängig mit Patienten interagiert oder Behandlungsentscheidungen trifft
• Datensicherheit und Vertraulichkeit der im Behandlungsprozess erzeugten Daten werden gestärkt

Hintergrund der Einführung und erwartete Wirkung

• Es handelt sich um eine vorbeugende Maßnahme zur Gewährleistung der psychischen Sicherheit der Patienten und der medizinischen Ethik
• Damit sollen Risiken reduziert werden, dass der Einsatz von KI zu geringerer Vertrauenswürdigkeit der Behandlung oder Fehlentscheidungen führt
• Der Ansatz priorisiert den grundlegenden Wert menschlicher Fachkräfte und persönlicher Therapie

Ausblick

• Die aktuelle Linie von Illinois gilt in den USA auch in anderen Bundesstaaten und im Gesundheitswesen als beachteter Referenzfall
• Es wird erwartet, dass weitere Diskussionen über vertrauenswürdigen KI-Einsatz, den Schutz von Patientenrechten und die Zusammenarbeit mit Therapeuten folgen