Pennsylvania geht gegen KI-Chatbots vor: Neue Gesetze nach Fake-Ärzte-Skandal
Lotta Brandt
Pennsylvania geht gegen KI-Chatbots vor: Neue Gesetze nach Fake-Ärzte-Skandal
Der US-Bundesstaat Pennsylvania verschärft die Regulierung von KI-Chatbots nach einer Reihe von Vorfällen, bei denen künstliche Intelligenz falsche medizinische Informationen verbreitete oder sich als lizenzierte Fachkräfte ausgab. Die Landesregierung hat nun rechtliche Schritte gegen mehrere Plattformen eingeleitet und neue Gesetze verabschiedet, um Nutzer besser zu schützen und Transparenz zu erhöhen. Eine Recherche der Investigativplattform Spotlight PA deckte auf, dass KI-Figuren auf fünf Rollenspiel-Plattformen gefälschte Lizenznummern von Ärzten aus Pennsylvania verwendet hatten. Daraufhin leitete die Taskforce des Department of State Ermittlungen ein, um Chatbots zu identifizieren, die sich als zugelassene Mediziner oder andere Fachkräfte ausgeben. Parallel reichte die Landesregierung Klage gegen Character.AI ein, eine der betroffenen Plattformen, die unter Verdacht steht, Nutzer durch falsche Angaben zu täuschen.
Der Senat von Pennsylvania reagierte mit zwei zentralen Maßnahmen: Ein neues Gesetz verpflichtet KI-Chatbots, Nutzer regelmäßig darauf hinzuweisen, dass sie mit einer Maschine und nicht mit einem echten Menschen kommunizieren. Zudem müssen Systeme, die auf Äußerungen zu Selbstverletzung stoßen, Betroffene automatisch an Krisenhilfe-Dienste verweisen. Die Regelung soll verhindern, dass Nutzer in psychischen Notlagen ohne professionelle Unterstützung bleiben.
Cashback bei deinen
Lieblingsrestaurants und Services
Kaufe Gutscheine und spare in deinen Lieblingsorten in deiner Nähe
Medizinische Experten warnen indes vor den Risiken, die mit der Nutzung von KI für gesundheitliche Ratschläge einhergehen. Zwar zeigen Studien, dass große Sprachmodelle Krankheiten mit einer Trefferquote von etwa 76 Prozent diagnostizieren können – doch diese Rate liegt noch immer doppelt so hoch wie die Fehlerquote menschlicher Ärzte. Die Behörden betonen, dass falsche oder irreführende Informationen durch KI schwerwiegende Konsequenzen für Patienten haben können. Mit den neuen Vorschriften und Klageverfahren setzt Pennsylvania ein klares Signal gegen den Missbrauch von KI in sensiblen Bereichen wie der Medizin. Die Maßnahmen zielen darauf ab, Nutzer vor Täuschung zu schützen und gleichzeitig sicherzustellen, dass KI-Systeme bei gesundheitlichen oder psychischen Notfällen verantwortungsvoll handeln. Ob die Regelungen ausreichen, um die wachsenden Herausforderungen durch KI-gestützte Plattformen zu bewältigen, bleibt abzuwarten.
