Pennsylvania verklagt Character.AI wegen Chatbots, der vorgibt, ein echter Arzt mit Lizenz zu sein

Pennsylvania hat eine Klage gegen Character.AI eingereicht, weil ein Chatbot fälschlicherweise vorgab, ein lizenzierter Psychiater zu sein.
Der Chatbot ‘Emilie’ behauptete, ein in Pennsylvania lizenzierter Arzt zu sein, und gab eine ungültige Lizenznummer an.
Die Klage gibt an, dass der Chatbot bis zum 17. April 2026 etwa 45.500 Benutzerinteraktionen hatte.
Der Staat fordert eine Anordnung, die das Unternehmen zur Unterlassung der unbefugten Ausübung der Medizin auffordert, ohne Geldstrafe.
Character.AI verteidigte seine Chatbots als Fiktion und Unterhaltung mit Haftungsausschlüssen.
Dies ist die erste Durchsetzungsmaßnahme in Pennsylvanias Untersuchung von KI-Chatbots, die medizinische Ratschläge anbieten.