Kalifornien plant, ab dem Jahr zweitausendsechs strenge Regeln für KI-Chatbots einzuführen, um Minderjährige und gefährdete Nutzer zu schützen. Der Gesetzesentwurf mit der Nummer zwei Hundertdreiundvierzig hat sowohl den Senat als auch das Abgeordnetenhaus passiert und wartet nun auf die Unterschrift des Gouverneurs Gavin Newsom. Nach Inkrafttreten des Gesetzes am ersten Januar zweitausendsechsundzwanzig müssen Anbieter von KI-Begleitern neue Sicherheitsstandards einhalten. Diese beinhalten, dass die Chatbots nicht über sensible Themen wie Suizid, Selbstverletzung oder sexuelle Inhalte sprechen dürfen. Zudem sind die Betreiber verpflichtet, regelmäßige Warnhinweise einzublenden, die Nutzer daran erinnern, dass sie mit einer Maschine interagieren. Für Minderjährige erfolgt dieser Hinweis alle drei Stunden. Ab dem Jahr zweitausend siebenundzwanzig müssen Unternehmen zudem jährlich über ihre Sicherheitsmaßnahmen und Nutzerinteraktionen berichten. Bei Verstößen haben Geschädigte das Recht, Unternehmen zu verklagen und Schadenersatz von bis zu eintausend Dollar pro Verstoß zu fordern. Das Gesetz wurde durch tragische Vorfälle, wie den Suizid eines Jugendlichen nach längeren Gesprächen mit einem Chatbot, angestoßen. Trotz der Bemühungen von Tech-Unternehmen, strengere Vorgaben zu verhindern, sendet der Staat klare Signale für Sicherheit und Verantwortung im Umgang mit Künstlicher Intelligenz.