Der Bot, mit dem der 14-Jährige monatelang gechattet hatte, war einem Charakter aus der Fernsehserie "Game of Thrones" nachgebildet, wie die US-Nachrichtenagentur AP berichtet. Die Mutter des Teenagers spricht von einer emotional und sexuell missbräuchlichen Beziehung, die den Jugendlichen letztlich in den Suizid getrieben habe. Der Junge hatte sich kurz nach den Worten der KI, dass sie "ihn liebe", und er "so schnell wie möglich zu mir nach Hause" kommen möge, erschossen.
Dem Argument der Entwicklerfirma Character.AI, Chatbots genössen Redefreiheit – könnten sich also auf den 1. Zusatzartikel zur US-Verfassung stützen – erteilte die Richterin laut AP eine Absage. Der Output von Chatbots sei keine freie Meinungsäußerung.
Die Bundesrichterin schließt nicht aus, dass auch Google in dem Fall haftet – und hat die Klage auch insoweit zugelassen. Darin wird das Unternehmen mitverantwortlich gemacht, weil es an der Entwicklung von Character.AI mitgewirkt habe. Google weist das von sich. Google und Character.AI seien völlig getrennte Unternehmen.
Wir berichten neutral und mit der gebotenen Zurückhaltung über Suizide, um keinen Anreiz für Nachahmung zu geben. Wenn Sie selbst depressiv sind oder wenn Sie Suizid-Gedanken plagen, können Sie rund um die Uhr und anonym die TelefonSeelsorge im Internet (https://www.telefonseelsorge.de) oder über die kostenlosen Hotlines 0800/111 0 111 oder 0800/111 0 222 oder 116 123 kontaktieren.
