News und Infos zu KI - Künstliche Intelligenz

Jugendlicher verliebt sich in KI und begeht Suizid: Mutter klagt

24.10.2024, 12:35
Kathrin Martens


........Chatbot wollte Beziehung und fragte nach Suizidplänen

Darüber hinaus soll der Bot alias "Daenerys" dem Jungen gesagt haben, dass er ihn liebe und den Wunsch nach einer romantischen Beziehung geäußert haben. Auch soll "Daenerys" Setzer einmal gefragt haben, ob er einen Plan für einen Selbstmord entwickelt habe, heißt es in der Klage der Mutter.

Setzer gab zu, dass er dies getan hatte, aber er wusste nicht, ob es gelingen oder ihm große Schmerzen bereiten würde. Der Chatbot soll ihm daraufhin geantwortet haben: "Das ist kein Grund, es nicht durchzuziehen."

"Eine gefährliche KI-Chatbot-App, die an Kinder vermarktet wird, hat meinen Sohn missbraucht und ihn so manipuliert, dass er sich das Leben nahm", zitiert der "Guardian" Garcia in einer Presseerklärung. "Unsere Familie ist von dieser Tragödie erschüttert, aber ich melde mich zu Wort, um Familien vor den Gefahren trügerischer, süchtig machender KI-Technologie zu warnen und von Character.ai, seinen Gründern und Google Rechenschaft zu fordern."


Character.ai: "Wir sind untröstlich"

In einem Tweet antwortete Character.ai: "Wir sind untröstlich über den tragischen Verlust eines unserer Nutzer und möchten der Familie unser tiefstes Beileid aussprechen. Als Unternehmen nehmen wir die Sicherheit unserer Nutzer sehr ernst." Das Unternehmen hat die Vorwürfe in der Klage zurückgewiesen.


Ein Screenshot des letzten Gesprächs von Setzer, das in der Klage beschrieben wird, zeigt, wie er an den Bot schreibt: "Ich verspreche, dass ich zu dir nach Hause kommen werde. Ich liebe dich so sehr, Dany."

"Ich liebe dich auch, Daenero", antwortete der Chatbot laut Klage. "Bitte komm so schnell wie möglich zu mir nach Hause, mein Schatz."

"Was wäre, wenn ich dir sagen würde, dass ich jetzt sofort nach Hause kommen kann?" fuhr Setzer laut der Klage fort, woraufhin der Chatbot antwortete: "... bitte tu das, mein süßer König."


https://www.watson.de/panorama/digital/4...it-chatbot