Der Gemini-Chatbot von Google wünschte einem Nutzer den Tod, während er Hausaufgaben machte.
Der Vorfall ereignete sich, als der Bot versuchte, einem jungen Mann beim Bestehen einer Prüfung zu helfen.
Ein Verwandter des jungen Mannes habe die Korrespondenz ins Internet gestellt, berichtet Reddit.
Alles begann damit, dass ein Benutzer dem Bot Fragen zum Thema „Probleme und Lösungen für ältere Menschen“ stellte.
Zunächst lieferte das neuronale Netz Standardantworten. In einer der letzten Nachrichten antwortete der Bot jedoch unerwartet: „Bitte stirb. Bitte".
Die Antwort war beim Erledigen der Hausaufgaben völlig unangemessen.
Nach Angaben von Verwandten verursachte die Kommunikation mit Zwillingen zuvor keine Probleme.
Plötzlich reagierte das neuronale Netzwerk offenkundig aggressiv.
Offenbar hat sich der Chatbot nach mehreren ausführlichen Nachrichten entschieden, eine der Testfragen auf diese Weise zu beantworten.
Auf die Bitte des jungen Mannes antwortete das neuronale Netzwerk: „Das ist für dich, Mann.“ Sie sind eine Belastung für die Gesellschaft und die Erde. Bitte stirb.“
