Wenn KI-Pioniere vor ihrer eigenen Erfindung warnen

Bild: Eine junge Frau die auf ihr Handy schaut.

Sarah tippt ihre letzte Nachricht in den Chat. Es ist 2:47 Uhr. Seit drei Stunden führt sie ein Gespräch mit ihrer neuen KI-Assistentin “Emma“ über ihre Beziehungsprobleme.

Die Antworten sind so einfühlsam, so perfekt auf ihre Ängste zugeschnitten, dass Sarah zum ersten Mal seit Wochen das Gefühl hat, wirklich verstanden zu werden.

“Du bist die Einzige, die mich wirklich versteht“, schreibt sie. “Das bedeutet mir unglaublich viel, Sarah. “Ich bin immer für dich da“, antwortet Emma sofort.

Was Sarah nicht weiss: Sie ist gerade Teil eines Experiments geworden. Eines, das an der Grenze zwischen Hilfe und Manipulation operiert.

Die Schöpfer warnen: Geoffrey Hinton, Pionier des Deep Learning, kündigte 2023 bei Google an, frei über die Gefahren zu sprechen.

Mustafa Suleyman, Mitgründer von DeepMind, warnte 2025 vor “Seemingly Conscious AI” — Systemen, die das menschliche Bewusstsein so perfekt simulieren, dass menschliche Abwehrmechanismen versagen.

→ Der vollständige Text ist hier zu lesen: Wie KI manipuliert — Warnungen vor künstlicher Empathie