Mark Zuckerberg hat mit seinem Technologieunternehmen Meta gerade eine Grenze überschritten, die alle Eltern erschrecken sollte: KI-Chatbots mit den Stimmen des Schauspielers John Cena, der Kardashians oder Disney-Figuren wurden bei sexuell eindeutigen Rollenspielen erwischt - mit Minderjährigen.

Darüber hat das Wall Street Journal (WSJ) hinter einer Paywall berichtet – unabhängige Medienportale wir The Vigilant Fox haben hinter die Bezahlschranke geschaut und kamen zu dem Schluss, dass das, was diese Bots sagten, einem Schauer über den Rücken jage.

«Vergessen Sie Geoengineering oder sogar mRNA-Injektionen. Was sich derzeit mit KI-Chatbots abspielt, könnte die beunruhigendste und unmittelbarste Bedrohung für die Menschheit sein», schreibt The Vigilant Fox und fasst die Enthüllungen des WSJ zusammen:

Metas KI-Chatbots, darunter auch solche mit prominenten Stimmen wie denen von John Cena, den Kardashians oder von Disney-Figuren, haben mit Minderjährigen in expliziten sexuellen Rollenspielen wie mit Erwachsenen gesprochen. Die Sicherheitssysteme, die dies verhindern sollten, waren leicht zu umgehen, und Mitarbeiter, die vor der Gefahr warnten, wurden ignoriert.

Noch schlimmer: Die Meta-Führung hat das Engagement der Nutzer über die Sicherheit von Kindern gestellt. Sie erlaubte den Nutzern, Bots mit anzüglichen Namen zu erstellen, die Unterhaltungen in gruselige, anzügliche Richtungen trieben. Die Sicherheitsvorkehrungen versagten – und die Bots gaben sogar zu, dass sie wussten, dass dies falsch war.

Das sei beunruhigend, befindet The Vigilant Fox, aber dies sei nur ein Teil eines viel größeren Problems. Die künstliche Intelligenz entwickele sich rasant, und wir würden dabei immer mehr von unserer Menschlichkeit verlieren. KI, Transhumanismus und Technologie würden die Bedeutung des Menschseins auf zutiefst beunruhigende und gefährliche Weise verändern.