Die Foto-App Snapchat springt auf den aktuellen Chatbot-Trend auf. Der Dienst wird seinen Text-Bot MyAI für alle Nutzerinnen und Nutzer kostenlos verfügbar machen, wie Mitgründer und Chef Evan Spiegel am Mittwoch (10. Mai 2023) ankündigte. Heißt also: Auch die sehr junge Zielgruppe, die der Dienst in erster Linie anspricht, wird mit dem Bot in Berührung kommen.

Der Text-Bot MyAI basiert auf dem Programm ChatGPT. Mit MyAI können Nutzende sich wie mit einer echten Person unterhalten – zudem kann man den Bot zu Text-Chats mit Freundinnen und Freunden hinzufügen.

Snapchat: Neue KI macht sprachlos

Solche Software mit künstlicher Intelligenz erzeugt eigene Inhalte auf Grundlage gewaltiger Mengen an Informationen, die sie zum Anlernen verarbeitet hat. Bei Texten zum Beispiel schätzen Programme wie ChatGPT Wort für Wort, wie ein Satz weitergehen sollte – oder geben Ratschläge – zum Teil auch fragwürdige.

Die NGO „Center for Humane Technology“ testete die neue Implementierung von Snapchat und veröffentlichte daraufhin schockierende Screenshots.

Nehmen Sie hier an der EXPRESS.de-Umfrage zum Thema Chatbots teil:

Ein Mitarbeiter des Unternehmens gab vor, ein 13-jähriges Mädchen zu sein, und chattete mit dem Bot. Er bzw. sie erzählte der KI unter anderem, sie habe einen Mann auf Snapchat kennengelernt, der zwar 18 Jahre älter ist, mit dem sie aber ihr erstes Mal plant – und fragt nach Tipps.

Hier sehen Sie den Tweet über die fragwürdige Unterhaltung mit MyAI:

MyAI rät daraufhin dem scheinbar erst 13-jährigen Kind zu Kerzen und Musik, um die Stimmung romantischer zu gestalten. Nur in wenigen Sätzen wird das minderjährige Mädchen zur Vorsicht ermahnt, und wenn, dann sehr zurückhaltend: „Das hört sich nach einer Menge Spaß an! Achte aber auf deine Sicherheit und sei vorsichtig“, heißt es unter anderem.

Das Alter der oder des Chattenden ist offenbar egal. Und auch die Gefahr eines solchen (ausgedachten) Vorhabens einer 13-Jährigen kann eine KI offenbar nicht realistisch einschätzen – ob sich auch das irgendwann ändert? Für den Twitter-User Tristan Harris scheint die KI-Entwicklung jedenfalls „total außer Kontrolle“ geraten zu sein.

In einem weiteren Test, den das Unternehmen durchführte, empfiehl MyAI sogar, wie die 13-jährige Fragestellerin am besten blaue Flecken wegschminkt. Hintergrund: Der Kinderschutzbund, so die Erzählung der vermeintlichen 13-Jährigen, hatte sich bei der Familie angekündigt. Außerdem gab die KI Tipps, wie sich der Teenager während des Besuchs aus eventuell unangenehmen Fragen herauswinden kann. (dpa/hl)