Von generierten Bildern, Videos und Audio-Inhalten bis hin zu Texten aus Sprachmodellen: Die Produkte von KI-Programmen begegnen uns inzwischen ständig im Alltag. Insbesondere wer per Chat mit KI kommuniziert, sollte dabei verschiedene Sicherheitsaspekte im Hinterkopf haben, rät das Bundesamt für Sicherheit in der Informationstechnik (BSI).

Zum einen sind die von KI-Programmen verarbeiteten, großen Datenmengen natürlich interessant für den Anbieter selbst. Deshalb sollte man sich vor der Nutzung in den Datenschutzerklärungen und AGB des jeweiligen Unternehmens darüber informieren, welche Rechte sich der Hersteller eigentlich einräumt - insbesondere in Bezug auf persönliche Daten und Nutzungsdaten.

KI anfällig für Manipulation, Zensur und Halluzination

Zum anderen rufen die Datenmengen Cyberkriminelle auf den Plan, warnt das BSI. Diese versuchten mitunter, Eingaben von Nutzern auszulesen oder Chats so zu manipulieren, dass man gezielt nach persönlichen oder sensiblen Daten wie Passwörtern oder Kreditkartendaten gefragt wird - oder dass etwa Links zu Phishing-Webseiten ausgegeben werden.

Zudem arbeitet KI nicht und schon gar nicht immer zuverlässig: Sprachmodelle sind erst einmal immer nur so gut, wie die Daten, mit denen sie trainiert wurden. Außerdem können sie zensiert werden, zufällig falsche Informationen ausgeben oder diese sogar erst generieren. Von KI erfundene, falsche Angaben nennt man Halluzinationen.

Audio-Deepfakes machen Enkeltrick noch „glaubwürdiger“

Gleichzeitig perfektionieren Kriminelle mit der Hilfe von KI auch ihre Betrugsmaschen: Sie lassen KI überzeugend formulierte E-Mails erstellen - zu allen möglichen Sachverhalten in allen möglichen Sprachen.

Und sie nutzen KI, um Videos zu manipulieren oder um aus Audioschnipseln täuschend echt wirkende Stimmen zu generieren (Deep Fakes). Damit geben sie sich beispielsweise am Telefon als Verwandte oder andere enge Kontakte der Angerufenen aus, fingieren etwa eine Notlage und bitten um Geld: der klassische Enkeltrick mit KI-Unterstützung also.

Tipps zum Schutz von Daten - und vor Bedrohungen

Zum Schutz vor Bedrohungen, die aus KI-Nutzung resultieren können, rät das BSI:

Sensible Daten schützen: Geben Sie keine personenbezogenen Informationen wie die Postadresse oder sensible Daten wie Passwörter oder Kreditkartendaten in die Eingabefelder von KI-Chatbots ein. Gleiches gilt natürlich grundsätzlich für Vertrauliches, Geheimes oder Geschäftliches.Weniger Informationen preisgeben: Am besten die Menge an persönlichen Informationen, die Sie online teilen, generell reduzieren, um potenziellen Schaden im Ernstfall zu begrenzen.KI-Output hinterfragen: Vertrauen Sie den Ergebnissen von KI-Anwendungen nicht blind, sondern prüfen Sie deren Vorschläge sorgfältig und kritisch.Vorsicht vor Betrugsversuchen: Auch wenn sie - vielleicht durch KI - noch so glaubwürdig oder realistisch klingen: Ungewöhnliche Nachrichten oder Anrufe von Freunden, Bekannten, Verwandten oder Unternehmen kritisch hinterfragen.

Das gilt insbesondere, etwa wenn die Kontaktaufnahme Schock-Charakter hat oder Sie unter Zeit- oder Zugzwang setzt. Im Zweifelsfall bei dem betreffenden Menschen oder der betreffenden Institution noch einmal direkt nachfragen, am besten per Telefon unter einer altbekannten Nummer. (dpa)