IT-SecurityBringt eure KI-Accounts in Sicherheit
Allwissend werden KIs unmittelbar durch ihre Nutzer. Das haben nun offenbar auch Kriminelle bemerkt. In Schwarzmarkt-Datensätzen hat ein IT-Dienstleister massenhaft AI-Logins gefunden. Und das ist ein Problem.
KI-Prompts geben persönlichste Daten preis. Während KI-Anbieter ohnehin frei darauf zugreifen, können KI-Accounts auch für Kriminelle nützlich sein. Denn jeder AI-Account ist ein durchsuchbares Archiv, eine Rechnungsstelle, hat eine ausführende Funktion und ist auch noch eine Identität: Diese beeindruckende Vierfaltigkeit beschreibt das Unternehmen SOCRadar. Es verkauft Dienstleistungen im Bereich IT-Security.
Gut eine Million Datensätze mit KI-Bezug, die von Infostealern erbeutet wurden, hat sich SOCRadar beschafft. Infostealer sind Schadprogramme, die unbemerkt Passwörter und Browserdaten abgreifen, erklärt Deutschlandfunk-Nova-Tech-Autor Andreas Noll.
KI-Accounts für Kriminelle
Die Datensätze sind dann auf die Mailadressen hunderter größerer Unternehmen hin untersucht worden. Ergebnis: Die Fachleute fanden gestohlene ChatGPT- oder OpenAI-Zugangsdaten beziehungsweise bereits angemeldete Sitzungen mit Bezug zu 358 dieser 482 Unternehmen. "Das zeigt, dass Kriminelle scharf auf KI-Accounts sind", resümiert Andreas Noll.
"Der Kriminelle sieht das, was auch der eingeloggte Nutzer in seinem Konto sehen kann."
Infostealer erbeuten nicht nur Passwörter, sondern auch sogenannte Session-Cookies. Die sind eine Art digitaler Ausweiskarte für den Browser, mit denen User eingeloggt bleiben können, bei ChatGPT beispielsweise." Wenn die Schadsoftware diese digitale Eintrittskarte klaut, kann sie meine Sitzung unter Umständen übernehmen", sagt Andreas Noll.
Wir sollten Gegenmaßnahmen ergreifen
Er nennt folgende wirksame Gegenmaßnahmen:
- Aktivieren der Zwei-Faktor-Authentifizierung
- Im Browser regelmäßig nach aktiven Sitzungen schauen
- Datensparsamkeit gegenüber der KI
Zeigen Smartphone oder Computer merkwürdige oder verdächtige Aktionen, sollten alle aktiven Sitzungen beendet und das Gerät auf Schadsoftware überprüft werden, erklärt Andreas Noll.
"Wer KI ohne Account nutzt, hat zumindest kein persönliches Chat-Archiv in einem Konto, das auf diese Weise übernommen werden könnte."
58 Prozent der Menschen ab 16 Jahren in Deutschland nutzen KI-Anwendungen: Zu diesem Befund kommt eine Umfrage des Branchenverbands Bitkom. "Jeder Dritte tut das inzwischen mindestens einmal pro Woche", sagt Andreas Noll. ChatGPT ist dabei der mit Abstand meistgenutzte einzelne Dienst.
"Das Problem betrifft auch andere Anbieter. Ob ich nun dafür bezahle oder nicht, ist zweitrangig. Das Sicherheitsproblem betrifft auch kostenlose Konten", erklärt Andreas Noll.