Was ist KI-basiertes Social Engineering?

KI-basiertes Social Engineering nutzt künstliche Intelligenz, um Kommunikation, Inhalte oder Identitäten glaubwürdiger nachzuahmen und Menschen zu bestimmten Handlungen zu bewegen. Dazu können KI-generierte Texte sowie synthetisch erzeugte oder manipulierte Stimmen, Bilder und Videos gehören.

Was ist Voice Cloning?

Voice Cloning bezeichnet die KI-gestützte Nachbildung einer menschlichen Stimme. Bei Social Engineering kann eine solche Stimme dazu eingesetzt werden, eine bekannte oder autorisierte Person zu imitieren.

Woran erkennt man eine KI-generierte Stimme?

Eine künstlich nachgebildete Stimme lässt sich nicht in jedem Fall zuverlässig anhand einzelner akustischer Merkmale erkennen. Deshalb sollte die Sicherheitsstrategie nicht allein davon abhängig sein, eine Manipulation zu identifizieren. Bei ungewöhnlichen oder folgenreichen Anforderungen ist die Verifikation über einen unabhängigen und vertrauenswürdigen Kommunikationsweg ein wichtiger zusätzlicher Schutzmechanismus.

Wie können sich Unternehmen gegen Deepfake-Betrug schützen?

Unternehmen sollten technische, organisatorische und menschliche Schutzmaßnahmen kombinieren. Dazu gehören insbesondere klare Freigabe- und Verifikationsprozesse für sensible Vorgänge, sichere Authentifizierung sowie definierte Meldewege für verdächtige Anfragen. Mitarbeitende sollten außerdem wissen, wie sie bei ungewöhnlichen Zahlungs-, Zugriffs- oder Datenanforderungen reagieren und die Identität des Gegenübers unabhängig überprüfen können.

KI Social Engineering: Deepfakes & Voice Cloning im Wandel

KI kann Stimmen, Bilder und Kommunikation täuschend echt nachbilden. Ein Betrugsfall mit Überweisungen von rund 95 Millionen Euro zeigt, was das für Unternehmen bedeutet und warum Verifikation bei Social Engineering immer wichtiger wird.

Eine WhatsApp-Nachricht vom vermeintlichen CEO. Der Anruf eines bekannten Kontakts. Eine vertraute Stimme. Alles wirkt plausibel. Doch die Identität des Gegenübers ist nicht zwingend die, für die wir sie halten.

Wie real dieses Szenario inzwischen ist, zeigt ein Betrugsfall bei der italienischen Privatbank Fideuram. Nach übereinstimmenden Medienberichten lösten die Angreifer Überweisungen über insgesamt rund 95 Millionen Euro aus.

Der Fall wirft eine Frage auf, die weit über die Finanzbranche hinausgeht:
Was passiert, wenn eine bekannte Stimme, ein vertrautes Gesicht oder ein vermeintlich bekannter Absender kein zuverlässiger Beweis mehr dafür ist, mit wem wir tatsächlich kommunizieren?

Deepfake-Betrug bei Fideuram: Wenn Vertrauen zur Angriffsfläche wird

Im Februar 2026 erhielt der damalige Vorsitzende der Bank Berichten zufolge eine WhatsApp-Nachricht, die scheinbar vom CEO der Muttergesellschaft Intesa Sanpaolo stammte. Dabei ging es um eine angeblich vertrauliche internationale Transaktion.

Den veröffentlichten Informationen zufolge kombinierten die Täter eine gefälschte WhatsApp-Nachricht, vermeintlich legitime Unterlagen und eine mutmaßlich mithilfe künstlicher Intelligenz nachgebildete Stimme.
Ein Anrufer soll die Stimme eines dem Manager persönlich bekannten Rechtsanwalts mithilfe künstlicher Intelligenz nachgebildet haben. Der echte Anwalt war an dem Betrug nicht beteiligt.

Zwischen dem 23. und 25. Februar 2026 wurden schließlich Überweisungen über insgesamt rund 95 Millionen Euro ausgelöst.
Ein erheblicher Teil des Geldes konnte später gesichert oder zurückgeführt werden. Medienberichte sprechen von 36 Millionen Euro (heise online, Il Sole 24 Ore) und 39,5 Millionen Euro (ANSA).
Der öffentlich berichtete Ablauf verdeutlicht vor allem, wie Angreifer Menschen sowie Entscheidungs- und Freigabeprozesse ins Visier nehmen können.

Und genau deshalb ist der Fall auch für andere Unternehmen relevant: Vertrauen, Hierarchien, vertrauliche Informationen und außergewöhnliche Anforderungen gehören zum Arbeitsalltag fast jeder Organisation.

Social Engineering ist nicht neu. Angreifer setzen seit Jahren auf psychologische Mechanismen wie Autorität, Vertrauen, Vertraulichkeit und Zeitdruck, um Menschen zu bestimmten Handlungen zu bewegen.

Künstliche Intelligenz verändert diese Mechanismen nicht grundsätzlich. Sie kann die Täuschung jedoch glaubwürdiger machen.

Eine Befragung von Gartner zwischen März und Mai 2026 unter 297 leitenden Cybersecurity-Verantwortlichen verdeutlicht diese Entwicklung: 41 Prozent berichteten von mindestens einem Social-Engineering-Vorfall mit Deepfake während eines Audioanrufs mit Beschäftigten innerhalb der vorangegangenen zwölf Monate. Bei Videoanrufen waren es 36 Prozent.

Je glaubwürdiger sich Identitäten imitieren lassen, desto gefährlicher ist es, Sicherheit allein an vertrauten Signalen festzumachen.

Unter KI-basiertem Social Engineering verstehen wir Angriffe, bei denen künstliche Intelligenz eingesetzt wird, um Kommunikation, Inhalte oder Identitäten glaubwürdiger nachzuahmen und Menschen dadurch zu einer bestimmten Handlung zu bewegen.

Dazu gehören beispielsweise KI-generierte Texte sowie synthetisch erzeugte oder manipulierte Stimmen, Bilder und Videos.

Besonders relevant wird es, wenn Angreifer verschiedene Elemente miteinander kombinieren: Eine plausible Nachricht schafft Kontext, eine bekannte Identität vermittelt Autorität, eine imitierte Stimme zusätzliches Vertrauen und Zeitdruck erschwert es, die Situation kritisch zu hinterfragen.

Ein positives Beispiel: Wenn richtiges Hinterfragen den Unterschied macht

Ein Deepfake-Versuch muss nicht zwangsläufig erfolgreich sein, das zeigt ein anderer, bereits etwas älterer Fall.

Wie das MIT Sloan Management Review berichtet (27. Jan 2025), erhielt eine Führungskraft bei Ferrari im Juli 2024 mehrere WhatsApp-Nachrichten, die vermeintlich von CEO Benedetto Vigna stammten. Darin ging es um eine bevorstehende bedeutende Übernahme. In einem anschließenden Telefonat imitierte die Stimme laut dem Bericht sogar Vignas süditalienischen Akzent.

Die Führungskraft bemerkte jedoch Unstimmigkeiten und stellte eine persönliche Kontrollfrage.
Der Anrufer konnte diese Frage nicht beantworten und beendete das Gespräch.

Die entscheidende Erkenntnis liegt nicht in der konkreten Kontrollfrage, sondern im Verhalten:

Die Führungskraft verließ sich nicht auf die vermeintlich vertraute Stimme. Sie fragte gezielt nach.

Cyber-Samurai-Einschätzung: Vertrauen braucht Verifikation

KI verändert Social Engineering weniger im Prinzip als in seiner Glaubwürdigkeit.

Manipulation durch Autorität, Vertrauen, Vertraulichkeit und Zeitdruck ist nicht neu. Künstliche Intelligenz schafft jedoch zusätzliche Möglichkeiten, Kommunikation und Identitäten überzeugend nachzuahmen.

Deshalb wird es wichtiger, bei ungewöhnlichen und folgenreichen Anforderungen nicht allein auf vertraute Stimmen, bekannte Namen oder scheinbar eindeutige Identitäten zu vertrauen.

„Wenn Angreifer Stimmen, Identitäten und Kommunikation immer glaubwürdiger imitieren können, dürfen wir Sicherheit nicht davon abhängig machen, einen Fake auf den ersten Blick zu erkennen. Entscheidend ist, dass Mitarbeitende im richtigen Moment innehalten, kritisch hinterfragen und verifizieren. Genau dieses Verhalten müssen wir trainieren.“

Nicolas Leiser, Cyber Samurai

Denn je überzeugender digitale Identitäten imitiert werden können, desto wichtiger wird eine einfache Regel:
Selbst Vertrautheit braucht Verifikation. Und Verifikation braucht trainiertes Verhalten.

Je glaubwürdiger Angreifer Stimmen und Identitäten imitieren können, desto wichtiger werden klare Verifikationsprozesse.

Diese fünf Maßnahmen helfen Unternehmen, kritische Anfragen sicherer zu prüfen:

Unabhängig verifizieren: Ungewöhnliche Zahlungs-, Daten- oder Zugriffsanfragen über einen anderen bekannten Kontaktweg überprüfen.
Bei Zeitdruck kurz stoppen: Dringlichkeit, Geheimhaltung oder die Aufforderung, etablierte Abläufe zu umgehen, als Anlass für eine zusätzliche Prüfung nehmen.
Kritische Prozesse absichern: Für Zahlungen, privilegierte Zugänge und Änderungen von Kontodaten klare Freigabewege und ein Vier-Augen-Prinzip definieren.
Szenarien realitätsnah trainieren: Security Awareness nicht auf E-Mail-Phishing beschränken, sondern auch Voice Cloning, CEO Fraud und mehrstufige Angriffe thematisieren.
Melden und Nachfragen erleichtern: Einen eindeutigen Meldeweg schaffen und deutlich machen, dass kritisches Hinterfragen ausdrücklich erwünscht ist.

Je glaubwürdiger die Täuschung, desto wichtiger sind klare Prozesse und der Mut, im richtigen Moment nachzufragen.

Quellen und weiterführende Informationen

Fideuram-Fall

KI, Deepfakes und Social Engineering

Ferrari-Fall