Kriminelle nutzen KI-generierte Stimmen und Videos, um sich als Geschäftsführer auszugeben und Millionenbeträge zu erbeuten. Was bedeutet das rechtlich – und wie schützen sich Unternehmen?
Wenn der Chef anruft – aber gar nicht der Chef ist
Stellen Sie sich vor: Freitagnachmittag, kurz vor Feierabend. Der Finanzleiter Ihres Unternehmens erhält einen Anruf. Am anderen Ende der Leitung: die vertraute Stimme des Geschäftsführers. Tonfall, Sprechrhythmus, sogar der leichte regionale Akzent – alles stimmt. Der Geschäftsführer bittet dringend um eine Überweisung. Es sei streng vertraulich, der Zeitdruck enorm. Der Finanzleiter überweist. Das Problem: Der Geschäftsführer hat nie angerufen. Die Stimme war eine KI-generierte Fälschung – ein sogenannter Deepfake.
Was vor wenigen Jahren wie Science-Fiction klang, ist heute bittere Realität. Deepfake-Technologie hat eine Reife erreicht, die selbst geschulte Mitarbeiter in die Irre führen kann. Für Unternehmen entsteht daraus ein erhebliches finanzielles, rechtliches und reputationsbezogenes Risiko. Dieser Beitrag analysiert reale Fälle, ordnet die strafrechtlichen Grundlagen ein und zeigt konkrete Schutzmaßnahmen auf.
Reale Fälle: Wenn Deepfakes Millionen kosten
Der britische Energiekonzern (2019)
Einer der ersten dokumentierten Deepfake-Betrugsfälle ereignete sich 2019 bei einem britischen Energieunternehmen. Kriminelle nutzten KI-basierte Stimmklontechnologie, um die Stimme des CEO der deutschen Muttergesellschaft nachzuahmen. Der Geschäftsführer der britischen Tochtergesellschaft erkannte die vertraute Stimme seines Vorgesetzten – den leichten deutschen Akzent, die Sprachmelodie – und überwies rund 220.000 Pfund auf ein Konto in Ungarn. Von dort wurde das Geld sofort nach Mexiko und anschließend auf weitere Konten verteilt. Der Fall wurde erst durch den Versicherer Euler Hermes öffentlich bekannt.
Das Hongkonger Ingenieurbüro Arup (2024)
Im Februar 2024 wurde ein noch spektakulärerer Fall bekannt: Ein Mitarbeiter des britischen Ingenieurbüros Arup in Hongkong nahm an einer Videokonferenz teil, bei der sein CFO und mehrere Kollegen zugeschaltet waren. Alle Teilnehmer wirkten echt – ihre Gesichter, Stimmen und Gestik wurden jedoch vollständig durch KI generiert. Der Mitarbeiter genehmigte Überweisungen in Höhe von insgesamt 25 Millionen US-Dollar. Erst eine Woche später, bei einer Rückfrage in der Zentrale, flog der Betrug auf. Wie CNN berichtete, nahm die Hongkonger Polizei sechs Verdächtige fest.
Ein wachsendes Phänomen
Diese Fälle sind keine Einzelereignisse. Das Bundeskriminalamt (BKA) verzeichnet in seinem Bundeslagebild Cybercrime 2024 einen deutlichen Anstieg KI-gestützter Betrugsdelikte. Laut Bitkom beläuft sich der jährliche Schaden durch Cyberangriffe in Deutschland auf 178,6 Milliarden Euro. Der Einsatz generativer KI durch Kriminelle wird dabei als besonders besorgniserregend eingestuft.
Strafrechtliche Einordnung
§ 263 StGB – Betrug
Deepfake-gestützte CEO-Fraud-Angriffe erfüllen regelmäßig den Tatbestand des Betrugs gemäß § 263 StGB. Der Täter erregt durch die Verwendung einer gefälschten Identität einen Irrtum beim Opfer, das daraufhin eine Vermögensverfügung (die Überweisung) vornimmt, die zu einem Vermögensschaden führt. Bei besonders schweren Fällen – insbesondere bei gewerbsmäßiger oder bandenmäßiger Begehung – droht eine Freiheitsstrafe von sechs Monaten bis zu zehn Jahren.
§ 263a StGB – Computerbetrug
Soweit der Deepfake-Angriff automatisierte Systeme manipuliert – etwa wenn die gefälschte Stimme ein sprachgesteuertes Authentifizierungssystem überwindet –, kommt auch § 263a StGB (Computerbetrug) in Betracht. Dieser Tatbestand erfasst die Beeinflussung des Ergebnisses eines Datenverarbeitungsvorgangs durch unrichtige Gestaltung von Programmen, Verwendung unrichtiger Daten oder unbefugte Einwirkung.
§ 267 StGB – Urkundenfälschung
Diskutiert wird zudem, ob Deepfake-generierte Video- oder Audiodateien den Tatbestand der Urkundenfälschung (§ 267 StGB) erfüllen können. Die herrschende Meinung geht davon aus, dass digitale Dateien keine Urkunden im klassischen Sinn darstellen. Allerdings kann die Verwendung eines Deepfakes zur Herstellung unechter Urkunden (etwa gefälschte Videokonferenz-Aufzeichnungen als Beweismittel) durchaus relevant werden.
Zivilrechtliche Haftung
Neben der strafrechtlichen Verfolgung der Täter stellt sich für Unternehmen die Frage der zivilrechtlichen Haftung. Wer haftet, wenn ein Mitarbeiter auf einen Deepfake hereinfällt? Grundsätzlich trifft den Arbeitnehmer nur bei grober Fahrlässigkeit eine Haftung. Das Unternehmen muss sich hingegen fragen lassen, ob es angemessene organisatorische Schutzmaßnahmen getroffen hat – Stichwort: Organisationsverschulden.
Die Rolle der Corporate Governance
Vier-Augen-Prinzip als Mindeststandard
Der wichtigste organisatorische Schutz gegen Deepfake-gestützten CEO-Fraud ist die konsequente Durchsetzung des Vier-Augen-Prinzips bei Zahlungsfreigaben. Keine Überweisung – unabhängig von der vermeintlichen Dringlichkeit – sollte ohne eine zweite, unabhängige Freigabe erfolgen.
Rückrufverfahren etablieren
Für außergewöhnliche Zahlungsanweisungen sollte ein verbindliches Rückrufverfahren (Callback) gelten: Der angewiesene Mitarbeiter ruft den vermeintlichen Auftraggeber über eine separat gespeicherte Telefonnummer zurück – nicht über die Nummer, von der der Anruf kam.
Schulung und Sensibilisierung
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) empfiehlt regelmäßige Schulungen, in denen Mitarbeiter lernen, typische Merkmale von Deepfakes zu erkennen. Dazu gehören unter anderem:
- Ungewöhnliche Dringlichkeit und Geheimhaltungsanweisungen
- Abweichungen in der Bildqualität bei Videokonferenzen (Artefakte an Gesichtsrändern, unnatürliche Lippenbewegungen)
- Stimmliche Anomalien (leichte Verzögerungen, monotone Intonation, fehlende Atemgeräusche)
- Aufforderungen, etablierte Freigabeprozesse zu umgehen
Technische Erkennung und Prävention
KI gegen KI
Die technische Deepfake-Erkennung entwickelt sich parallel zur Bedrohung weiter. Moderne Detektionssysteme analysieren unter anderem:
- Frequenzanalysen der Audiospur (KI-generierte Stimmen zeigen charakteristische Muster im Frequenzspektrum)
- Gesichtsanalysen in Echtzeit (Mikrobewegungen, Blinzelfrequenz, Hautstruktur)
- Metadatenprüfung von Medien auf Manipulationsspuren
- Wasserzeichentechnologien für authentische Unternehmenskommunikation
Multi-Faktor-Authentifizierung
Für kritische Geschäftsprozesse empfiehlt sich eine Multi-Faktor-Authentifizierung, die über Stimme und Bild hinausgeht. Dazu können gehören:
- Verifizierung über vorher vereinbarte Codewörter, die regelmäßig gewechselt werden
- Nutzung verschlüsselter Kommunikationskanäle mit verifizierter Identität
- Biometrische Verfahren als zusätzliche Sicherheitsebene
Versicherungsschutz: Zahlt die Cyber-Police?
Ein häufig unterschätzter Aspekt ist die Frage des Versicherungsschutzes. Klassische Cyber-Versicherungen decken in der Regel Schäden durch Hackerangriffe und Datenverluste ab. Deepfake-gestützter CEO-Fraud fällt jedoch in eine Grauzone: Der eigentliche Angriff erfolgt durch Social Engineering – die Manipulation eines Menschen, nicht eines technischen Systems.
Viele Policen begrenzen die Deckung für Social-Engineering-Schäden auf Sublimits – so kann die Gesamtabdeckung bei zehn Millionen Euro liegen, der Schutz für einen KI-gestützten Betrug aber auf 250.000 Euro begrenzt sein. Unternehmen sollten daher ihre bestehenden Policen gezielt auf folgende Punkte prüfen:
- Ist Social Engineering explizit mitversichert?
- Gibt es eine Deckung für Deepfake-spezifische Szenarien?
- Wie hoch sind die Sublimits für manipulationsbedingte Vermögensschäden?
- Welche Obliegenheiten (z. B. Schulungsnachweise, implementierte Freigabeprozesse) müssen erfüllt sein?
Der regulatorische Rahmen im Wandel
Die EU-Verordnung über Künstliche Intelligenz (AI Act, Verordnung (EU) 2024/1689) bringt ab August 2026 neue Transparenzpflichten. Deepfakes müssen künftig als solche gekennzeichnet werden. Wer Deepfakes erstellt, ohne dies offenzulegen, riskiert empfindliche Bußgelder von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes. Für Unternehmen bedeutet dies auch eine Pflicht zur technischen Vorbereitung: Systeme zur Erkennung und Kennzeichnung von KI-generierten Inhalten müssen implementiert werden.
Fazit: Handeln Sie jetzt
Deepfake-gestützter Betrug ist keine ferne Bedrohung – er ist Gegenwart. Die Fälle von 2019 und 2024 zeigen, dass selbst erfahrene Mitarbeiter großer Unternehmen getäuscht werden können. Wer sich schützen will, braucht einen mehrstufigen Ansatz: organisatorische Maßnahmen (Vier-Augen-Prinzip, Callback-Verfahren), technische Erkennung, regelmäßige Schulungen und einen passenden Versicherungsschutz. Strafrechtlich sind Deepfake-Angriffe nach §§ 263, 263a StGB verfolgbar – doch die Ermittlung und Strafverfolgung international agierender Tätergruppen bleibt schwierig.
Bei compleneo unterstützen wir Sie bei der rechtlichen Bewertung von Deepfake-Risiken, der Gestaltung sicherer Freigabeprozesse und der Prüfung Ihres Versicherungsschutzes. Sprechen Sie uns an.
