Am Montag, den 29. Januar 2024, meldete ein Angestellter eines Ingenieurbüros den Behörden in Hongkong, dass er an einer Videokonferenz teilgenommen habe und dazu gebracht worden sei, 200 Mio. HK-Dollar (etwa 25 Mio. US-Dollar) seines Unternehmens an einen Betrüger zu zahlen.1  Kurz nachdem die Polizei von Hongkong ihre Ermittlungen aufgenommen hatte, erkannte Senior Superintendent Baron Chan, dass es sich hier um einen der bisher dreistesten Diebstähle mit Hilfe von KI handelte.2

Innerhalb einer Woche schickte Chan eine Warnung an die Welt und teilte den Medien mit, dass es sich um einen Deepfake-Angriff auf das Unternehmen handelte.  Dazu Chan: "Weil die Personen in der Videokonferenz wie echte Personen aussahen, führte der Angestellte, wie angewiesen, 15 Transaktionen aus... Ich vermute, dass der Betrüger im Voraus Videos heruntergeladen und dann KI verwendet hat, um gefälschte Stimmen in der Videokonferenz zu verwenden."

Später stellte sich heraus, dass dieser Mitarbeiter für das britische multinationale Unternehmen Arup arbeitete, das etwa 18.500 Mitarbeiter in 40 Ländern beschäftigt. Der Vorfall bei Arup ist inzwischen als "Zoom of Doom" bekannt. Arup ist nicht das einzige Unternehmen, das von Deepfakes bedroht ist. Auch WPP, eines der weltgrößten Werbeunternehmen, war einem Deepfake-Angriff ausgesetzt:

Cyberkriminelle klonten die Stimme des CEO Mark Read. Anhand eines gefälschten Profils versuchten sie mithilfe von WhatsApp Sprachnachrichten seine Kollegen dazu zu bewegen, Geld und persönliche Daten zu übermitteln.3 Im April vereitelte ein Mitarbeiter von LastPass, ein webbasierter Passwortmanager-Online-Dienst, einen Cyberangriff von Kriminellen, die sich mit gefälschten Audiodateien als LastPass CEO Karim Toubba ausgaben.4

Während generative KI für viel Begeisterung sorgt, zeigen diese Fälle, wie sie auch von organisierten Cyberkriminellen als Waffe eingesetzt wird, um Angestellte auszutricksen und Millionen zu stehlen. Mitarbeitende können nicht mehr auf das Vertrauen, was sie sehen und hören. Um solche Angriffe zu verhindern, bedarf es ausgefeilte Authentifizierungstechniken.