Accenture: Was wir gelernt haben, als unser CEO (fast) Opfer eines Deepfakes wurde

Deepfakes sind nicht nur ein Fortschritt im Bereich Social Engineering, sondern stellen „einen Paradigmenwechsel im Angriffsvektor“ dar, sagt Accenture-Sicherheitschef Flick March.

Im Mai letzten Jahres arrangierte ein vermeintlicher Anwalt einen Videoanruf zwischen Julie Sweet, CEO von Accenture, und dem Finanzchef des Unternehmens, um eine unbezahlte Rechnung zu besprechen.

„Es gab eine dringende Anfrage“, berichtete Flick March, Leiter der EMEA-Cyberstrategie bei Accenture, vor dem Publikum des Cyber Security Festivals von Computing. „Der Finanzchef nahm den Anruf entgegen. Julie war vor der Kamera und wies den Finanzchef an, das zu tun, was von ihm verlangt wurde. Der Anwalt war nicht im Bild.“

Aber genau wie der Anwalt war auch „Julie“ nicht das, was sie zu sein schien. Sie war ein Deepfake. Glücklicherweise kannte der Finanzchef die Protokolle, die bei Überweisungen zu befolgen sind. Er ließ sich nicht aus der Ruhe bringen und machte sich daran, die Anfrage zu überprüfen. „Und natürlich wurden keine Gelder aus dem Unternehmen abgezogen“, sagte March. „Aber es hat uns auf jeden Fall wachgerüttelt.“

Seitdem arbeitet March mit Kunden zusammen, von denen einer sogar eigens Deepfake-Mitarbeiter eingestellt hat, um dieser schnell wachsenden Bedrohung entgegenzuwirken.

„Ein Paradigmenwechsel im Angriffsvektor“

Das Tempo der Veränderungen im Bereich der KI-generierten Fälschungen sei alarmierend, sagte sie, und das Ausmaß und die Schwere des Problems würden unterschätzt.

Tools, mit denen sich aus wenigen Sekunden Audio- und Videomaterial oder sogar einem Foto ein Deepfake-Video erstellen lässt, sind heute sowohl wesentlich leistungsfähiger als auch viel billiger als noch vor einem Jahr. Im Juni letzten Jahres gab March 20.000 Pfund aus, um einen Deepfake von sich selbst für Schulungszwecke zu erstellen; heute könnte man das schon für 20 Pfund tun. Und laut March hat sich die Leistungsfähigkeit der Anbieter von Deepfakes als Dienstleistung, die im Dark Web verkauft werden, um 21.000 % erhöht.

Infolgedessen sinkt die Fähigkeit der Menschen, Deepfakes zu erkennen, selbst nach einer Schulung dramatisch. „Erwarten Sie nicht, dass sie dicke Finger haben. Sie werden sie nicht erkennen können. Nach einem Deepfake-Test, den wir in der Finanzbranche durchgeführt haben, sind selbst nach einem Deepfake-Training 50 % darauf hereingefallen.“

Mit anderen Worten: Es ist wie ein Münzwurf. Es gibt praktisch keine Möglichkeit, allein durch Betrachten eines Fotos oder Videos zu erkennen, ob es echt oder gefälscht ist. Dies stellt eine dramatische Aushebelung eines unserer wichtigsten Mechanismen des Vertrauens in der Online-Welt dar.

„Es ist ein Paradigmenwechsel im Angriffsvektor und ein Paradigmenwechsel in Bezug darauf, wie Sicherheit aussehen muss, damit Sie unter Angriff und unter Druck Ihren Kernzweck und Ihre Integrität aufrechterhalten können.“

„Sie müssen Ihre Sicherheit neu gestalten“

Die Aufrechterhaltung des Kernzwecks und der Integrität bedeutet, den Ruf und das Geld zu sichern. Die Herausforderung, die sich durch äußerst überzeugende Deepfakes stellt, besteht darin, dass die erforderlichen Maßnahmen über die traditionellen Grenzen der Cybersicherheit, Datenverwaltung und Betrugsbekämpfung hinausgehen.

„Wir beobachten eine Vielzahl von Aktivitäten, die nicht ganz Betrug und nicht ganz Cyber sind“, erklärte March. Die Gefahr besteht darin, dass dies zum Problem anderer wird und große Lücken zwischen den Silos entstehen, in denen böswillige Akteure agieren können.

„Sie müssen Ihre Sicherheit neu gestalten“, betonte sie. „Sicherheit muss erweitert werden. Sie muss Autorität übernehmen, denn Ihre Aufgabe besteht nicht nur darin, die [Infrastruktur] zu schützen. Jetzt geht es darum, wie Sie Ihr Unternehmen funktionsfähig halten. Und auch darum, wie Sie darauf reagieren.“

Sie verwies auf die aktuellen Schwierigkeiten von M&S, das immer noch versucht, sich von einem Ransomware-Angriff zu erholen, und argumentierte, dass sich Unternehmen auf eine Welt vorbereiten müssen, die von Desinformation geprägt ist. „Eine Krise entsteht, wenn niemand weiß, was zu tun ist.“

Als Aktionsplan sollten Unternehmen eine Strategie entwickeln, um das Bewusstsein zu schärfen und Richtlinien für das Deepfake-Zeitalter zu aktualisieren. Anschließend sollten sie ihr Identitäts- und Zugriffsmanagement (I&AM), ihre Berechtigungen und Kontrollen modernisieren, bevor sie Reaktionspläne und Playbooks erstellen und testen.

„Social Engineering auf Steroiden“

Deepfakes tauchen überall auf. Callcenter werden gefälscht, Führungskräfte werden gefälscht, Prominente werden gefälscht. Sie werden auch zunehmend bei Ransomware-Angriffen eingesetzt, so March. „Sie dringen also in etwas ein und verwenden dann einen Deepfake des CISO, um dem Team zu sagen, dass es das SOC ausschalten oder bestimmte Systeme wieder einschalten soll. Sie finden das heraus durch Telefonate und suchen über LinkedIn nach Personen, die sich kennen. Das ist Social Engineering auf Steroiden.“

Als Reaktion darauf müssen Unternehmen das Konzept der Identitätssicherheit im gesamten Betriebsbereich umsetzen. Es muss sichere Kommunikationskanäle zwischen Fachleuten geben, um Sprach- und Videofälschungen zu erschweren; es muss eine angemessene Verschlüsselung und I&AM geben; und wichtige Entscheidungen müssen immer außerhalb des Bandes überprüft werden.

Technische Lösungen für die Sicherheit sind im Entstehen begriffen. Beispielsweise arbeiten Google, Microsoft, die BBC und andere an Herkunftsstandards, „einer Nährwertkennzeichnung für das, was Sie sehen“.

Anderswo bieten Organisationen wie NCSC und NIST Ratschläge und Rahmenbedingungen zum Schutz vor KI- und Deepfake-Betrug sowie Desinformation an. Accenture betreibt eine spezielle Bildungswebsite First AI ID Kit, die die Probleme im Zusammenhang mit Deepfakes beleuchtet.

Wenn man jedoch seinen Augen und Ohren nicht trauen kann, ist es unerlässlich, eine Kultur des kritischen Denkens zu vermitteln und auf der Einhaltung von Protokollen zu bestehen. Das hat Accenture vor einem möglicherweise erheblichen Verlust bewahrt. Ein ähnliches Szenario kostete ein anderes Unternehmen 25 Millionen Dollar.

Wenn eine dringende Aufforderung besteht, Protokolle zu ignorieren, wenn sich eine Person ungewöhnlich verhält oder wenn ein Video einfach zu gut ist, um wahr zu sein, handelt es sich möglicherweise um einen Deepfake. Menschen brauchen die Erlaubnis, vorsichtig zu sein, sagte March.

„Wenn Sie jemand am Freitagabend um 16 Uhr anruft, sollten Sie das Recht haben zu sagen: ‚Entschuldigung, ich glaube nicht, dass Sie das sind, rufen Sie mich bitte am Montag zurück.‘“

Dieser Artikel erschien ursprünglich auf unserer Schwester-Website Computing