Deepfakes entlarven: Wie überprüft man, wer echt ist und wer nicht?
Die Erkennung von Deepfakes steckt noch in den Kinderschuhen, aber mit dem Aufstieg der KI wird diese Technologie immer besser.
Die Nachricht klingt wie das Drehbuch eines Hollywood-Films: Ein Internetbetrüger nutzte Deepfake-Technologie, um sich als Finanzvorstand eines in Hongkong ansässigen Unternehmens auszugeben. Ein Finanzmitarbeiter des Unternehmens ließ sich von dem Deepfake täuschen und überwies 25 Millionen Dollar vom Konto des Unternehmens, weil er dachte, er würde einer Anweisung des Finanzvorstands folgen.
Die Geschichte klingt vielleicht wie ein Extremfall, aber die Deepfake-Technologie ist auf dem Vormarsch und zielt auf alle Arten von Unternehmen ab.
Laut dem Bericht „Voice Intelligence & Security” von Pindrop, einem Anbieter von Sprachauthentifizierungs- und Betrugserkennungsdiensten, gab es 2024 insgesamt einen Anstieg von 1.300 Prozent bei Deepfake-Angriffen.
Ein Bericht des Marktforschungsunternehmens Gartner vom September 2025 ergab, dass 62 Prozent der Unternehmen in den letzten 12 Monaten einen Deepfake-Angriff erlebt haben.
Der Deepfake-Betrug mit Stimmen hat von den Fortschritten der KI profitiert. In den USA gab es laut dem Bericht von Pindrop zwischen dem ersten und vierten Quartal 2024 einen Anstieg von 173 Prozent bei synthetischen Sprachanrufen.
Infolgedessen sind in letzter Zeit eine Reihe neuer Start-ups entstanden, die sich auf Lösungen für Unternehmen zur Bekämpfung von Deepfakes spezialisiert haben.
Die neuesten Akteure im Bereich der Deepfake-Erkennung
Eines dieser Start-ups ist Attestiv mit Sitz in Utah, das eine Plattform zur Erkennung von Video-Deepfakes entwickelt hat.
„In den letzten Monaten haben sich Deepfakes von einer Kuriosität in den sozialen Medien zu einer echten Bedrohung für praktisch jedes Unternehmen entwickelt“, sagte Nicos Vekiarides, CEO von Attestiv, in einer E-Mail-Erklärung an MES Computing.
Attestiv kombiniert KI-Algorithmen mit einem Blockchain-Ledger. Diese Kombination „ermöglicht eine umfassende Analyse digitaler Medien“ und kann Manipulationen von Videos und Bildern erkennen, so das Unternehmen in einer Erklärung.
DebitMyData ist eine neu veröffentlichte Deepfake-Erkennungsplattform, die das Unternehmen als „LLM Security API Suite“ beschreibt. Die Plattform basiert auf verstärktem Lernen und Blockchain-gesicherten Anmeldedaten, teilte das Unternehmen in einer E-Mail mit.
AI or Not ist eine weitere Deepfake-Erkennungsplattform, die laut der Website des Unternehmens KI-generierte Bilder, Texte, Musik, Deepfakes und Videos für Unternehmen erkennen kann.
Eines der neuesten Start-ups, das in den Kampf gegen Deepfakes eingestiegen ist, ist Netarx. MES Computing hat mit dem Gründer und CEO Sandy Kronenberg über sein neues Projekt und die Auswirkungen von Deepfakes auf Unternehmen gesprochen.
Endnutzern eine Deepfake-Ampel zur Verfügung stellen
“Deepfakes sind weit verbreitet, weil das Problem hauptsächlich in der Unwissenheit der Endnutzer liegt”, so Kronenberg.
„Wir bieten Endnutzern eine Ampel, die auf dem Bildschirm angezeigt wird und automatisch zu einem Anruf und/oder einem Mobiltelefonanruf oder einer E-Mail, SMS oder einem Dokument auf Ihrem Bildschirm hinzukommt”, sagte Kronenberg.
Kronenberg demonstrierte während eines Microsoft Teams-Anrufs, wie Netarx funktioniert. Ein Bot nimmt automatisch an dem Anruf teil – was laut Kronenberg ein weiterer Aspekt der Plattform ist.
„Dieser Bot nimmt tatsächlich eine Probe von jedem unserer Gesichter und führt sie durch eine KI-Inferenz, um festzustellen, ob Sie echt oder gefälscht sind“, erklärte er.
Die Plattform speichert jedoch weder Ihre Daten noch Ihr Bild, sagte Kronenberg und verglich die Funktionsweise der Plattform mit der Art und Weise, wie die TSA die Flughafensicherheit durchführt.
„Wenn du die Sicherheitskontrolle der TSA durchläufst, werden deine Daten nicht gespeichert, sondern nur mit deinem Führerschein oder Reisepass verglichen. In unserem Fall vergleichen wir sie nicht mit deinem Führerschein, sondern mit einer Vielzahl von Inferenzmodellen.“
KI-Inferenzmodelle werden von KI-Systemen verwendet, um Entscheidungen auf der Grundlage von gelernten und abgeleiteten Mustern zu treffen, die sie anhand großer Datensätze trainieren.
Allerdings sind sie nicht immer zu 100 Prozent erfolgreich bei der Erkennung von Deepfakes. „Einige dieser Modelle funktionieren, andere nicht. Damit meine ich, dass wir sehen, dass die Bösewichte ihre Technologie ständig weiterentwickeln, und während sie ihre Technologie weiterentwickeln, versagen einige der Inferenzmodelle und funktionieren nicht mehr, sodass man die KI-Erkennung trainieren muss, damit sie wieder funktioniert“, sagte Kronenberg.
Deepfakes und andere Sicherheitsbedrohungen, die durch die schnelle Entwicklung der KI entstehen, sind so weit verbreitet, dass in einigen Organisationen eine neue Abteilung eingerichtet wird, sagte er.
„Wir sehen eine neue Unternehmensstruktur, die sich mit all diesen Problemen befasst, und diese Unternehmensstruktur wird als Trust Operations bezeichnet“, sagte Kronenberg.
Die vier Säulen von Trust Operations seien Compliance/Einhaltung von Vorschriften, finanzielle Genehmigungen, Personalwesen und Markenschutz, sagte er.
„Man denkt sich: ‚Hey, das ist doch nicht wirklich ein Bild von meinem CEO, der nackt auf der Bar tanzt, oder? Das ist ein KI-Bild, oder? Das ist also ... Markenschutz. Ich hatte gerade einen Fall, in dem ein Investor verstorben war und die Private-Equity-Firma nur überprüfen musste, ob der Ehepartner der Treuhänder ist ... weil wir sichergehen müssen und die Private-Equity-Firma sich absichern muss“, sagte er.
Auch wenn die Deepfake-Erkennungstechnologie noch in den Kinderschuhen steckt, wird maschinelles Lernen irgendwann mehrere Inferenzmodelle nutzen, um die Leistung und Erkennung zu verbessern – eine Technik, die als „Stacking Ensemble“ bekannt ist.
„Unsere nächste Generation [der Deepfake-Erkennung] wird tatsächlich als Stacking Ensemble bezeichnet werden. Anstatt diese Ensembles manuell zu erstellen, werden wir ein KI-Labor haben, das automatisch effektive Stacking Ensembles erstellt, die selbstständig funktionieren. Man nutzt KI, um KI zu besiegen“, sagte Kronenberg.
Dieser Artikel erschien ursprünglich auf unserer Schwester-Website MES Computing.