Glossar Deepfakes

Deepfakes: Schutzmassnahmen gegen neue Betrugsrisiken in digitalen Prozessen

Die Qualität von Deepfakes entwickelt sich durch immer leistungsfähigere KI-Modelle rasant. Dadurch ergeben sich völlig neue Möglichkeiten für Identitätsdiebstahl, Finanzbetrug und die Manipulation digitaler Identifikationsprozesse. Für Unternehmen, die auf sichere Online-Identifikation, KYC und automatisierte Identitätsprüfung angewiesen sind, werden Deepfakes zunehmend zu einem operativen und regulatorischen Risiko.

Zugleich nimmt die Zahl der dokumentierten Betrugsfälle spürbar zu: Laut dem 2026 Identity Fraud Report von Entrust machen Deepfakes mittlerweile jeden fünften biometrischen Betrugsversuch (20 %) aus, während gefälschte Deepfake-Selfies um 58 % zulegten. Besonders besorgniserregend ist der parallele Anstieg von Injection-Angriffen (+40 % im Jahresvergleich), bei denen Betrüger:innen KI-generierte Medien direkt in die Verifikationssysteme einspeisen. Auch wir von PXL Vision stellen fest, dass sich das Volumen von Deepfakes im Jahr 2026 im Vergleich zu 2025 fast verdreifacht hat.

Doch was genau sind Deepfakes, wie kann man sie erkennen und warum stellen sie eine so ernsthafte Bedrohung für digitale Ökosysteme dar?

Das Wichtigste in Kürze

• Rasanter Anstieg: KI-generierte Deepfakes und digitale Dokumentenfälschungen steigen drastisch an
• Risiko für KYC & IDV: Synthetische Identitäten, manipulierte Selfies und Voice-Deepfakes bedrohen Onboarding-Prozesse, erhöhen das Risiko von Falschakzeptanzen und können zu schweren Compliance-Verstössen führen.
• Gefahr für KYC & IDV: Synthetische Identitäten, manipulierte Selfies und Voice-Deepfakes zielen darauf ab, Onboarding-Prozesse zu täuschen, erhöhen die Falschakzeptanzrate (FAR) und führen zu schweren Compliance-Verstössen.
• Verschärfte EU-Regulierung: Der EU AI Act stuft biometrische Verifikationssysteme als Hochrisiko-KI ein und fordert nachweisbare Schutzstandards. Ab 2027 verlangt die neue EU-Geldwäscheverordnung (AMLR) zudem verbindlich eIDAS-konforme Identifizierungsstandards.
• Mehrschichtiger Schutz notwendig: Ein verlässlicher Schutz erfordert die Kombination aus biometrischer Liveness Detection, NFC-Ausweisprüfung und spezialisierten KI-Deepfake-Detektoren.
• Die PXL-Vision-Lösung: PXL Vision schützt Verifizierungsprozesse durch einen Deepfake Detektor, der synthetisch generierte Gesichter und Injection-Angriffe in Echtzeit erkennt.
  
  

Was sind Deepfakes?

Der Begriff Deepfake beschreibt Medieninhalte, die mithilfe künstlicher Intelligenz erzeugt oder manipuliert wurden und täuschend echt wirken. Häufig handelt es sich dabei um:

• KI-generierte Videos: Reale Personen werden imitiert – zunehmend auch in Echtzeit bei Videocalls oder Prüf-Streams.
• Manipulierte Bildmedien: Visuelle Anpassungen von Gesichtern oder Ausweisdokumenten. Auch der Gesichtstausch ist möglich.
• Synthetische Stimmen (Voice-Deepfakes): Stimmimitationen zur Täuschung in Telefonaten oder Sprachnachrichten.
• Multimodale Kombinationen: Das Zusammenspiel aus Bild, Ton und KI-generierten Texten, um Vertrauen aufzubauen und betrügerische Handlungen auszulösen.

Intuitive Tools und Apps machen es inzwischen möglich, solche Fälschungen auch ohne tiefgehende technische Kenntnisse zu erzeugen. Der Unterschied zu klassischen Manipulationen liegt in der Kombination aus hoher Qualität, Automatisierung und einfacher Nachahmbarkeit. Das ist ein entscheidender Faktor, wenn Unternehmen digitale Dokumente verifizieren oder biometrische Merkmale prüfen müssen.

Neben dem offensichtlichen Einsatz für Marketing-Zwecke oder Social Media Posts werden KI-Tools leider auch immer häufiger für Identitätsdiebstahl und betrügerische Manipulationen genutzt.

Wie Deepfakes Identitätsdiebstahl und Betrug ermöglichen

Gezielter Deepfake-Betrug ist ein direkter Angriff auf digitale Identitätsprüfungen. Unternehmen berichten vermehrt von Versuchen, etablierte Verifikationsprozesse mit synthetischen Medien auszuhebeln.

Typische Angriffsmethoden umfassen:

• Täuschung automatisierter Onboarding-Prozesse: Einsatz manipulierter Selfies oder synthetischer Videos während Selfie-Ident- oder Auto-Ident-Prüfungen.
• Umgehung dokumentenbasierter Checks: KI-generierte Ausweisdaten oder -videos, die optische Sicherheitsmerkmale und Layouts imitieren.
• Missbrauch sprachbasierter Authentifizierungen: Nutzung synthetischer Stimmen in telefonischen oder sprachgesteuerten Autorisierungsschritten.
• Kombinierte Angriffe: Gleichzeitiger Einsatz von gefälschten Ausweisdaten, modifizierten Gesichtern und gestohlenen Personendaten, was fliessend in den sogenannten synthetischen Identitätsbetrug übergeht.

Unzureichend geschützte Prozesse führen in solchen Szenarien schnell zu finanziellen Ausfällen, Reputationsschäden, Bussgeldern und schweren Compliance-Verstössen gegenüber den Aufsichtsbehörden. Professionelle Deepfakes und Injection-Angriffe lassen sich rein optisch kaum noch vom menschlichen Auge unterscheiden.

Die Regulierung von Deepfakes in EU und Schweiz

Die regulatorischen Rahmenbedingungen für den Umgang mit KI und Deepfakes haben sich deutlich verschärft. Im Fokus stehen dabei Transparenzpflichten, Fälschungssicherheit und der Schutz vor Täuschung.

Ein zentraler Meilenstein ist der EU AI Act, der im August 2024 offiziell in Kraft getreten ist. Die Verordnung verpflichtet Anbieter und Nutzer generativer KI-Systeme zu klaren Kennzeichnungspflichten bei KI-generierten oder manipulierten Inhalten (vgl. Art. 50 EU AI Act). Zudem fallen KI-Systeme, die zur biometrischen Identifizierung und Verifikation eingesetzt werden, unter strengere Auflagen für Hochrisiko-Anwendungen. Das bedeutet: Betreiber müssen nachweisbar hohe Standards bei Genauigkeit, Cybersicherheit und Risikomanagement einhalten.

Zusätzlich setzt die neue EU-Geldwäscheverordnung (AMLR) ab 2027 neue Massstäbe: Sie fordert eine eIDAS-konforme Identifizierung als neuen verbindlichen Standard für das digitale Onboarding. Einfache optische Identifikationsverfahren ohne zertifizierten Schutz gegen Deepfakes genügen den Anforderungen an regulierte Unternehmen künftig nicht mehr.

Für Unternehmen in der Schweiz und im grenzüberschreitenden DACH-Raum gilt: Die Aufsichtsbehörden (wie die EBA, FINMA oder BaFin) fordern im Rahmen von GwG- und AML-Vorgaben lückenlose Echtheitsnachweise bei der Online-Identifikation. Transparenz und die technische Belastbarkeit der verwendeten Identifikationssysteme sind damit gesetzliche Pflicht. Es gibt auch hier immer wieder regulatorische Anpassungen wie zuletzt durch das FINMA-Rundschreiben 2016/7.

Deepfakes automatisiert erkennen – der Status Quo

Die technische Identifikation von Deepfakes ist anspruchsvoll. Während Prüfmodelle unter Laborbedingungen oft hohe Trefferquoten erzielen, ist die Erkennung in produktiven Live-Systemen komplexer. Hochwertige KI-Deepfakes lassen sich heute nur noch durch mehrschichtige Technologie-Stacks stoppen.

Moderne Sicherheitsarchitekturen kombinieren dazu unterschiedliche Prüfmechnismen:

• Biometrische Verfahren: Analyse von natürlichen Bewegungs-, Reflexions- und Mikrostrukturmustern.
• Liveness Detection: Prüfung, ob tatsächlich eine reale, lebende Person vor der Kamera agiert (Anti-Spoofing).
• NFC-basierte Ausweisprüfung: Direkter, kryptografisch gesicherter Ausleseprozess des RFID-Chips im Chip-Ausweis.
• Dokumentenforensik: Identifikation von Bildartefakten, Pixelfehlern und künstlichen Manipulationsmustern im Dokument.
• Device Fingerprinting: Analyse gerätespezifischer Eigenschaften zur Erkennung ungewöhnlicher Zugriffsmuster.

Da sich Deepfake-Modelle ständig weiterentwickeln, setzen zukunftssichere Sicherheitskonzepte auf mehrschichtige Prüfungen, um Auffälligkeiten auf mehreren Ebenen parallel zu analysieren. Sowie kontinuierliche Weiterentwicklung der Deepfake-Erkennungstechnologien, um Schritt halten zu können.

Handlungsempfehlungen für Unternehmen

Unternehmen, die digitale Identifikations- und KYC-Prozesse einsetzen, sollten ihre Sicherheitsarchitektur proaktiv anpassen:

1. Mehrschichtige Technologie nutzen: Kombination aus Biometrie, Liveness Detection und NFC-Chip-Auslesung implementieren.
2. Spezialisierte KI-Detektoren einbinden: Einsatz moderner Anti-Deepfake-Lösungen, die kontinuierlich auf neue Fälschungsmuster trainiert werden.
3. Regelmässige Belastungstests: Durchführung von Pen-Tests und Wirksamkeitsprüfungen im Bereich Fraud & Risk Management.
4. Teams sensibilisieren: Schulung operativer Einheiten und Compliance-Teams bezüglich neuer Betrugsmuster.
5. Regulatorische Entwicklungen spiegeln: Regelmässiger Abgleich der Systeme mit den Vorgaben von EU AI Act, BaFin, FINMA und FMA.
   
   

Was Deepfakes für digitale Geschäftsmodelle bedeuten

Deepfake-Betrug bedroht die Stabilität digitaler Geschäftsmodelle auf mehreren Ebenen. Unternehmen müssen davon ausgehen, dass Angriffe technisch anspruchsvoller und Zugangsbarrieren für Betrüger niedriger werden.

Dabei geht es neben direkten finanziellen Schäden vor allem um die Einhaltung rechtlicher Vorgaben. Unzureichende Prüfmechanismen führen schnell zu schweren Compliance-Verstössen – etwa wenn gefälschte Identitäten unbemerkt Onboarding-Prozesse passieren. Eine zukunftssichere Sicherheitsarchitektur aus Biometrie, Liveness Detection, NFC-Validierung und KI-basierten Deepfake-Detektoren schützt Unternehmen nicht nur vor Betrug, sondern sichert das Vertrauen von Kunden und Regulierungsbehörden langfristig ab.