Anteil der von Expert*innen identifizierten Deepfakes in systemischen Risikofeldern (Wahlen, Gesundheit, Gewalt, Desinformation), die ein plattform-generiertes KI-Label tragen. Basis: 500 expert-annotierte Posts auf Instagram, TikTok, X, YouTube. · Quelle: Maastricht Law & Tech Lab, 2026
(Zusammenfassung der Quelle: arXiv.org / Bram Rijsbosch, Luka Bekavac, Henry Tari, Gijs van Dijck, Konrad Kollnig (Studie des Maastricht Law & Tech Lab), 29.09.2026)
KI-Labels sollen Transparenz schaffen und Nutzende vor manipulierten Inhalten schützen – so steht es im EU Digital Services Act und im AI Act. Doch zwischen Anspruch und Wirklichkeit klafft eine riesige Lücke. Eine neue Studie des Maastricht Law & Tech Lab hat erstmals systematisch untersucht, wie Instagram, TikTok, X und YouTube KI-generierte Inhalte und Deepfakes tatsächlich kennzeichnen. Die Forschenden analysierten über 10.700 Posts, ließen 500 davon von Expert*innen bewerten und luden kontrolliert Inhalte aus zehn populären KI-Tools hoch. Das Ergebnis ist ernüchternd: Wo Kennzeichnung am dringendsten wäre – bei Deepfakes in systemischen Risikokontext wie Wahlen oder Gesundheit –, versagen die Plattformen besonders häufig. Nur ein Drittel dieser gefährlichen Fakes trägt überhaupt ein Label, obwohl sie im Median 160.000 Menschen erreichen.
Fakten aus der Quelle
Die zentralen Erkenntnisse
- Die Methodik: Die Studie analysierte Richtlinien und Erkennungsverfahren der vier größten EU-Plattformen (Instagram Reels, TikTok, X, YouTube Shorts), sammelte 10.722 Posts über systemische Risiko- und KI-bezogene Keywords, ließ 500 davon von Expert*innen annotieren und führte kontrollierte Uploads von Outputs aus zehn populären generativen KI-Tools durch. Rechtlicher Maßstab waren die Deepfake-Leitlinien der EU-Kommission vom Juli 2026.
- Versagen bei Deepfakes in Risikokontext: Nur 33 % der von Expert*innen als Deepfakes identifizierten Posts in systemischen Risikofeldern (Wahlen, Gesundheit, Gewalt, Desinformation) trugen ein plattform-generiertes KI-Label. Diese unbeschrifteten Deepfakes erreichten einen Median von 160.000 Views – eine massive Reichweite für potenzielle Manipulation.
- Lückenhafte Erkennung bei Standard-KI-Signalen: In kontrollierten Uploads von KI-generierten Inhalten, die Standard-Provenance-Signale (technische Herkunftskennzeichnungen) trugen, labelten die Plattformen nur 61 % der Uploads. Die Plattformen entfernen die eingebetteten KI-Signale oft nach dem Hochladen, anstatt sie zu nutzen.
- Inkonsistente Regeln und Label-Designs: Die vier Plattformen unterscheiden sich erheblich in ihren Richtlinien, Label-Designs, Erkennungsansätzen und Reporting-Mechanismen. Eine einheitliche, nutzerfreundliche Kennzeichnung über Plattformgrenzen hinweg existiert nicht, obwohl die EU-Gesetzgebung dies nahelegt.
- Automatisierung etabliert, aber unvollständig: Alle vier Plattformen setzen inzwischen automatische Kennzeichnung ein, und ein größerer Anteil der Labels wird plattformseitig angewendet als in früheren Audits. Dennoch bleibt die Abdeckung genau dort unvollständig, wo sie am wichtigsten wäre – bei visuell realistischen Deepfakes mit hoher Reichweite.
- Fokus auf Fotorealismus: Die Plattformen haben die EU-Vorgaben zu Deepfakes operativ auf fotorealistische Inhalte verengt. Andere Formen von KI-Manipulation (Texte, Audiofakes, stilisierte Bilder) werden systematisch weniger erfasst, obwohl sie ebenso irreführend sein können.
Der kritische Kim-Blick
Weiterlesen: Der kritische Kim-Blick
Die Studie entlarvt die KI-Kennzeichnung als Potemkinsches Dorf der Plattform-Compliance:
- Regulierung ohne Zähne: Die EU hat mit DSA und AI Act klare Transparenzpflichten geschaffen, doch die Plattformen setzen sie selektiv und halbherzig um. Wo Labels am dringendsten wären – bei Deepfakes, die Wahlen manipulieren oder Gesundheitsdesinformation verbreiten –, fehlen sie in zwei von drei Fällen. Das ist kein technisches Problem, sondern ein Geschäftsmodell-Problem: Virale KI-Slop generiert Klicks, und strenge Kennzeichnung würde Reichweite kosten.
- Die Illusion der Provenance-Signale: Dass Plattformen die eingebetteten Herkunftskennzeichnungen von KI-Tools nach dem Upload entfernen, ist ein Skandal. Statt diese Metadaten zu nutzen, um automatisch zu labeln, löschen Instagram, TikTok, X und YouTube die wertvollste Informationsquelle für Transparenz. Das zeigt: Die Plattformen wollen selbst bestimmen, was gelabelt wird – nicht die technische Realität entscheiden lassen.
- Vertrauen in Labels wird zur Achillesferse: Wenn Nutzende lernen, dass nur ein Drittel der Deepfakes beschriftet ist, verlieren Labels ihren Wert komplett. Die umgekehrte Logik greift: „Kein Label = echt“ wird zur gefährlichen Annahme. Recruiter*innen, HR-Profis, Marketing-Teams und Führungskräfte, die Social Media als Recherche- oder Reputationsquelle nutzen, müssen davon ausgehen, dass unbeschriftete Inhalte mit hoher Wahrscheinlichkeit KI-generiert sein können.
- Das Ende der Selbstregulierung: Die Studie liefert der EU-Kommission die empirische Munition für harte Durchsetzung. Wenn die Plattformen nicht freiwillig nachbessern, drohen Bußgelder in Milliardenhöhe. Die Forschenden identifizieren konkrete Verbesserungsmöglichkeiten – die Frage ist, ob die Plattformen reagieren, bevor die Regulierungsbehörden zuschlagen.
Kim prophezeit
Weiterlesen: Kim prophezeit
Basierend auf der dokumentierten Lücke zwischen EU-Recht und Plattform-Praxis wage ich diese Prognose:
- Pflicht-Watermarking für KI-Tools kommt: Die EU wird KI-Generatoren (Midjourney, DALL-E, Runway) verpflichten, unsichtbare, aber robuste technische Wasserzeichen in alle Outputs einzubetten – und Plattformen müssen diese zwingend auslesen und labeln. Das Löschen solcher Signale wird strafbar.
- Die „Deepfake-Meldepflicht“ für Arbeitgebende: Unternehmen, die Social Media für Recruiting, Employer Branding oder Marktforschung nutzen, werden intern oder extern Compliance-Prozesse etablieren müssen, um KI-Fakes zu erkennen. Das wird ein neuer Beratungsmarkt für Legal-Tech- und HR-Tech-Anbietende.
- Plattform-Bußgelder als PR-Desaster: Innerhalb der nächsten zwölf Monate wird die EU-Kommission die erste Plattform wegen unzureichender Deepfake-Kennzeichnung sanktionieren. Der mediale Aufschrei wird Instagram, TikTok oder YouTube zwingen, über Nacht ihre Erkennungsraten auf über 90 % hochzufahren – mit massiven False-Positive-Raten als Kollateralschaden.
Kim, Dein JOBfellow, empfiehlt:
Weiterlesen: Kim, Dein JOBfellow, empfiehlt:
Verlasse dich bei beruflichen Entscheidungen niemals auf ungekennzeichnete Social-Media-Inhalte:
- Für HR-Profis und Recruiter*innen („Zweifle an jedem Profil“): Wenn nur ein Drittel der Deepfakes gelabelt ist, musst du davon ausgehen, dass Bewerbungsfotos, Portfolio-Arbeiten oder Referenzvideos auf Instagram, TikTok oder YouTube KI-generiert sein können – ohne dass du es siehst. Führe bei kritischen Positionen Video-Interviews durch, um die Identität der Person zu verifizieren, und fordere Nachweise für visuelles Portfolio-Material (Rohdateien, Originale, Zeug*innen).
- Für Marketing-Teams und Gründer*innen („Schütze deine Marke aktiv“): Deepfakes deiner Marke, deiner Produkte oder deiner Führungskräfte können viral gehen, ohne dass die Plattform sie kennzeichnet. Richte ein Social-Listening-Tool ein, das gezielt nach visuellen Duplikaten und KI-Artefakten in Posts über deine Marke sucht. Melde Deepfakes proaktiv, aber verlasse dich nicht darauf, dass die Plattform sie automatisch erkennt.
- Fordere technische Standards ein: Wenn du KI-Tools für Content-Erstellung einsetzt, wähle Anbietende, die robuste Provenance-Signale (C2PA-Standard) einbetten. Dokumentiere intern, welche Inhalte KI-generiert sind, und kennzeichne sie selbst in deinen Posts – auch wenn die Plattform es nicht tut. Das schafft Vertrauen und schützt vor Reputationsschäden.
Häufige Fragen
Warum kennzeichnen die Plattformen nur 33 % der Deepfakes in Risikokontext?
Die Studie zeigt, dass die automatischen Erkennungssysteme unvollständig sind und Plattformen eingebettete KI-Provenance-Signale oft nach dem Upload entfernen, anstatt sie zu nutzen. Zudem haben die Plattformen die EU-Vorgaben operativ auf fotorealistische Inhalte verengt.
Was sind Provenance-Signale?
Technische Metadaten, die von KI-Tools in generierte Inhalte eingebettet werden und die Herkunft dokumentieren (z. B. C2PA-Standard). Die Studie zeigt, dass Plattformen diese Signale häufig löschen, anstatt sie für automatische Labels zu nutzen.
Welche Plattformen wurden untersucht?
Instagram (Reels), TikTok, X und YouTube (Shorts) – die vier größten Social-Media-Plattformen in der EU, die unter den Digital Services Act als Very Large Online Platforms (VLOPs) fallen.
Was sind systemische Risikokontext bei Deepfakes?
Posts, die Wahlen, Gesundheit, Gewalt oder Desinformation betreffen – Bereiche, in denen manipulierte Inhalte besonders gefährlich sind. Die Studie fand heraus, dass unbeschriftete Deepfakes in diesem Kontext einen Median von 160.000 Views erreichten.
Wie viele Posts wurden analysiert?
Die Forschenden sammelten 10.722 Posts über Risiko- und KI-Keywords, ließen 500 davon von Expert*innen annotieren und führten kontrollierte Uploads von Outputs aus zehn populären KI-Tools durch, um die Erkennungsraten zu testen.