TikTok testet KI-Schutz gegen Deepfakes von Creatorn

TikTok testet derzeit ein neues Tool, mit dem Creator KI-generierte Deepfakes ihrer eigenen Person leichter erkennen und melden können. Das Feature ist zunächst als freiwilliger Test (Opt-in) für ausgewählte Creator in den USA verfügbar.Wer teilnehmen möchte, muss seine Identität einmalig verifizieren. Anschließend kann TikTok mithilfe der hinterlegten Gesichtsmerkmale nach KI-generierten Inhalten suchen, die das Aussehen des Creators nachahmen. Werden potenzielle Deepfakes erkannt, können diese einfacher überprüft und gemeldet werden.

Mit dem Test reagiert TikTok auf die zunehmende Verbreitung von KI-generierten Inhalten und den Wunsch vieler Creator nach besseren Möglichkeiten, ihre digitale Identität zu schützen. Gerade für Musiker, DJs und Content Creator, die die Plattform zur Reichweitensteigerung nutzen, könnte ein solcher Schutz künftig an Bedeutung gewinnen.

Aktuell befindet sich das Feature noch in einer Testphase und ist ausschließlich für ausgewählte US-Creator verfügbar. Ob und wann eine breitere Einführung erfolgt, hat TikTok bislang nicht bekannt gegeben.

TikTok testet KI-Schutz vor Deepfakes von Creatorn

TikTok führt einen ersten Test für ein neues KI-Tool ein, das Creator vor missbräuchlich erzeugten Deepfakes schützen soll. Nach einer Identitätsprüfung durchsucht das System die Plattform nach KI-generierten Inhalten, die das Aussehen eines Creators nachahmen. Verdächtige Videos können anschließend direkt gemeldet werden. Der zunächst auf ausgewählte US-Creator beschränkte Test reiht sich in den wachsenden Trend ein, digitale Identitäten und Persönlichkeitsrechte angesichts immer realistischerer KI-Inhalte besser zu schützen. Ähnliche Funktionen hat zuletzt auch YouTube eingeführt.

Meta zieht umstrittene Instagram-KI nach Kritik zurück

Meta hat eine neue Funktion seines KI-Bildgenerators Muse Image wieder deaktiviert – nur wenige Tage nach dem Start. Die Funktion ermöglichte es, öffentlich sichtbare Instagram-Profile als Vorlage für KI-generierte Bilder zu verwenden. Kritiker warnten vor Missbrauch, Deepfakes und mangelnder Einwilligung der Betroffenen.

Nach heftiger Kritik von Datenschutz- und Branchenorganisationen hat Meta die Funktion nun wieder entfernt. Der Fall zeigt einmal mehr, wie wichtig klare Einwilligungs- und Schutzmechanismen für generative KI sind.

Der US-Senat berät über den „NO FAKES Act“, ein Gesetz gegen KI-Deepfakes, das erstmals ein bundesweites Recht auf Stimme und Abbild schaffen könnte. Für die Musik- und Creator-Industrie ist das relevant, da KI-Stimmenklone und nicht autorisierte Inhalte stärker reguliert würden und Plattformen mehr Verantwortung übernehmen müssten.

Für onplug.net ist das besonders wichtig, da sich dadurch die Anforderungen an den Umgang mit KI-generierten Musik- und Artist-Inhalten sowie an Rechte- und Content-Checks deutlich verschärfen könnten.

KI-Deepfakes werden zum Versicherungsrisiko für die Musikbranche

Die rasante Entwicklung von KI-generierten Stimmen beschäftigt nicht mehr nur Künstler, Labels und Rechteinhaber. Zunehmend rücken auch Versicherungen in den Fokus der Diskussion. Hintergrund sind mögliche finanzielle Schäden durch KI-Deepfakes, etwa wenn Stimmen von Künstlern ohne Zustimmung geklont und für betrügerische oder kommerzielle Zwecke eingesetzt werden.

Branchenexperten sehen darin ein wachsendes Geschäftsrisiko, das künftig durch spezielle Versicherungsmodelle abgesichert werden könnte. Die Entwicklung zeigt, wie stark generative KI inzwischen in die Musikwirtschaft eingreift: Was vor wenigen Jahren noch als technologische Zukunftsfrage galt, entwickelt sich zunehmend zu einem konkreten Risiko für Künstler, Unternehmen und Rechteinhaber.

Die Debatte um KI-Deepfakes könnte damit schon bald nicht mehr nur eine Frage des Urheberrechts sein, sondern auch der Risikovorsorge.

Spotify unterstützt jetzt offiziell den US-Gesetzentwurf „NO FAKES Act“, der unerlaubte KI-Deepfakes von Stimmen und Gesichtern verbieten soll. Damit schließt sich der Streamingdienst einer breiten Allianz aus Musik- und Tech-Unternehmen an – darunter Universal Music, Sony Music, Warner Music, Google und OpenAI. Ziel des Gesetzes ist es, Künstler und Nutzer besser vor KI-generierten Imitationen und Identitätsmissbrauch zu schützen.

Der in den USA wieder eingebrachte NO FAKES Act gewinnt an Bedeutung und wurde nun erweitert, um auch Musik-Streaming-Plattformen stärker einzubeziehen. Das Gesetz zielt darauf ab, KI-generierte Stimmen und Deepfakes klarer zu regulieren und Künstler vor unautorisierten Nachbildungen ihrer Stimme oder Identität zu schützen.Plattformen wie Spotify oder YouTube könnten dadurch künftig stärker in die Verantwortung genommen werden, AI-generierte Inhalte schneller zu erkennen und zu entfernen. Gleichzeitig würde das Gesetz Künstlern erstmals einen bundesweiten rechtlichen Schutz gegen KI-basierte Stimmenimitationen geben.Damit wird deutlich, dass sich die Regulierung von KI-Musik nicht nur auf Tools und Lizenzen beschränkt, sondern zunehmend auch auf die Plattformebene ausgedehnt wird. (musically.com)

Wenn Identität zum Geschäftsmodell wird

Was bisher nach Science-Fiction klang, wird gerade Realität: Digitale Abbilder von Künstler lassen sich nicht nur erzeugen, sondern auch gezielt einsetzen. In der Filmbranche tauchen bereits KI-Versionen realer oder verstorbener Persönlichkeiten auf – kontrolliert, lizenziert und kommerziell genutzt. Damit verschiebt sich die zentrale Frage: Es geht nicht mehr nur darum, Inhalte zu schützen – sondern den Menschen selbst.Gesicht, Stimme, Präsenz – all das wird zu etwas, das reproduzierbar ist.
Und genau dadurch entsteht ein neuer Markt. Einer, in dem Identität nicht nur geschützt, sondern aktiv verwertet werden kann.

Die Plattformen und Rechteinhaber schaffen gerade die Grundlage dafür: Systeme, die erkennen, tracken und zuordnen können, wem ein digitales Abbild gehört. Was als Schutz vor Deepfakes beginnt, entwickelt sich damit schnell zu einer Infrastruktur für Lizenzierung.
Das eröffnet neue Möglichkeiten – aber auch neue Abhängigkeiten. Denn wer die Technologie kontrolliert, kontrolliert auch, wie Identität sichtbar, nutzbar und monetarisierbar wird. Für Artists bedeutet das eine grundlegende Verschiebung: Nicht nur ihre Musik ist wertvoll – sondern sie selbst. Und vielleicht ist genau das die eigentliche Disruption: Dass das eigene Ich zum skalierbaren Asset wird.