rKI-generierte Bilder und Videos von Prominenten verbreiten sich millionenfach auf Instagram – oft ohne deren Zustimmung und mit täuschend echter Wirkung. Betroffen sind unter anderem Taylor Swift, Mia Goth und Scarlett Johansson. Ein besonders virales Fake-Bild von Goth wurde sogar von Medien aufgegriffen und von Googles KI-Suche als realer Vorgang dargestellt.

Meta reagierte erst, nachdem The Verge mehrere Accounts mit gefälschten Promi-Inhalten untersucht hatte, und entfernte einige davon. Der Fall zeigt, wie leicht sich digitale Identitäten missbrauchen lassen und wie schwer Plattformen mit der Kontrolle KI-generierter Inhalte hinterherkommen.

Quelle: The Verge – Nobody is safe from celebrity AI deepfakes

Eine ziemlich beeindruckende Zahl: Sony Music hat bis Ende September die Entfernung von mehr als 260.000 KI-generierten Tracks beantragt, die Künstler des Labels imitieren. Dazu gehören unter anderem Harry Styles, Adele und Michael Jackson. Im März waren es noch rund 135.000.

Das ist ein gutes Thema, weil es zeigt, wie groß das Problem inzwischen tatsächlich ist: AI-Artist-Impersonation ist längst kein Randphänomen mehr.

Sony Music hat nach eigenen Angaben inzwischen die Entfernung von mehr als 260.000 KI-generierten Deepfake-Tracks von Streaming-Plattformen beantragt. Noch Ende März waren es rund 135.000. Betroffen sind unter anderem Künstler wie Harry Styles, Adele, Britney Spears, Queen und Michael Jackson.

Sony spricht von einem Problem, das inzwischen in großem Maßstab auftrete: KI-generierte Songs imitieren Stimmen und Persönlichkeiten von Künstlern ohne deren Zustimmung, täuschen Fans und können die Rechte und Einnahmen der Originalkünstler beeinträchtigen.Besonders bemerkenswert ist die Geschwindigkeit der Entwicklung. Sony räumt ein, dass der Kampf gegen die Inhalte zunehmend schwieriger wird – auch weil entfernte Tracks offenbar erneut auftauchen können.

260.000 Takedowns in sechs Monaten zeigen: KI-Deepfakes sind längst kein Randphänomen mehr, sondern eine konkrete Herausforderung für Künstler, Labels und Streaming-Plattformen.

Quelle: MusicRadar

Seit dem 2. August gelten in der EU neue Transparenzregeln des AI Acts. Wer KI-generierte Inhalte veröffentlicht – etwa Songs, Stimmen, Musikvideos oder Deepfakes – muss diese in bestimmten Fällen entsprechend kennzeichnen. Die neuen Vorgaben sollen für mehr Transparenz sorgen und Missbrauch verhindern. Für KI-Musiker und Content Creator bedeutet das: Beim Einsatz von KI lohnt sich künftig ein genauer Blick auf die Kennzeichnungspflichten.

Angesichts immer leistungsfähigerer KI-Systeme suchen prominente Künstler:innen nach neuen Wegen, ihre Stimme vor unbefugter Nachahmung zu schützen. Zunehmend werden markante Sprachaufnahmen, Slogans oder charakteristische Phrasen als Marken angemeldet, um bundesweiten Markenschutz zu erhalten und einfacher gegen KI-generierte Deepfakes vorgehen zu können.

Der Ansatz gilt jedoch als juristisches Neuland. Während das Markenrecht eigentlich dem Schutz von Herkunftskennzeichen dient, soll es nun auch bei der Kontrolle von Stimmen und KI-Imitationen helfen. Parallel arbeiten Gesetzgeber in den USA an neuen Regelungen wie dem NO FAKES Act, um den Schutz von Stimme und Identität im KI-Zeitalter zu stärken.

TikTok testet derzeit ein neues Tool, mit dem Creator KI-generierte Deepfakes ihrer eigenen Person leichter erkennen und melden können. Das Feature ist zunächst als freiwilliger Test (Opt-in) für ausgewählte Creator in den USA verfügbar.Wer teilnehmen möchte, muss seine Identität einmalig verifizieren. Anschließend kann TikTok mithilfe der hinterlegten Gesichtsmerkmale nach KI-generierten Inhalten suchen, die das Aussehen des Creators nachahmen. Werden potenzielle Deepfakes erkannt, können diese einfacher überprüft und gemeldet werden.

Mit dem Test reagiert TikTok auf die zunehmende Verbreitung von KI-generierten Inhalten und den Wunsch vieler Creator nach besseren Möglichkeiten, ihre digitale Identität zu schützen. Gerade für Musiker, DJs und Content Creator, die die Plattform zur Reichweitensteigerung nutzen, könnte ein solcher Schutz künftig an Bedeutung gewinnen.

Aktuell befindet sich das Feature noch in einer Testphase und ist ausschließlich für ausgewählte US-Creator verfügbar. Ob und wann eine breitere Einführung erfolgt, hat TikTok bislang nicht bekannt gegeben.

TikTok führt einen ersten Test für ein neues KI-Tool ein, das Creator vor missbräuchlich erzeugten Deepfakes schützen soll. Nach einer Identitätsprüfung durchsucht das System die Plattform nach KI-generierten Inhalten, die das Aussehen eines Creators nachahmen. Verdächtige Videos können anschließend direkt gemeldet werden. Der zunächst auf ausgewählte US-Creator beschränkte Test reiht sich in den wachsenden Trend ein, digitale Identitäten und Persönlichkeitsrechte angesichts immer realistischerer KI-Inhalte besser zu schützen. Ähnliche Funktionen hat zuletzt auch YouTube eingeführt.

Meta hat eine neue Funktion seines KI-Bildgenerators Muse Image wieder deaktiviert – nur wenige Tage nach dem Start. Die Funktion ermöglichte es, öffentlich sichtbare Instagram-Profile als Vorlage für KI-generierte Bilder zu verwenden. Kritiker warnten vor Missbrauch, Deepfakes und mangelnder Einwilligung der Betroffenen.

Nach heftiger Kritik von Datenschutz- und Branchenorganisationen hat Meta die Funktion nun wieder entfernt. Der Fall zeigt einmal mehr, wie wichtig klare Einwilligungs- und Schutzmechanismen für generative KI sind.

Für onplug.net ist das besonders wichtig, da sich dadurch die Anforderungen an den Umgang mit KI-generierten Musik- und Artist-Inhalten sowie an Rechte- und Content-Checks deutlich verschärfen könnten.

Die rasante Entwicklung von KI-generierten Stimmen beschäftigt nicht mehr nur Künstler, Labels und Rechteinhaber. Zunehmend rücken auch Versicherungen in den Fokus der Diskussion. Hintergrund sind mögliche finanzielle Schäden durch KI-Deepfakes, etwa wenn Stimmen von Künstlern ohne Zustimmung geklont und für betrügerische oder kommerzielle Zwecke eingesetzt werden.

Branchenexperten sehen darin ein wachsendes Geschäftsrisiko, das künftig durch spezielle Versicherungsmodelle abgesichert werden könnte. Die Entwicklung zeigt, wie stark generative KI inzwischen in die Musikwirtschaft eingreift: Was vor wenigen Jahren noch als technologische Zukunftsfrage galt, entwickelt sich zunehmend zu einem konkreten Risiko für Künstler, Unternehmen und Rechteinhaber.

Die Debatte um KI-Deepfakes könnte damit schon bald nicht mehr nur eine Frage des Urheberrechts sein, sondern auch der Risikovorsorge.