In einem aufsehenerregenden Vorfall sind explizite, von KI generierte Bilder des globalen Superstars Taylor Swift auf Social Media-Plattformen viral gegangen und haben ernsthafte Bedenken über das dunkle Potenzial der Mainstream-Technologie der künstlichen Intelligenz geweckt. Der Vorfall wirft ein Licht auf die Leichtigkeit, mit der KI überzeugend realistische – und in diesem Fall schädliche – Bilder erzeugen kann.
Diese gefälschten Bilder von Taylor Swift, die vor allem auf der früher als Twitter bekannten und jetzt als X bezeichneten Social Media-Plattform verbreitet wurden, zeigten die Sängerin in kompromittierenden Positionen. Schockierenderweise erreichten diese Bilder mehrere Millionen Aufrufe, bevor sie von verschiedenen sozialen Plattformen entfernt wurden und einen bleibenden digitalen Fußabdruck hinterließen.
Obwohl die Bilder von den gängigen Social-Media-Websites entfernt wurden, sorgt die Natur des Internets dafür, dass sie wahrscheinlich weiterhin auf weniger regulierten Kanälen kursieren werden, was der Künstlerin und ihren Fans weiterhin Kummer bereitet.
Der Sprecher von Taylor Swift hat sich nicht zu dem Vorfall geäußert. X hat wie viele andere große soziale Medienplattformen Richtlinien, die das Teilen von synthetischen, manipulierten oder aus dem Zusammenhang gerissenen Medien, die Menschen verwirren und Schaden anrichten könnten, ausdrücklich verbieten. Das Unternehmen hat jedoch nicht auf Anfragen von CNN zu diesem speziellen Vorfall reagiert.
Diese beunruhigende Episode kommt zu einer Zeit, in der die Vereinigten Staaten auf ein Jahr der Präsidentschaftswahlen zusteuern, was die Besorgnis über den möglichen Missbrauch von KI-generierten Bildern und Videos für Desinformationskampagnen erhöht. Experten für digitale Ermittlungen warnen davor, dass die Nutzung generativer KI-Tools zur Erstellung schädlicher Inhalte, die sich gegen Personen des öffentlichen Lebens richten, auf dem Vormarsch ist und sich auf den Plattformen der sozialen Medien rasant ausbreitet.
Ben Decker, Betreiber von Memetica, einer Agentur für digitale Ermittlungen, weist darauf hin, dass es den Unternehmen der sozialen Medien an effektiven Plänen zur angemessenen Überwachung solcher Inhalte fehlt. So hat X beispielsweise sein Team für die Moderation von Inhalten erheblich reduziert und verlässt sich weitgehend auf automatisierte Systeme und die Meldung von Nutzern und wird derzeit in der EU wegen seiner Praktiken zur Moderation von Inhalten untersucht.
In ähnlicher Weise hat Meta, die Muttergesellschaft von Facebook, ihre Teams, die gegen Desinformations- und Belästigungskampagnen auf ihren Plattformen kämpfen, reduziert. Diese Aktionen geben Anlass zur Sorge, insbesondere vor den Wahlen 2024 in den USA und auf der ganzen Welt, wo Desinformationskampagnen erhebliche Folgen haben können.
Die Herkunft der KI-generierten Taylor Swift-Bilder bleibt unklar, obwohl einige auf Plattformen wie Instagram und Reddit gefunden wurden. X scheint jedoch die wichtigste Plattform zu sein, auf der diese Bilder weit verbreitet sind.
Dieser Vorfall fällt auch mit der wachsenden Popularität von KI-Generierungs-Tools wie ChatGPT und Dall-E sowie einer breiteren Welt von unmoderierten KI-Modellen zusammen, die auf Open-Source-Plattformen verfügbar sind. Decker argumentiert, dass diese Situation die Fragmentierung bei der Moderation von Inhalten und der Verwaltung von Plattformen verdeutlicht. Wenn nicht alle Beteiligten, einschließlich KI-Unternehmen, Social-Media-Plattformen, Regulierungsbehörden und die Zivilgesellschaft, an einem Strang ziehen, wird sich die Verbreitung solcher Inhalte wahrscheinlich fortsetzen.
Trotz des erschütternden Charakters dieses Ereignisses kann es als Katalysator dienen, um die wachsenden Bedenken im Zusammenhang mit KI-generierten Bildern zu zerstreuen. Swifts treue Fangemeinde, die als „Swifties“ bekannt ist, brachte ihre Empörung in den sozialen Medien zum Ausdruck und rückte das Thema in den Vordergrund. So wie frühere Vorfälle im Zusammenhang mit Swift zu gesetzgeberischen Bemühungen geführt haben, könnte dieser Vorfall sowohl die Gesetzgeber als auch die Technologieunternehmen zum Handeln veranlassen.
Die Technologie, die die Erstellung dieser Bilder erleichtert hat, wurde auch für die Weitergabe expliziter Inhalte ohne Zustimmung verwendet, was derzeit in neun US-Bundesstaaten illegal ist. Dieses gestiegene Bewusstsein unterstreicht den dringenden Bedarf an umfassenden Maßnahmen, um die potenziellen negativen Folgen von KI-generierten Inhalten zu bekämpfen.
