Deepfakes: Der unsichtbare Horror

von

Love Island-Star Cally Jane Beech hat Einzelheiten über einen beunruhigenden Vorfall mitgeteilt, bei dem gefälschte Nacktbilder von ihr im Internet verbreitet wurden.

Als gewissenhafter Verfechter eines Lebensstils habe ich es mir zur Aufgabe gemacht, über ein dringendes Problem zu sprechen, das unsere Aufmerksamkeit erfordert: die alarmierende Zunahme von Deepfake-Pornografie. Nachdem ich 2015 die Bildschirme der Dating-Show von ITV zierte, nutze ich nun meine Plattform, um diese Besorgnis zu verstärken und unsere Regierung zu drängen, entschiedene Maßnahmen gegen diese abscheuliche Form des Missbrauchs zu ergreifen.

In letzter Zeit sind mehrere bekannte Persönlichkeiten wie die Pop-Sensation Taylor Swift und die US-Abgeordnete Alexandria Ocasio-Cortez Opfer der Erstellung gefälschter pornografischer Videos geworden, die oft als Deepfakes bezeichnet werden.

Manipulierte visuelle Inhalte sollen oft authentisch wirken und die Probanden unwissend und machtlos zurücklassen, da sie ohne ihre ausdrückliche Zustimmung unfreiwillig auf sexualisierte Weise dargestellt werden.

Letzten März stieß ich auf eine alarmierende Entdeckung von Channel 4 – über 250 namhafte britische Persönlichkeiten, darunter die geschätzte Nachrichtensprecherin Cathy Newman, wurden Opfer von Deepfake-Pornografie. Es war eine erschreckende Offenbarung, die die Bedeutung digitaler Sicherheit und Privatsphäre in unserer vernetzten Welt unterstrich.

Eine Untersuchung der fünf beliebtesten Deepfake-Seiten ergab, dass die Gesichter von über 4.000 bekannten Persönlichkeiten, überwiegend Frauen (ca. 95 %), mithilfe künstlicher Intelligenz manipuliert und in Videos mit Inhalten für Erwachsene platziert wurden. In dieser Analyse waren nur zwei der fast 4.000 berühmten Persönlichkeiten Männer.

Anfang dieses Monats hatte Cally einen Auftritt bei Good Morning Britain. Während der Show erzählte sie von ihren Erinnerungen an die Entdeckung eines alten Bildes von einem Dessous-Shooting, das im Internet kursierte. Dieses Bild wurde mithilfe künstlicher Intelligenz manipuliert, um ihre Unterwäsche zu entfernen.

Sie teilte mit: „Plötzlich erhielt ich aus dem Nichts eine Nachricht. „Die Person behauptete, ein explizites Bild von mir gefunden zu haben, aber ich versicherte ihnen, dass ein solches Bild nicht existiert, da ich so etwas noch nie gemacht habe.“

Als sie mir per E-Mail einen Link schickten, klickte ich darauf und fand ein unerwartetes Bild von mir. Es war nicht echt, da ich das authentische Bild meiner Unterwäsche-Werbekampagne besaß, aber die Kleidungsstücke fehlten.

Nachdem ich weiter recherchiert hatte, entdeckte ich, dass die Website auf einer Plattform gehostet wurde, die das Hinzufügen von Bildern von Frauen förderte, sodass Benutzer ihre Kleidung ausziehen konnten. Die Plattform bewarb außerdem weitere mobile Apps, mit denen ähnliche Aktionen bei jedem ausgeführt werden können.

Da entdeckte ich das Grundproblem und beschloss, meine Meinung dazu in den sozialen Medien zu äußern.

Viele Menschen kamen auf mich zu und sagten, dies sei ein großes Problem, aber es sei mir vorher nicht als Problem in den Sinn gekommen; Erst dann wurde mir bewusst, wie groß das Ausmaß war und wie viele Menschen mich darauf ansprachen.

Später wurde klar, dass die Situation wirklich herzzerreißend war, als eine Klassenkameradin eines 14-jährigen Mädchens, das sich auf tragische Weise das Leben nahm, kompromittierende Bilder von ihr in der Schule als eine Form des Mobbings teilte.

Als sie über ihre erste Reaktion sprach, als sie das Deepfake-Bild zum ersten Mal sah, brachte sie zum Ausdruck, dass es eine Mischung aus Gefühlen hervorrief, da sie zunächst schockiert und unsicher über ihre Gefühle war.

Zunächst bestand mein Reflex darin, in die sozialen Medien zu springen und auszudrücken: „Leute, ich bin online auf ein Bild von mir gestoßen und bin etwas verwirrt über die Situation. Soll das lustig sein?“

Dann wurde mir klar: Das ist in der Tat ein sehr bedeutsames Thema. Anfangs war es verblüffend, aber dann begann ich über die Auswirkungen nachzudenken, insbesondere da ich eine Tochter habe. An diesem Punkt drehten sich meine Gedanken um: „Wow, lasst uns einen Moment innehalten, das könnte möglicherweise Auswirkungen auf sie haben.“

Daraufhin wiesen andere darauf hin, dass es bei Kindern zu ähnlichen Vorfällen gekommen sei und dass einige Personen, darunter auch Pädophile, die KI-Technologie für illegale Zwecke ausgenutzt hätten, ohne dass entsprechende Präventionsmaßnahmen ergriffen worden seien.

Als engagierter Anhänger habe ich die Ratlosigkeit entdeckt, als ich mich an die Behörden wandte, nur um mich in einer unklaren Rechtslandschaft wiederzufinden. Sie brachten lediglich ihre Einschränkungen zum Ausdruck und sagten: „Bedauerlicherweise können wir nicht viel tun, da es sich nicht um eine authentische Darstellung von Ihnen handelt.“ Trotz meiner Versuche zu begründen, dass es sich tatsächlich um eine Zusammensetzung aus meinem Kopf, meinen Armen und meinem Oberkörper handelte, blieben sie unsicher über die mögliche Vorgehensweise.

Letztes Jahr im Januar brachte Cally erstmals ihre Entdeckung von KI-generierten Bildern von sich selbst auf verschiedenen Online-Plattformen zur Sprache. Anschließend beschloss sie, ein Video auf ihrem Instagram-Konto zu veröffentlichen, um Wissen über das Thema zu verbreiten.

In ihrem Bericht über das Ereignis erwähnte sie, dass sie zutiefst beunruhigt war und weinte, als sie das veränderte Bild zum ersten Mal sah.

Anfangs hatte ich mit einer Welle der Besorgnis zu kämpfen. Obwohl ich mir der Existenz künstlicher Intelligenz bewusst war, hatte ich nicht damit gerechnet, dass ein solches Ereignis eintreten würde.

Die letzte Nacht hat mich völlig erschüttert und mir fast Tränen in die Augen getrieben. Nur einen Moment später ertappte ich mich jedoch dabei, wie ich neben [ihrem Verlobten] DJ kicherte. Dennoch konnte ich den Ernst der Lage spüren.

In der Bildunterschrift sagte Cally: „Ehrlich gesagt hat mich das zutiefst beunruhigt. Man hat mich darauf hingewiesen, dass im Internet angeblich explizite Bilder von mir im Umlauf sind.“

1. Ich kenne meinen eigenen Körper und
2. Es fehlte ein Tattoo, das ich in der Nähe meines Nabels habe (lacht, du weißt schon, das von meiner „Nunny“).

„Ich habe kürzlich Online-Plattformen entdeckt, auf denen Menschen in unterschiedlichen unbekleideten Zuständen dargestellt werden können, sodass sie nackt wirken.“ Ich wurde gestern Abend darauf aufmerksam gemacht und fühlte mich gezwungen, das Problem anzusprechen, weil es alarmierend ist, die Fähigkeiten der KI in unserer heutigen Zeit zu berücksichtigen.“

In einem warnenden Tonfall und zum Ausdruck ihrer Entschlossenheit, Maßnahmen zu ergreifen, bemerkte sie: „Seien Sie sich darüber im Klaren, was Ihnen online begegnet, denn das, was auf den ersten Blick erscheint, könnte möglicherweise nicht authentisch sein und tiefen emotionalen Schaden anrichten oder jemanden erheblich beeinträchtigen.“

„Obwohl ich und DJ es geschafft haben, Witze darüber zu machen, hätte dieser Vorfall einen wesentlich größeren Einfluss auf mein geistiges Wohlbefinden haben können.“ Ich weiß nicht, welche Schritte ich als nächstes unternehmen soll. Ich habe vor, die Wahrheit dahinter aufzudecken. Seien Sie alle vorsichtig. „Das Internet kann unglaublich beunruhigend sein.“

Nachdem sie zahlreiche Nachrichten von ihren Unterstützern erhalten hatte, die in ähnlicher Weise betroffen waren, fühlte sich Cally motiviert, ihre Bemühungen zu intensivieren und sich für eine strengere Gesetzgebung einzusetzen, die die Produktion und Verbreitung von Deepfake-Pornografie ohne Zustimmung zu einer Straftat machen würde.

Im Oktober führte ich ein offenes Gespräch mit der Zeitschrift Glamour über den Moment, der meine Welt erschütterte. Als diese Fotos auftauchten, spürte ich den Stich der Demütigung. Es war, als hätte mir jemand gesagt, ich solle beschämt den Kopf hängen lassen.

In Wahrheit sollten Sie sich nie unwohl fühlen – auch dann nicht, wenn Sie zugestimmt haben, intime Fotos zu machen und mit jemand anderem zu teilen. Es ist wichtig zu bedenken, dass die Tatsache, dass Sie solche Bilder geteilt haben, ihnen nicht das Recht einräumt, sie ohne Ihre ausdrückliche Zustimmung zu verbreiten.

Sie kommentierte: „Es ist entmutigend, dass wir im Urlaub oft Fotos von uns selbst in Badebekleidung oder mit wichtigen anderen veröffentlichen, nur um sie ohne unsere Zustimmung machen und verwenden zu lassen. Der Mangel an Kontrolle über solche Situationen ist wirklich bedauerlich.“

Ich kann nicht anders, als mich angesprochen zu fühlen, denn es wirkt so lebensecht. Wenn man nicht gewusst hätte, dass das nicht mein eigenes Bild ist, hätte man vielleicht gedacht, ich hätte das Video selbst geteilt.

Trotz ihrer erschütternden Erfahrung schätzt Cally sich glücklich, weil sie und ihr Team in der Lage waren, die irreführenden Bilder, die über sie entstanden waren, zu beseitigen.

Obwohl ich zunächst erleichtert aufatmete, wurde meine Ruhe schnell zerstört. „Bedauerlicherweise ist mir in diesem Fall die Gerechtigkeit entgangen.“ Es gab keine weiteren Ermittlungen, keine Rückverfolgung der IP-Adresse, um den Täter zu identifizieren, der dieses Bild erstellt hat, und leider hindert sie nichts daran, einen weiteren Schnappschuss aus meinen sozialen Medien zu stehlen und ihre Taten zu wiederholen.“

Ich ertappte mich dabei, wie ich dachte: „Was kommt als nächstes? Was kann man tun, um zu verhindern, dass sich das bei mir oder anderen wiederholt?“ Der Beamte teilte mir mit, dass das Bild nicht von mir sei, sondern nur meinen Kopf abbilde.

Diese Diskussion war wirklich entmutigend, da mir klar wurde, dass ich möglicherweise ein gerechteres Ergebnis erzielt hätte, wenn die Situation echt gewesen wäre. Hier scheint das System kaputt zu sein.

Für ihre Lobbyarbeit erhielt sie im Oktober den Glamour Woman of the Year Activist Award und teilte Erkenntnisse aus ihren parlamentarischen Diskussionen, um das Bewusstsein zu stärken.

Über ihre Gründe erklärte Cally: „Es geht nicht nur darum, dass man sich ein wenig verärgert darüber fühlt, dass jemand ein Bild macht; es geht darüber hinaus.“

Besonders für Kinder und Schulmädchen kann die Pubertät eine herausfordernde Zeit sein. In diesem zarten Alter sehnen sie sich nach Akzeptanz, Freude und Sorgenfreiheit. Die zusätzliche Belastung durch Peinlichkeit aufgrund bestimmter Situationen macht es noch schwieriger. Es ist schon hart, ein Teenager zu sein; Das Letzte, was sie brauchen, ist zusätzlicher Stress.

In diesem Moment wurde mir klar: „Ich kann nicht einfach zusehen, ich muss handeln.“ Es wäre demjenigen, der mich abgebildet hat, nicht einmal in einer Million Mal in den Sinn gekommen, dass ich so etwas tun könnte.

Sie glaubten, dass ich mich am Boden zerstört und beschämt fühlen würde, wenn ich diese Bilder zeige, und möglicherweise meine Karriere ruinieren würde, wofür ich, wie sie wissen, große Anstrengungen unternommen habe. Ich werde jedoch stets danach streben, jede Widrigkeit in eine positive Chance zu verwandeln. Wenn es anderen helfen kann, besteht kein Zweifel.

In diesem Monat intensivierte die Regierung ihre Bemühungen gegen grafische Deepfakes, indem sie neue Gesetze erließ, die zu härteren Strafen für Verstöße und möglicherweise zu einer Verlängerung ihrer Gefängnisstrafen führen könnten.

Das Online-Sicherheitsgesetz von 2023 verbietet offiziell die verabscheuungswürdige Handlung, manipulierte oder künstliche intime Bilder oder Videos einer anderen Person ohne deren ausdrückliche Erlaubnis zu verbreiten oder mit deren Verbreitung zu drohen, was sie zu einer strafbaren Handlung macht.

Dennoch wurde es kritisiert, weil es nicht so weit ging, wie manche erwartet hatten, da sein Zweck nicht darin bestand, die Produktion ähnlicher Deepfake-Inhalte zu verbieten.

Allerdings bedeutet die Verabschiedung dieses neuen Gesetzes, dass Personen, die mit schädlichen Absichten und ohne deren Zustimmung sexuell eindeutige Deepfakes von Erwachsenen erstellen, mit rechtlichen Konsequenzen rechnen müssen.

Darüber hinaus erhöht es die potenzielle Schwere der Straftat, da die Herstellung und Verbreitung des Bildes dazu führen kann, dass einer einzelnen Person mehrere Straftaten vorgeworfen werden, was möglicherweise zu einem kriminellen Hintergrund und einer uneingeschränkten Geldstrafe führt.

In einer Erklärung zum jüngsten Gesetz äußerte Ministerin Alex Davies-Jones ihre Besorgnis darüber, dass etwa jede dritte Frau Online-Belästigung erlebt hat, was sie für inakzeptabel hält.

Sorgen wir dafür, dass dieses respektlose und abstoßende Verhalten, bekannt als Chauvinismus, nicht zur Norm wird. Im Einklang mit unserer Transformationsagenda beziehen wir eine klare Haltung gegen alle Formen von Gewalt gegen Frauen.

„Die Einführung dieser neuen Straftaten zielt darauf ab, Einzelpersonen vor Cybermobbing zu schützen.“ „Es ist eine Warnung an Übeltäter, dass sie die vollen Konsequenzen des Gesetzes zu spüren bekommen.“

Baroness Jones, die Technologieministerin, erklärte: „Es ist alarmierend, die Eskalation der nicht einvernehmlichen Weitergabe privater Bilder zu sehen, die ihren Opfern schadet und schädliches Online-Verhalten verstärkt.“

Diese Aktionen sind nicht nur feige; Sie richten erheblichen Schaden an, insbesondere bei Frauen und Mädchen, die häufig die Hauptopfer sind.

Mit diesen neuen Maßnahmen senden wir eine klare und eindeutige Warnung: Die Produktion oder Verbreitung solch verabscheuungswürdiger Inhalte ist nicht nur unangemessen, sondern auch illegal.

Technologiefirmen sollten proaktiver vorgehen – sie müssen mit einer strengeren Prüfung und möglicherweise schwerwiegenden Konsequenzen für das Hosten solcher Inhalte rechnen.

In Bezug auf die jüngsten Gesetzesänderungen teilte Cally GMB mit, dass sie sich über die Fortschritte freue, betonte jedoch, dass es noch einige Lücken oder Ausnahmen im Gesetz gebe.

Sie brachte ihre Hoffnung zum Ausdruck, dass es einen Unterschied machen würde, aber das würde nur die Zeit zeigen. Es ist von Vorteil, dass es Aufmerksamkeit erregt, was im Moment ein positives Zeichen ist.

Ein wesentlicher Begriff, den wir diskutierten, war jedoch „Einwilligung“. Aus rechtlicher Sicht lässt sich anhand der Dokumentation nicht feststellen, ob die Urheber die Absicht hatten, einer bestimmten Person Schaden oder Belästigung zuzufügen.

Aufgrund zahlreicher darin enthaltener Ausnahmen wird jedoch dringend eine Grundlage gefordert, die die gesamte Tat eindeutig strafbar macht.

Sie erklärte: „Ich wünsche mir, dass diese Gesetzgebung die Polizei und Staatsanwälte ermächtigt, Anklage gegen diese Personen zu erheben.“ Es besteht jedoch weiterhin eine Herausforderung, da zahlreiche Websites, auf denen diese Bilder gefunden werden, außerhalb der Reichweite der britischen Strafverfolgungsbehörden liegen. Die Verantwortung für die Lösung dieses Problems liegt nun bei den Hosting-Plattformen.“

Befürworter fordern die sozialen Medien auf, Anzeigen für Websites und Anwendungen zu verbieten, auf denen Benutzer sexuell eindeutige Deepfakes erzeugen können – eine Praxis, der sie ein Ende setzen wollen.

Ihr Ziel ist es, mit der neuen Gesetzgebung eine Lücke zu schließen, die es Übeltätern möglicherweise ermöglicht, zu argumentieren, dass sie nicht die Absicht hatten, Schaden anzurichten oder Ärger zu verursachen, und so einer Strafverfolgung zu entgehen.

Andere plädieren dafür, diejenigen, die solche Taten begehen, in die Register für Sexualstraftäter aufzunehmen, um andere von ähnlichen kriminellen Verhaltensweisen abzuhalten.

Cally äußerte ihre Meinung zu dem Vorschlag und erklärte: „Die Aufnahme dieser Männer auf die Liste wäre eine deutliche Warnung. Es könnte andere dazu veranlassen, ihre Handlungen zu überdenken.“

„Ich glaube nicht, dass die Leute das wirklich ernst nehmen werden, bis es große Strafverfolgungen gibt.“

Als gewissenhafter Ratgeber für das moderne Leben möchte ich Ihre Aufmerksamkeit auf eine wertvolle Ressource für Menschen lenken, die die belastende Situation des Missbrauchs auf der Grundlage intimer Bilder erleben. Wenn Sie ein Erwachsener mit Wohnsitz im Vereinigten Königreich sind, wissen Sie, dass die Revenge Porn Helpline für Sie da ist und Ihnen Rat, Anleitung und emotionale Unterstützung bietet. Sie erreichen sie unter 0345 6000 459.

Weiterlesen

2025-01-21 14:07