Teilen Sie Fotos Ihrer Kinder? Vielleicht nicht, nachdem Sie diese Deepfake-Werbung gesehen haben

Eine neue KI-generierte Video-Werbekampagne, die Millionen von Aufrufen in den sozialen Medien erzielt, könnte viele Eltern dazu veranlassen, zu überdenken, welche Informationen sie öffentlich über ihre Kinder preisgeben.

Das Video der Deutschen Telekom verwendet die neueste Technologie der künstlichen Intelligenz, um eine 9-Jährige, die sie Ella nennen und von einem Schauspieler gespielt wird, virtuell altern zu lassen, um zu veranschaulichen, wie der digitale Fußabdruck eines Kindes potenziell missbraucht werden kann, um dessen Leben zu schädigen.

„Ich weiß, für dich sind diese Bilder nur Erinnerungen, aber für andere sind es Daten“, erzählt die von der KI erzeugte Ella dem Paar, das in einem inszenierten sozialen Experiment ihre Eltern spielt. „Und für mich vielleicht der Beginn einer schrecklichen Zukunft.“

Es wird beschrieben, dass Ellas Eltern in dem Video, die ebenfalls von Schauspielern gespielt werden, oft online über ihr Leben posten und unbeschwerte Momente teilen, ohne sich des potenziellen Schadens bewusst zu sein, der ihr in Zukunft dadurch entstehen könnte.

Obwohl es sich bei dem Video um eine Fälschung handelt, halten einige Experten die warnende Botschaft für sehr real.

„Sobald ein Bild online geteilt wird, kann es schwierig sein, zu kontrollieren, wo es landet“, erklärte Dr. Rebecca Portnoff, Leiterin der Datenwissenschaft bei Thorn, einer gemeinnützigen Organisation, die die Verbreitung sexuellen Kindesmissbrauchs im Internet bekämpft, in einem Interview mit ABC Nachricht.

Die Kampagne dokumentiert die verschiedenen potenziellen Gefahren einer übermäßigen Weitergabe der Daten Ihrer Kinder, von Online-Mobbing über Identitätsdiebstahl bis hin zur Erstellung von Material zum sexuellen Missbrauch von Kindern (CSAM).

„Böse Schauspieler nutzen eine Vielzahl von Technologien und Diensten zur Inhaltsmanipulation, um harmlose Fotos und Videos zu manipulieren, meist aus dem Social-Media-Konto eines Kindes oder im offenen Web, um diese Inhalte zu sexualisieren“, fügte Portnoff hinzu.

Während diese Gefahren bereits in der Vergangenheit dokumentiert wurden, werden die Risiken durch die zunehmende Verbreitung und Zugänglichkeit von KI noch verschärft. In Kombination mit einer Fülle öffentlich verfügbarer Daten erhalten Kriminelle dadurch mehr Inhalte, mit denen sie arbeiten können.

„Sharenting“ ist ein Begriff, der manchmal verwendet wird, wenn Eltern Inhalte über ihre Kinder online teilen. Es sei eine einfache und leicht zugängliche Möglichkeit für Eltern, miteinander in Kontakt zu treten, erklärten Experten des Boston Children's Digital Wellness Lab, die die möglichen Auswirkungen von Sharenting untersucht haben.

Diese Experten wiesen auf eine Schätzung der Barclays Bank hin, dass bis 2030 7,4 Millionen Vorfälle von Identitätsbetrug pro Jahr damit in Zusammenhang stehen könnten, dass Eltern zu viel persönliche Daten online weitergeben.

Wie die Kampagne der Deutschen Telekom zeigt, ermöglicht die generative KI, glaubwürdige Nachbildungen des Abbilds Ihres Kindes von der Stimme bis zur Figur zu erstellen.

Die Kampagne erläutert auch, wie KI-Algorithmen automatisch Bilder von Kindern identifizieren und sammeln können und wie daraus dann Profile der Kinder erstellt werden können, die für Werbezwecke verwendet oder sogar pornografische Inhalte erstellt werden können.

Experten wie Portnoff sagen, dass KI es Raubtieren einfacher macht, realistisches Material aus öffentlich verfügbaren Bildern zu erstellen oder völlig neues Material zu erstellen.

Gleichzeitig haben Organisationen wie Thorn auch Algorithmen für maschinelles Lernen entwickelt, um Tools zu entwickeln, die CSAM erkennen, entfernen und melden.

„Während sich die Welt der sozialen Medien ständig weiterentwickelt, können Eltern danach streben, ein Gleichgewicht zwischen der Kontaktaufnahme mit Freunden und der Familie und der Achtung ihrer Kinder als Individuen zu finden, die mit den Folgen eines Online-Lebens klarkommen müssen“, fordern Experten von Boston Children's Digital Wellness-Labor.

Wie Eltern diese Balance finden könnten, ist die Weitergabe von Fotos und Inhalten nur in privaten Alben mit Familie und Freunden und nicht öffentlich. Dies ist eine Möglichkeit, gleichzeitig die Privatsphäre Ihres Kindes zu schützen und Risiken zu minimieren.

Portnoff hatte auch einige Vorschläge, wie Familien Kinder über Online-Sicherheit aufklären können.

„Eltern können früh und oft mit ihren Kindern über Online-Sicherheit sprechen und zu Hause ein offenes und urteilsfreies Umfeld fördern. Sie können daran arbeiten, zu verstehen, welche Apps, sozialen Netzwerke und Online-Dienste ihr Kind nutzt und welche Datenschutzkontrollen es gibt.“ verfügbar – und nutzen Sie dann diese Datenschutzkontrollen“, sagte sie. „Es ist wichtig, Kinder über Online-Sicherheit aufzuklären, einschließlich der Frage, warum es wichtig ist, die Weitergabe persönlicher Daten zu vermeiden, und ... über die Dauerhaftigkeit dessen, was online weitergegeben wird.“