KI-Apps entkleiden Schüler digital: Eltern zweifeln am Schutz in Schulen
von belmedia Redaktion Allgemein Alltag Bildung & Arbeit Digitalisierung Eltern elterntipps.ch Erziehung Familie Familienleben Gesundheit Magazine nachrichtenticker.ch News Prävention Schule Sicherheit Themen xund24.ch Ⳇ Verbreitung
Die rasante Entwicklung von KI-Anwendungen stellt auch Schulen in der Schweiz vor neue Herausforderungen im Bereich des digitalen Kinderschutzes. Internationale Studien liefern Hinweise darauf, wie gross die Unsicherheit unter Eltern ist.
Die nun veröffentlichten Zahlen aus Grossbritannien zeigen deutlichen Handlungsbedarf bei Aufklärung und Regulierung. Auch für hiesige Bildungsbehörden und Politik ergeben sich daraus relevante Fragestellungen.
Nur 47 Prozent der Eltern in Grossbritannien sehen ihre Kinder in der Schule bei Vorfällen durch „Nudification-Apps“ ausreichend geschützt. Das zeigt eine Umfrage im Auftrag der British Sociological Association (BSA). Diese auf Künstlicher Intelligenz (KI) basierenden Tools ermöglichen es, Menschen – in diesem Fall Schüler – nackt zu präsentieren. Die App zieht die Opfer, die auf den Bildern Kleidung tragen, aus und scheint von Mitschülern immer häufiger benutzt zu werden.
Laut der Umfrage der BSA sind 37 Prozent der Eltern nicht mit der Bedrohung durch „Nudification-KI“ vertraut. 60 Prozent sehen die App-Nutzung als Straftat, während 20 Prozent diesen Missbrauch nur als Disziplinarvergehen werten. 46 Prozent sprechen sich dafür aus, dass ihr Kind gerichtlich belangt werden sollte, wenn es eine solche App nutzt. Und etwa ebenso viele fordern, dass Kinder zwischen sieben und elf Jahren in der Schule über derartige Apps aufgeklärt werden müssen.
„Das Aufkommen von KI-unterstütztem Missbrauch, insbesondere von Material über sexuellen Kindesmissbrauch, das teils von Kindern und für Kinder erstellt wird, stellt eine beispiellose Herausforderung für traditionelle Schutzmodelle dar“, sagt Soziologin Danielle Hotz. „KI-gestützte Nudifizierungs-Tools ermöglichen die synthetische Sexualisierung von Kinderbildern und stellen Eltern, Pädagogen und politische Entscheidungsträger vor dringende Herausforderungen im Bereich des Kinderschutzes.“
Die Problemlage zeigt sich anhand der verbreiteten Nutzung. Gut jeder zweite US-Teenager hat schon einmal KI-basierte Nudifizierungs-Tools genutzt, um von sich selbst oder von anderen Nacktbilder zu erstellen. Das zeigt eine Umfrage der Digital-Forensikers Chad Steel von der George Mason University unter 557 Teenagern zwischen 13 und 17 Jahren, wie pressetext berichtete.
Kinder und Jugendliche sind laut den BSA-Experten mittlerweile an Produktion, Verbreitung und Besitz von KI-gestütztem Material über sexuellen Kindesmissbrauch beteiligt, oft mit einem begrenzten Verständnis der rechtlichen, ethischen oder geschlechtsspezifischen Konsequenzen. Die Sorgen der Eltern hätten ihre Ursache in einem kritischen politischen und Wissensvakuum.
Etablierte Bildungs- und politische Rahmenbedingungen könnten mit der exponenziellen Entwicklung generativer KI nicht Schritt halten und versagen daher bei der angemessenen Bewältigung der damit verbundenen Risiken. Hotz fordert, dass Technologieunternehmen für ihre Rolle bei der Verbreitung von durch KI ermöglichten Missbrauch zur Rechenschaft gezogen werden, sowie eine umfassende Schutzstrategie, die das Wohlergehen der Opfer sicherstellt.
Quelle: pressetext.redaktion/Wolfgang Kempkens
Bildquelle: Symbolbild © New Africa/Shutterstock.com