Am dritten Konferenztag des Internet Governance Forum im japanischen Kyoto standen Kinderrechte im Fokus vieler Veranstaltungen. So ging es unter anderem darum, wie Technologien entwickelt werden können, die das Wohlbefinden junger Menschen befördern, wie junge Menschen sich einbringen und an Entscheidungen teilhaben oder auch, wie ihre Daten geschützt und verantwortlich behandelt werden können.

#52 RITEC: Prioritizing Child Well-Being in Digital Design

Gemeinsam mit führenden Expert*innen haben UNICEF und LEGO das RITEC-Vorhaben (Responsible Innovation in Technology for Children) auf den Weg gebracht, um herauszuarbeiten, was es bedarf, um Technologien und Angebote zu entwickeln, die Kinder und Jugendliche nicht nur schützen, sondern ihr Wohlbefinden befördern und damit einen positiven Beitrag für deren Entwicklung leisten können. Bewusst ist den Beteiligten dabei, dass eine solche Entwicklung nicht ohne die Beteiligung junger Menschen zu realisieren ist. Daher hat das Young & Resilient Research Center der Western Sydney University in Australien ein umfassendes Partizipationsverfahren mit mehr als 34.000 Kindern aus über 30 Ländern durchgeführt. Diese Ergebnisse helfen dabei eine Struktur zu entwickeln, die perspektivisch Entwickler*innen und Programmier*innen wichtig Hinweise und Anregungen zur Berücksichtigung der Kompetenzen, der emotionalen Selbststeuerung, der Stärkung und Kreativität von jungen Menschen geben wird und ohne dabei deren soziale Vernetzung, Fragen von Schutz und Sicherheit, von Diversität und Inklusion sowie der Weiterentwicklung junger Menschen zu vernachlässigen. Sobald die Richtlinien finalisiert sind, ist beabsichtigt in eine Pilotphase einzutreten und deren Realisierung zu erproben.

#64 Worldwide Web of Youth: Cooperation for Enlightenment

In der von jungen Menschen durchgeführten Veranstaltung stellten sie ihre Vorhaben zur Medienkompetenzbildung, aber auch zur Steigerung des Engagements von Jugendlichen in der Gestaltung und Regulierung des digitalen Umfelds vor und berichteten von ihren Erfahrungen als junge Botschafter*innen oder Mitglieder in Jugendgremien bspw. des IGF und bei der Internationalen Fernmeldeunion (ITU). Als besonders positiv hoben sie hervor, dass die Selbstorganisation und Befassung mit Themen, die ihren Interessen entsprechen wesentlich dazu beiträgt mehr junge Menschen zu involvieren und zu beteiligen. Dabei können sie davon profitieren von bereits erfahreneren Jugendlichen unterstützt zu werden, welche sie mit Spezifika und Verfahrensweise der Erwachsenenorganisationen vertraut machen und ihnen Hilfestellung dabei gewähren Angebote für deren Konferenzen und Veranstaltungen erfolgreich zu gestalten. Obwohl sie dadurch eine gute Aufmerksamkeit erzielen können, nehmen sie jedoch mitunter auch wahr, dass ihre Teilnahme und Anwesenheit zwar grundsätzlich begrüßt und unterstützt wird, ihr Einfluss auf die Gestaltung der Entwicklung des digitalen Raums jedoch noch nicht in allen Fällen wirksam wird.

DC COS main session „Risk, opportunity and child safety in the age of AI“

In der Veranstaltung tauschten sich Vertretende des Deutschen Kinderhilfswerks, des Childfund Japan, des Asia Pacific Youth IGF, von Microsoft sowie dem Zentrum für Recht und Kriminalitätsprävention gemeinsam mit dem Publikum darüber aus, wie es gelingen kann die Sicherheit junger Menschen bei der Nutzung digitaler Anwendungen bei einer Vielzahl an Möglichkeiten und Risiken zu gewähren. Betont wurde in dem Gespräch, dass der Kinderrechtsausschuss der Vereinten Nationen mit der Allgemeinen Bemerkung Nr. 25 ein wegweisendes Dokument vorgelegt hat, dass umfassend darlegt, wie die Rechte der Kinder für die digitale Welt auszulegen und anzuwenden sind. Aus der Praxis und aktuellen Untersuchungen wurde jedoch auch deutlich, dass es gleichwohl große Herausforderungen gibt eine sichere Teilhabe junger Menschen an digitalen Anwendungen zu ermöglichen. Dies liegt zum einen daran, dass Kinder und Jugendliche nicht immer mit allen Möglichkeiten zum Schutz in den Anwendungen vertraut sind und oftmals auch nur wenig Unterstützung und Begleitung durch ihre Eltern oder andere Erwachsene erfahren. Aber auch nicht alle Angebote und Dienste kommen ihrer Verantwortung nach und halten ausreichende Vorsorge- und Schutzmaßnahmen für ihre Nutzenden bereit. Daher gibt es weltweit verschiedene Bestrebungen Kinder und Jugendliche in digitalen Umgebungen zu schützen, bspw. in dem sie den Unternehmen untersagen deren Daten für die gezielte Bewerbung von Produkten zu verwenden. Herausfordernd ist es dabei die richtige Balance zwischen Schutz und Teilhabe zu gewähren und eine gute Lösung im Sinne des Kindeswohl und der besten Interessen aller Kinder zu finden. Um zielgerichtet danach streben zu können wird mehr Beteiligung junger Menschen und Forschung über deren Nutzungsweisen digitaler Anwendungen notwendig sein.

#559 Harnessing AI for Child Protection

Künstliche Intelligenz ist DAS Schlagwort auf dem IGF 2023. Der Titel des Workshops unterstreicht, wie wichtig es ist, das Recht der Kinder auf Schutz mit dem Potenzial der KI zusammenzubringen.

Ghimire Gopal Krishna von der Zivilgesellschaft in Nepal, Sarim Aziz als Vertreter von Meta und Michael Ilishebo von der Regierung Sambias sowie Jutta Croll diskutierten darüber, wie KI-Technologien wirksam eingesetzt werden können, um neue Formen der Ausbeutung von Kindern im digitalen Zeitalter zu erkennen und zu bekämpfen, wenn man die sich entwickelnde Natur der Online-Risiken berücksichtigt. Sarim Aziz erläuterte, was Meta unternimmt, um CSAM in ihren Diensten zu bekämpfen, und dass sie dies sehr erfolgreich tun, z. B. mit Software wie PhotoDNA und jetzt auch mit einer Technologie, die missbräuchliches Videomaterial erkennen kann. Aber obwohl die Plattformanbieter daran arbeiten, gibt es immer noch eine große Menge an CSAM, sogar im offenen Internet. Jutta Croll verwies auf den Entwurf einer CSAM-Verordnung, der sich derzeit im parlamentarischen Verfahren befindet und Regulierungsmaßnahmen für die folgenden drei Bereiche vorsieht: bereits bekannte CSAM, noch nicht identifizierte CSAM und Grooming-Prozesse. Aufgrund der hohen Komplexität der Überwachung von Inhalten und Kommunikation liegt es auf der Hand, dass es notwendig ist, die Effizienz der Überwachungstechnologien zu verbessern und sie so rechtskonform wie möglich zu gestalten. Die Privatsphäre ist eines der ambivalentesten Rechte, erklärte Jutta Croll. Kinder haben natürlich ein Recht auf Privatsphäre, nicht nur gegenüber Dienstleistern, sondern auch gegenüber ihren Eltern. Aber, wie Michael Ilishebo betonte, wollen Eltern zu Recht ihre Kinder schützen und verletzen in dieser Absicht manchmal die Privatsphäre ihrer Kinder. Gopal Krishna informierte über das nepalesische Kinderschutzgesetz und rief dazu auf, sich an die Menschenrechte und die Rechtsstaatlichkeit zu halten, um die Demokratie zu wahren. Er verwies dann auf das Konzept des "Alters für einvernehmliche sexuelle Beziehungen", das in den nationalen Rechtssystemen unterschiedlich umgesetzt wird, und diese Unterschiede werden in der digitalen Umgebung mit grenzüberschreitenden Dienstleistungen noch verstärkt. In ihrer Antwort verwies Jutta Croll auf Art. 118 der Allgemeinen Bemerkung Nr. 25, in der die Staaten ausdrücklich aufgefordert werden, die einvernehmliche Weitergabe von sexuell eindeutigen Inhalten unter Jugendlichen nicht zu kriminalisieren. Die wichtigste Erkenntnis aus der Session kann so zusammengefasst werden: Künstliche Intelligenz ist kein Allheilmittel; sie kann zwar bestimmte Arten von illegalen Inhalten erkennen, aber um zu verstehen, ob eine Interaktion zwischen Menschen einvernehmlich oder nicht einvernehmlich ist, bedarf es immer einer menschlichen Beurteilung.

# 62 Data Protection for Next Generation: Putting Children First

Ein auf Kinderrechten basierender Ansatz zum Datenschutz stand im Mittelpunkt der letzten Sitzung des Tages. Njemile Davis als Vertreterin der Regierung, Edmon Chung von Dot.Asia, Sonia Livingstone, Forscherin an der London School of Economics, Theodora Skeadas und Emma Day diskutierten darüber, wie Kinder in verschiedenen Altersgruppen ihr digitales Selbst und ihre Privatsphäre online verstehen, bewerten und aushandeln. Die Debatte drehte sich um die Frage, welche Fähigkeiten oder Schwachstellen das Verständnis der Kinder für ihre digitalen Daten und digitalen Rechte beeinflussen. Es wurden verschiedene Konzepte vorgestellt, die einerseits auf Bildungsmaßnahmen für Kinder und Erziehungsverantwortliche und andererseits auf regulatorischen Ansätzen auf nationaler und regionaler Ebene, wie z.B. der Allgemeinen Datenschutzverordnung, basieren. Es wurden auch Überlegungen zu der Frage angestellt, was ein guter Mechanismus zur Altersverifizierung ist, der nicht zu einer unangemessen umfangreichen Sammlung von mehr persönlichen Daten führt. Obwohl die Teilnehmenden zu diesem Zeitpunkt noch nicht in der Lage waren, ein fertiges System vorzuschlagen, skizzierten sie die Idee eines Systems unabhängiger vertrauenswürdiger Parteien, die die Daten von Einzelpersonen speichern könnten, um deren Alter zu überprüfen, wobei die Daten nicht an Diensteanbieter weitergegeben werden, sondern lediglich für die Richtigkeit des vom betreffenden Nutzer angegebenen Alters bürgen. Was Sonia Livingstone zu Recht sagte, ist die Schlüsselbotschaft dieser Sitzung: "Wenn wir Kinder schützen wollen, müssen wir das Alter ALLER Nutzer kennen, nicht nur das von Minderjährigen, und wir müssen dies mit einem Konzept zur Datenminimierung tun."