Können Alterskontrollen im Netz einen sinnvollen Beitrag zum Jugendschutz leisten?

Sichere Online-Umgebung als Ausgangspunkt

Das Ideal einer sicheren Online-Umgebung gerade für Kinder und Jugendliche wird von den Befürwortern der Einführung solcher Online-Altersverifikationssysteme als Anlass für dieselbe genommen. In vielen Gesetzen sind bereits seit Jahren Systeme für Onlineplattformen vorgesehen, die das Anbieten ihrer (nicht jugendfreien) Inhalte an zu junge Zielgruppen verbieten sollen. Die Umsetzung erfolgte meistens mit Hilfe von Selbstdeklaration des Alters durch den Nutzer ohne tiefergehende Überprüfung. Da damit nicht der gewünschte Effekt erzielt werden konnte, sollen nun neue Gesetze mit strengeren Vorschriften zur Überprüfung eingeführt werden.

Die Vorhaben der Gesetzgeber

In den verschiedensten Ländern, wie Deutschland, Frankreich oder in den USA sind bereits Gesetze geplant oder in der Ausfertigung, aber auch auf Ebene der EU soll an entsprechenden Gesetzen gearbeitet werden. So sollen zum Beispiel in den USA der Kids Online Safety Act oder in Großbritannien der Online Safety Bill erlassen werden. Im Folgenden soll ein grober Überblick gegeben werden, welche Bereiche von diesen Gesetzen reglementiert werden sollen.

Soziale Medien sollen strengere Alterskontrollen einführen um gewährleisten zu können, dass Kinder erst ab 13 Jahren Zugang zu den Plattformen haben.

Innerhalb der EU müssen Video-Plattformen gemäß der Richtlinie über audiovisuelle Mediendienste (AVMD-RL) Inhalte mit Alterskontrollen versehen, die als „schädlichst“ eingestuft werden, wozu Inhalte mit Pornographie oder „grundlosen Gewalttätigkeiten“ zählen. Auch die irische Medienaufsicht CNAM arbeitet an einem Gesetz, das auf dieser Grundlage strenge Alterskontrollen vorschreibt.

Bereits durch den Digital Services Act (DSA) der EU werden sehr große Online-Plattformen (VLOPs) vermehrt zu Alterskontrollen gebracht. Bisher liegt darin nur die Empfehlung bzw. Option zur Altersüberprüfung, um ihrer Pflicht, Risiken zu mindern, nachzukommen.

Weiterhin steht noch die CSAM-Verordnung der EU im Raum, wonach auch Chat-Dienste, wie z.B. WhatsApp, zu Alterskontrollen verpflichtet würden, um die Kontaktaufnahme zur Minderjährigen zu beschränken. Generell würde durch diese Verordnung der Anreiz entstehen, dass Online-Dienste Alterskontrollen einsetzen, sofern diese Dienste für Kindesmissbrauch genutzt werden könnten.

In Großbritannien lässt sich schon beobachten, dass Internetanbieter grundsätzlich den Zugang zu Websites sperren, die als nicht kindgerecht eingestuft werden, und den Zugang erst durch einen Altersnachweis ermöglichen.

Dies sind nur einige der Maßnahmen, die sich bereits mit der Möglichkeit der Altersüberprüfung zum Kinder- und Jugendschutz beschäftigen.

Möglichkeiten der Alterskontrolle und ihre Risiken

Überprüfung der Ausweisdokumente: Es besteht bei klassischen Ausweisen bereits die Möglichkeit mit Systemen das Alter zu überprüfen, indem der Ausweis vor die Webcam gehalten wird. Einfacher geht es bei Online-Ausweisdokumenten, die z.B. mit der eID-Funktion des Personalausweises, eine anonyme Übermittlung der Information, ob eine Person volljährig ist oder nicht, ermöglichen.

Alternative Dokumente (Kreditkarte, Führerschein etc.): Sie stellen eine weitere Möglichkeit der Altersüberprüfung dar, wobei wiederum eine Präsentation vor der Webcam nötig ist.

KI-basierte Gesichtserkennung: Anhand biometrischer Merkmale wie der Position von Augen, Nase und Mund können Menschen eindeutig voneinander unterschieden werden. Dabei handelt es sich vor allem um eine ergänzende Funktion zur Erfassung von Ausweisdokumenten, damit eine Übereinstimmung der Personen gewährleistet wird.

KI-basierte Alterserkennung: Mit Hilfe von KI kann bei Zeigen des Gesichts in die Webcam das Alter einer Person abgeschätzt werden. Allerdings ist das mit Fehlern verbunden und gerade Menschengruppen, mit denen die KI nicht oder unzureichend trainiert wurde, könnten falsch geschätzt werden.

Altersabfragen: Wie bereits bei bestehenden Systemen beinhalten einfache Abfragen des Alters das Risiko, dass durch den Nutzer einfach falsche Angaben gemacht werden.

Tests zur Altersbestimmung: Durch kurze Tests, wie z.B. Kopfrechen-Aufgaben, sollen Kinder erkannt werden, die diese typischerweise nicht lösen können. Problematisch wird es hier, wenn das System einen Erwachsenen mit Rechenschwäche überprüft.

Betroffene Rechte und mögliche Gefahren durch Alterskontrollen

Durch die nicht gegebene hundertprozentige Zuverlässigkeit der Technologien, kommt es zwingend zu einer Verletzung von Grundrechten. Dabei kommen tiefgreifende Eingriffe in Betracht. Der Begriff des „chilling effect“ beschreibt das Phänomen, dass Menschen von der Ausübung ihrer Grundrechte durch rechtliche Maßnahmen abgeschreckt werden. Durch die Einführung von Ausweiskontrollen könnte dieser Effekt folgen.

Rechte auf Teilhabe- und Informationsfreiheit: Die Zielsetzung liegt darin, dass sich alle Menschen möglichst barrierefrei im Internet bewegen und informieren können. Dabei liegt das Problem auf der Hand: Menschen, die den erforderlichen Nachweis gar nicht erbringen können, weil ihnen beispielsweise eine entsprechende Webcam oder die Ausweispapiere fehlen, würden ausgeschlossen werden. Auch KI-basierte Systeme haben das Risiko des falschen Ausschlusses aufgrund der bereits genannten Fehler.

Rechte auf Privatsphäre und Datenschutz: Mit der Preisgabe von Ausweisen oder biometrischen Daten werden die sensibelsten Bereiche der Menschen betroffen. Damit besteht einerseits das Risiko durch Kriminelle, die Identitätsdiebstahl begehen könnten und andererseits kann man nicht mit hundertprozentiger Sicherheit davon ausgehen, dass Anbieter die erhobenen Daten tatsächlich löschen.

Recht auf Anonymität: Damit zusammenhängend besagt das Recht auf Anonymität, dass sich Menschen im Internet möglichst frei bewegen sollen, ohne eine Rückführung befürchten zu müssen.

Recht der Kindeserziehung: Ein wichtiges Recht des Grundgesetzes ist es, dass Eltern das Recht – und die Pflicht – haben, für ihre Kinder verantwortlich zu sein. Durch zu strenge Alterskontrollen würde Eltern die Möglichkeit genommen, eigene Grenzen für ihre Kinder bezüglich Inhalten im Internet einzurichten. Somit könnten die Eltern selbst bei der Überzeugung, dass ihre Kinder reif genug sind, keinen erweiterten Zugriff ermöglichen, ohne ständig bei den Kontrollen zu helfen.

Overblocking: Außerdem bergen diese Kontrollen das Risiko des sog. Overblockings. Damit wird das Problem beschrieben, dass durch die Maßnahmen zu viele Inhalte einschränken und damit die Teilhabe von Jugendlichen und Erwachsenen, die sich nicht als solche ausweisen wollen oder können, gleichermaßen beeinträchtigen. Dieses Problem zeigt sich bereits bei bestehenden Vorrichtungen wie der SafeSearch-Funktion von Google oder dem Jugendschutz-Programm JusProg, welche seriöse Informationen als nicht jugendfrei einstuften.

Wirksamkeit: Generell kommen Zweifel an der Wirksamkeit auf, da Kindern trotzdem der Zugang zu unangemessenen Inhalten nicht völlig verwehrt bleibt. In den sozialen Medien könnten Inhalte durch die Moderation rutschen, in privaten Chats unangemessene Inhalte geteilt oder diese Inhalte in Person gezeigt werden. Zudem bestünde bei regionalen Alterskontrollen die einfache Möglichkeit der Umgehung mit Hilfe des Tor-Browsers oder einer VPN-Verbindung.

Befürworter der Alterskontrollen

Wie bereits erwähnt lassen sich in der Politik diverse Befürworter der Alterskontrollen finden, was auch die vorangeschrittenen Entwürfe zu entsprechenden Gesetzen verdeutlichen. Jedoch gibt es gerade in Deutschland schon länger die Aussagen, dass die Alterskontrollen vor allem mit der Privatsphäre und dem Datenschutz in Einklang stehen müssten. Außerdem wurde unlängst von Familienministerin Lisa Paus (Grüne) und Innenministerin Nancy Faeser (SPD) eine „datensparsame Methode“ für eine strengere Alterskontrolle angekündigt.

Die größten Befürworter finden sich natürlich in der Branche die von den verpflichtenden Alterskontrollen am meisten profitieren wird: IT-Unternehmen können gerade von Gesetzen, die nicht wie bisher die Empfehlung, sondern die Pflicht zu Alterskontrollen vorschreiben einen deutlichen Kundenzuwachs erwarten.

Besonders präsent ist dabei der Verband AVPA (Age Verification Providers Association), der sich für die Interessen der Hersteller dieser Systeme einsetzt. Seit 2020 wird er im Transparenz-Register der EU als Lobby-Organisation geführt. Er hat sich selbst das Ziel gesetzt, das „positive Image“ der Technologie und der Branche zu fördern.

Auf seiner Seite „für GesetzgeberInnen“ heißt es, dass eine Alterskontrolle zwingend nötig ist, da der Schutz der Kinder nicht gewährleistet werden kann, wenn die Internetseiten das Alter der NutzerInnen nicht kennen.

Nach eigenen Angaben des Verbandes nehme er eine „führende Rolle“ in dem Konsortium „euCONSENT“ ein, das von der EU-Kommission in Auftrag gegeben wurde, um Grundlagen für die Altersüberprüfung auszuarbeiten. Die Erkenntnisse sollen in die geplante eIDAS-Verordnung mit einfließen, welche eine umfassende Reformierung bringen soll. Im EU-Transparenzregister werden „euCONSENT“ keine geschäftlichen Interessen attestiert, sondern es ginge allein um Kinderrechte.

Kritische Betrachtung

Die Realität zeigt, dass Alterskontrollen, die beispielsweise von der zuständigen Medienaufsicht in Deutschland, einen erheblichen Eingriff in die bereits angesprochenen Rechte mit sich bringen, da sie Ausweise oder KI-basierte Gesichts-Scans verlangen.

Die australische Regierung hat in einem Statement des Ministeriums für Infrastruktur vom August 2023 bereits erklärt, dass keine bestehende Technologie überzeugen konnte und daher nicht eingesetzt würde. Die präsentesten Punkte waren die Sorge um die persönlichen Daten von Erwachsenen und die einfachen Möglichkeiten der Umgehung. Daher wurde beschlossen, die Entscheidung noch nicht zu treffen und auf bessere Umsetzungen zu warten.

Auch der Dachverband europäischer Organisationen für digitale Freiheitsrechte EDRi (European Digital Rights) hat im Oktober 2023 eine ausführliche Analyse zu den Eigenschaften von Alterskontroll-Systemen veröffentlicht. Dabei werden die Positionen von 20 Organisationen wiedergegeben, die auf einen Konsens heruntergebrochen werden können: Die Alterskontrollen mit Dokumenten und KI-basierter Alterserkennung ist nicht im Einklang mit den Freiheitsrechten.

Dabei wird vor allem angemahnt, dass bei einer menschenrechtlichen Prüfung ein Scheitern in der Notwendigkeit und Verhältnismäßigkeit ersichtlich sei. Darüber hinaus würde die „Autonomie von Kindern“ verletzt und Eltern und Erziehungsberechtigte entmündigt.

In der Stellungnahme des EDRi zum geplanten Gesetz der irischen Medienaufsicht wird eine deutliche Warnung ausgesprochen: Unter dem Vorwand des Jugendschutzes eingeführte Überwachung könne dazu führen, die Aktivitäten von allen Menschen im Internet zunehmend zu überwachen, Zensur einzuführen und Anonymität abzuschaffen.

Martin Sas vom Zentrum für IT- und Immaterialgüterrechte an der Katholischen Universität Löwen und Jan Tobias Mühlberg, Professor für Cybersicherheit und Datenschutz an der Freien Universität Brüssel sehen ähnliche Risiken in ihrer Studie für die Fraktion der Grünen im EU-Parlament. Sie bemängeln ebenso, dass „keine Alterssicherungsmethode [existiert], die die Grundrechte des Einzelnen angemessen schützt“. Außerdem wäre es ein Problem, dass es keine volle Sicherheit bei der Altersüberprüfung gebe. Nicht zuletzt mahnen sie auch an, dass eine Verschärfung der bestehenden Diskriminierung bestimmter Gruppen die Folge der Alterskontrollen sein könne und dadurch die digitale Kluft vergrößert werde, was zu weiterer Ausgrenzung führe.

Daher fordern sie, dass verbindliche Risikobewertungen durchgeführt werden, welche Folgenabschätzungen zu Meinungs-, Diskriminierungs- und Versammlungsfreiheit, Datenschutz und Kinderrechten enthalten. Darüber hinaus bräuchte es für die Einführung einen stabilen Rahmen aus Standards, Zertifizierungssystemen und unabhängigen Kontrollen.

Als Alternative werden von vielen Kritikern eine verbesserte Medienkompetenz für Kinder und Jugendliche angebracht, die durch bessere Schulungen im Umgang mit sozialen Medien und ähnlichem erreicht werden soll.

Fazit

Als wichtigsten Kritikpunkt der Studie von Sas und Mühlberg lässt sich jedoch festhalten, dass eine überhastete Einführung von Alterskontrollen, die nur unzureichenden Schutz der Grundrechte gewährleisten, das größte Risiko birgt. Die weitere Entwicklung von möglichen Alterskontrollen im Netz bleibt weltweit abzuwarten.