Begutachtung 132/ME · XXVIII. GP

AMNESTY INTERNATIONAL ÖSTERREICH Lerchenfelder Gürtel 43/4/3 1160 Wien T: +43 1 78008 F: +43 1 78008-44 office@amnesty.at www.amnesty.at SPENDENKONTO 316326 BLZ 20111 Erste Bank IBAN: AT142011100000316326 BIC: GIBAATWWXXX DVR: 460028 ZVR: 407408993 STELLUNGNAHME zum Ministerialentwurf betreffend Bundesgesetz, mit dem das Audiovisuelle Mediendienste-Gesetz und das KommAustria-Gesetz geändert werden (132/ME) 16. September 2026 Amnesty International Österreich bezieht zu Gesetzesentwürfen nur im Rahmen ihres Mandats, sohin nur insoweit Stellung, als menschenrechtliche Implikationen gegeben sind. GRUNDSÄTZLICHES Soziale Medien sind für Kinder1 ein wichtiger Raum zur freien Meinungsäußerung und Zugang zu Informationen. Sie können dort neue Dinge lernen, ihre Ansichten kommunizieren und am öffentlichen Leben teilhaben. Soziale Medien sind daher auch wichtig in der Wahrnehmung ihrer Rechte gemäß der UN-Kinderrechtskonvention (UN-KRK). Besonders für marginalisierte Kinder, einschließlich LGBTIQA+ Kinder, sind sie zur Informationsgewinnung und Vernetzung essenziell. Gleichzeitig ergaben Untersuchungen von Amnesty International,2 die sich auch in Expert*innenberichten der Europäischen Union (EU) widerspiegeln, dass die Geschäftsmodelle der führenden Social-Media-Plattformen auf einer massenhaften, datenschutzverletzenden Datenerfassung und süchtig machende Designs basieren. Das ist mit einer Reihe von Menschen- und Kinderrechten, wie jene auf ein Höchstmaß an Gesundheit, freie Meinungsäußerung, Privatleben und Information grundsätzlich nicht vereinbar. Amnesty International begrüßt daher die politischen Bemühungen in der EU und in Österreich, sich mit den negativen Auswirkungen von schädlichen Designs sozialer Medien auseinanderzusetzen. Die Organisation teilt insbesondere die Einschätzung der Bundesregierung, dass Funktionen wie autoplay, infinite scroll, streaks und push Nachrichten wesentliche Faktoren für eine übermäßige Nutzung sozialer Medien sind, die das Recht der Kinder auf ein Höchstmaß an Gesundheit3 ernsthaft gefährdet. Amnesty International, gemeinsam mit zahlreichen Menschenrechtsexpert*innen, Wissenschaftler*innen und zivilgesellschaftlichen Organisationen im Bereich der Online-Sicherheit von Kindern, vertritt jedoch die Ansicht, dass Zugangssperren zu sozialen Medien nicht der richtige Weg sind, um die Gesundheit von Kindern wirksam zu schützen.4 In diesem Sinne betonte der Menschenrechtskommissar des Europarates bereits im Februar 2026, dass die Plattformen und nicht der Zugang von Kindern reguliert werden sollen: „Das Verbot des Zugangs von Kindern zu sozialen Medien bedeutet jedoch, die Verantwortung für die Sicherheit zu verlagern: Die Verantwortung würde nicht mehr bei den Plattformen liegen, die das Umfeld schaffen, sondern bei den Kindern, die in dieser Umgebung navigieren. Vielmehr sollten die Staaten von den Plattformen verlangen, Risiken für die Kinderrechte von der Konzeption an und standardmäßig zu verhindern und zu mindern, und sie zur Rechenschaft ziehen, wenn diese Verpflichtungen nicht eingehalten wurden. Angesichts der Allgegenwart algorithmischer Systeme ist eine umfassende Regulierung unerlässlich. Dazu gehören die Gewährleistung der Transparenz und Überprüfbarkeit von Algorithmen, die Schaffung wirksamer Melde- und Rechtsdurchsetzungsverfahren, die Bewertung von Risiken für die Kinderrechte, die Durchführung unabhängiger Kontrollen und Beschränkungen für zielgerichtete Werbung. Diese Verpflichtungen müssen durchsetzbar sein, 1 Gemäß Art. 1 der UN-KRK ist ein Kind jeder Mensch, der das 18. Lebensjahr noch nicht vollendet hat, soweit die Volljährigkeit nach dem auf das Kind anzuwendende Recht nicht früher eintritt. 2 Amnesty International, The Social Atrocity: Meta and the Right to Remedy for the Rohingya (Index: ASA 16/5933/2022), 29. September 2022, https://www.amnesty.org/en/documents/asa16/5933/2022/en/ ; Amnesty International, “A Death Sentence for My Father”: Meta’s Contribution to Human Rights Abuses in Northern Ethiopia (Index: AFR 25/7292/2023), 31. Oktober 2023, https://www.amnesty.org/en/documents/afr25/7292/2023/en/; Amnesty International, Driven Into the Darkness: How TikTok's ‘For You’ Feed Encourages Self Harm and Suicidal Ideation (Index: POL 40/7350/2023), 7. November 2023, https://www.amnesty.org/en/documents/pol40/7350/2023/en/; Amnesty International, ‘A Thousand Cuts’: Technology-Facilitated Gender-Based Violence Against Poland’s LGBTI Community on X, Index: EUR 37/0098/2025, September 2025; Amnesty International, Dragged into the rabbit hole: New evidence of TikTok’s risks to children’s mental health (Index: POL 40/0360/2025), 20. Oktober 2025, https://www.amnesty.org/en/documents/POL40/0360/2025/en/ 3 Art. 24 UN-KRK. 4 5rights Foundation, Joint statement on potential new measures for child online safety in the European Union, 6. Juli 2026 https://5rightsfoundation.com/resource/joint-statement-on-potential-new-measures-for-child-online-safety-in-the-european-union/; OHCHR, Getting Children’s Safety Online Right, https://www.ohchr.org/sites/default/files/documents/issues/children/getting- childrens-safety-online-right.pdf; 5Rights Foundation, Regulate tech, not kids, say 140+ organisations and experts ahead of EU State of the Union, 8. September 2026, https://5rightsfoundation.com/wp-content/uploads/2026/09/Joint-Statement-on-the- expert-panel-report_5R_September-2026.pdf. 2 einer unabhängigen Aufsicht unterliegen und mit ausreichend abschreckenden Sanktionen verbunden sein.“ 5 Die UN-Sonderberichterstatterin für friedliche Versammlungs- und Vereinigungsfreiheit führte in ihrem Bericht von August 2026 aus, dass „Verbote sozialer Medien die physischen Gegebenheiten [ignorieren], die nicht für alle jungen Menschen gleichermaßen sicher oder zugänglich sind. Die Abschaltung digitaler Netzwerke entzieht LGBTIQ+-Jugendlichen, Geflüchteten, Menschen mit Behinderungen und Mädchen in restriktiven Umfeldern den einzigen verfügbaren „sicheren Zufluchtsort“.“6 Aufgrund der menschenrechtlichen Implikationen solcher Maßnahmen möchte Amnesty International Österreich ihre menschenrechtliche Expertise in diesen Prozess einbringen und sieht die folgenden menschenrechtlichen Herausforderungen: • Eine Zugangssperre für unter 14-Jährige ist weder wirksam noch das gelindeste Mittel, um die Rechte der Kinder zu schützen, und erscheint daher unverhältnismäßig. • Die damit verbundene Altersverifikation wirft ernsthafte Datenschutzbedenken auf und stellt somit ein Risiko für das Recht auf Privatsphäre von allen Menschen dar, die sich auf sozialen Medien betätigen möchten. • Die geplante Maßnahme, einschließlich der Altersverifikation, könnte eine abschreckende Wirkung (sog. chilling effect) auf die Ausübung der Rechte auf freie Meinungsäußerung, Versammlungs- und Vereinigungsfreiheit haben. Vor diesem Hintergrund appelliert Amnesty International an den Gesetzgeber die wirksame Regulierung dieser schädlichen Designs, die den sozialen Medien inhärent sind, zu priorisieren, einschließlich der kurzfristigen Maßnahmen jene Designs, die für Kinder besonders schädlich sind, zu regulieren bzw. zu verbieten. Eine solche Vorgehensweise würde Plattformen in die Pflicht nehmen, anstelle Kinder unter 14 Jahre den Zugang zu sozialen Medien zu verbieten. 5 Europarat, Menschenrechtskommissar fordert Umsicht beim Verbot Sozialer Medien, 23. Februar 2026 https://www.coe.int/en/web/portal/-/regulate-online-platforms-not-children. 6 UN-Sonderberichterstatterin für das Recht auf friedliche Versammlung und Vereinigung, Youth activism: from systemic exclusion to real participation, UN Doc A/81/186, 15. Juli 2026, https://docs.un.org/en/A/81/186 Rz 50. 3 MENSCHENRECHTLICHE BEWERTUNG EINZELNER AUSGEWÄHLTER BESTIMMUNGEN §54e Abs. 3 Z 5 Der gegenständliche Gesetzesentwurf zielt auf Plattform-Anbieter ab, die eine „Video-Sharing- Plattform“ (VSP) betreiben. Damit sollen die meistgenutzten Social-Media-Plattformen, wie TikTok, Instagram, YouTube und Snapchat erfasst sein.7 Plattform-Anbieter sollen laut Entwurf dafür sorgen, dass Kindern unter 14 Jahren der Zugang zu VSP „durch eine wirksame Kontrolle im Wege einer Altersverifikation gesperrt ist, wenn aufgrund spezifischer Funktionen der Schutz dieser Minderjährigen vor sie in ihrer körperlichen, geistigen oder sittlichen Entwicklung beeinträchtigenden Inhalten oder Verhaltensweisen nicht gewährleistet ist“. Amnesty International teilt die Einschätzung der Regierung, dass einige in der Ziffer 5 genannten Designs wie autoplay, infinite scroll (lit b), streaks (lit c) und push Nachrichten (lit d) wesentliche Faktoren für eine übermäßige Nutzung sozialer Medien sind, die das Recht von Kindern auf ein Höchstmaß an Gesundheit ernsthaft gefährdet (schädliche Designs). Kinder nutzen soziale Medien für viele Zwecke, darunter für Vernetzung, Kreativität, den Zugang zu Informationen und Menschenrechtsaktivismus. Um online teilzunehmen und auf diese positiven Nutzungsmöglichkeiten zuzugreifen sollten sie aber nicht gezwungen sein, Verletzungen ihrer Privatsphäre und Gesundheit durch schädliche Designs in Kauf zu nehmen. Das sind Designentscheidungen, die von den Unternehmen getroffen werden, um Gewinne zu maximieren. Es sind daher dringend Maßnahmen notwendig, um Kinder vor diesen und weiteren schädlichen Designs zu schützen. Es ist jedoch davon auszugehen, dass eine Zugangssperre für unter 14-Jährige mittels Altersverifikation weder das wirksame noch das gelindeste Mittel ist, um die Rechte von Kindern zu schützen. Unverhältnismäßige Einschränkung von Kinderrechten durch Zugangssperre Soziale Medien spielen eine zentrale Rolle bei der Wahrnehmung mehrerer Menschenrechte. Sie sind ein wichtiger öffentlicher Raum für freie Meinungsäußerung und Zugang zu Informationen: Kinder können darauf neue Dinge lernen, mit anderen kommunizieren und am öffentlichen Leben teilhaben.8 Sie sind auch ein wichtiger Ort, um das Recht auf Versammlungs- und Vereinigungsfreiheit9 wahrzunehmen. Besonders marginalisierte Kinder haben dort einen zentralen Ort, um Unterstützung zu finden, sich zu vernetzen und Gemeinschaften zu bilden.10 Wie im Vorblatt festgehalten, zählen die meistgenutzten Social-Media-Plattformen zu den VSP, für die eine Zugangssperre für unter 14-Jährige gelten soll.11 Dadurch würde diesen Kindern der Zugang zu diesen Online-Räumen entzogen werden, was jedenfalls eine Einschränkung ihrer Rechte darstellt. Zudem besteht die Gefahr, dass marginalisierte Kinder wie LGBTIQA+-Kinder, die auf soziale Medien als Ort der Sicherheit und Unterstützung angewiesen sind, unverhältnismäßig stark benachteiligt werden.12 7 Bundeskanzleramt, Gesetzesentwurf für Social-Media-Verbot unter 14 geht mit dem heutigen Tag in Begutachtung, 27. Juli 2026, https://www.bundeskanzleramt.gv.at/bundeskanzleramt/nachrichten-der-bundesregierung/2026/07/gesetzesentwurf-fuer- social-media-verbot-unter-14-geht-mit-dem-heutigen-tag-in-begutachtung.html; Seite 2 des Vorblatts zu 132/ME https://www.parlament.gv.at/dokument/XXVIII/ME/132/imfname_1773882.pdf. 8 Art. 19 IPbpR, Art. 10 EMRK, Art. 13 UN-KRK; UN-Menschenrechtssausschuss, General comment No.34 on Article 19: Freedoms of opinion and expression, https://docs.un.org/en/CCPR/C/GC/34, Rz 12. 9 Art. 21 IPbpR, Art. 11 EMRK, Art. 14 UN-KRK; UN-Sonderberichterstatterin für das Recht auf friedliche Versammlung und Vereinigung (15. Juli 2026), Rz 44-50. 10 UN-Sonderberichterstatterin für das Recht auf friedliche Versammlung und Vereinigung (15. Juli 2026), Rz 49-50; UN-Kinderrechteausschuss, General comment No. 25 (2021) on children’s rights in relation to the digital environment, https://docstore.ohchr.org/SelfServices/FilesHandler.ashx?enc=eThI486k0%2F2fNxnh7K%2B4byjGfCr35TX8RE0GZMU9nsl0rUa kVbqV9qNlHKrBgcCK197Is%2B3m9cUaaqSmgAfbJQ%3D%3D Rz 64. 11 Vorblatt zu 132/ME, Seite 2. 12 Art. 2 UN-KRK. 4 Laut den Erläuterungen zum Ministerialentwurf13 dient die Zugangssperre dem Schutz des Kindeswohls. Zudem werden gesundheitliche Gründe genannt, woraus zu schließen ist, dass die Zugangssperre auch dem Schutz des Rechts auf ein Höchstmaß an Gesundheit dienen soll. Beide Zwecke stellen legitime Ziele dar, um andere Rechte einzuschränken.14 In diesem Zusammenhang stellt Amnesty International fest, dass das Kindeswohl zwar eine vorrangige Erwägung bei Maßnahmen sein muss, die Kinder betreffen, aber es nicht dazu verwendet werden kann, um andere Rechte außer Kraft zu setzen oder unangemessen einzuschränken.15 Damit Einschränkungen zulässig sind, müssen sie unter anderen wirksam und das gelindeste Mittel unter jenen sein, die eine schützende Funktion erreichen können.16 Die Erfahrungen aus Australien zeigen, dass eine Zugangssperre mittels Altersverifikation Kinder nicht wirksam vor schädlichen Designs auf sozialen Medien schützt. Kinder konnten Zugangssperren umgehen und wurden auf alternative Plattformen gedrängt, die nicht sicherer oder weniger schädlich sind als jene der Big-Tech-Unternehmen. So stellte der australische eSafety Commissioner fest, dass zwei Drittel der Kinder in Australien weiterhin in den sozialen Medien aktiv sind.17 Sie haben also weiterhin Zugang zu schädlichen Plattformen, von denen sie eigentlich ausgeschlossen werden sollten. Diejenigen, die das Verbot umgehen oder gar nicht erst betroffen sein sollten, sind weiterhin genau den Gefahren ausgesetzt, die mit dieser Maßnahme eigentlich bekämpft werden sollten.18 Auch in Österreich würden durch eine Zugangssperre für unter 14-Jährige jene, denen es gelingt, Altersprüfungen zu umgehen, sowie ältere Kinder – die dieselben Rechte gemäß der UN-KRK haben – weiterhin schädlichen Designs ausgesetzt. Kindern den Zugang zu VSP zu verbieten, anstatt die Ursache des Problems anzugehen – also die schädlichen Designs der Plattformen – schützt nicht das Kindeswohl. Stattdessen verschiebt sich die Gefährdung auf anderen Plattformen oder auf einen späteren Zeitpunkt. Amnesty Internationals Bedenken hinsichtlich der Wirksamkeit einer Zugangssperre für soziale Medien werden von führenden Expert*innen für Kinderrechte, Organisationen und anderen zivilgesellschaftlichen Akteuren weltweit geteilt.19 Es ist weitaus wirksamer, die schädlichen Designentscheidungen der Plattformen strenger zu regulieren. Dies würde auch die Rechte von Kindern und all jenen, die sich verifizieren lassen müssen, weniger einschränken. Amnesty International schließt sich damit der Einschätzung des Menschenrechtskommissars des Europarates an, dass Verbote für Kinder „weder verhältnismäßig noch notwendig“ sind.20 Eine Regulierung bzw. ein Verbot von Designs, die für Kinder besonders schädlich sind, wären wirksamer, um alle Kinder zu schützen und würde die Menschenrechte weniger bis gar nicht einschränken. Entsprechende Gesetze könnten auf dem bisher unverbindlichen Leitfaden zu Art. 28 Digital Services Act (DSA)21 aufbauen. 13 Erläuterungen zu 132/ME XXVIII. GP, https://www.parlament.gv.at/dokument/XXVIII/ME/132/fname_1773883.pdf, Seiten 1-2. 14 Art. 13 Abs. 2 lit. a UN-KRK, Art. 19 Abs. 3 lit. a IPbpR, Art. 21 IPbpR, Art. 10 Abs. 2, Art. 11 Abs. 2 EMRK 15 Art. 3 UN-KRK; UN-Kinderrechteausschuss, General comment No. 14 (2013) on the right of the child to have his or her best interests taken as a primary consideration (art. 3, para. 1), https://www2.ohchr.org/english/bodies/crc/docs/gc/crc_c_gc_14_eng.pdf Rz 4. 16 UN-Menschenrechtssausschuss, GC 34, Rz 34. 17 Australian eSafety Commission, Social Media Minimum Age: Compliance update, März 2026 https://www.esafety.gov.au/sites/default/files/2026- 03/SocialMediaMinimumAgeComplianceUpdateMarch2026.pdf?v=1787676468157. 18 ORF, Jugendliche umgehen Social-Media-Verbot, 25. Juni 2026, https://science.orf.at/stories/3236162/ 19 5rights Foundation, Joint statement on potential new measures for child online safety in the European Union, 6. Juli 2026 https://5rightsfoundation.com/resource/joint-statement-on-potential-new-measures-for-child-online-safety-in-the-european-union/; OHCHR, Getting Children’s Safety Online Right, https://www.ohchr.org/sites/default/files/documents/issues/children/getting- childrens-safety-online-right.pdf; 5Rights Foundation, Regulate tech, not kids, say 140+ organisations and experts ahead of EU State of the Union, 8. September 2026, https://5rightsfoundation.com/wp-content/uploads/2026/09/Joint-Statement-on-the- expert-panel-report_5R_September-2026.pdf. 20 Politico, Human rights chief warns against banning social media for kids, 24. März 2026 https://www.politico.eu/article/michael-oflaherty-human-rights-council-of-europe-children-social-media-ban/. 21 Europäische Kommission, Leitlinien für Maßnahmen zur Gewährleistung eines hohen Maßes an Privatsphäre, Sicherheit und Schutz von Minderjährigen im Internet gemäß Artikel 28 Absatz 4 der Verordnung (EU) 2022/2065, 10. Oktober 2025, https://eur-lex.europa.eu/legal-content/DE/TXT/HTML/?uri=OJ:C_202505519. 5 § 54e Abs. 3a, 3b Laut Gesetzesentwurf sollen Zugangssperren mittels Altersverifikation wirksam umgesetzt werden. Diese Maßnahme würde nicht nur Kinder, sondern alle Menschen betreffen, die auf sozialen Medien am Diskurs teilhaben wollen. Angesichts der oben ausgeführten fehlenden Wirksamkeit und somit Nutzen von Altersverifikation, um Kinder unter 14 Jahren zu schützen, scheinen die menschenrechtlichen Risiken, denen sich nicht nur Kinder über 14 Jahre, sondern alle Erwachsene aussetzen, sehr hoch. Hohe Risiken für Privatsphäre aller Nutzer*innen und chilling effect für andere Rechte Die Natur der Altersverifikation bringt es mit sich, dass sowohl Kinder als auch Erwachsene ihre personenbezogenen Daten angeben müssen, um nachzuweisen, dass sie ein bestimmtes Alter überschritten haben. Gleichzeitig beinhalten alle Instrumente zur Altersverifikation in gewissem Umfang die Erhebung und Verarbeitung personenbezogener Daten. Die Maßnahme hat somit Auswirkung auf die Privatsphäre22 aller Nutzer*innen und kann sich auf andere Rechte auswirken. Auch wenn Bemühungen der Bundesregierung erkennbar sind, die Privatsphäre durch ein sog. „Double- Blind-Modell“ zu schützen, stellt Amnesty International fest, dass eine Kontrolle durch Altersverifikation technisch hoch komplex ist und die meisten, bis dato eingesetzten, Systeme ernsthafte Datenschutzbedenken aufwerfen: So soll die EU eigene App zur Altersverifikation innerhalb von nur zwei Minuten gehackt worden sein.23 Zudem ist bekannt geworden, dass weitere Anbieter von Identitätsprüfung mit Datenlecks von Millionen von User*innen24 und Identitätsdiebstahl25 konfrontiert waren. Zusätzlich sieht die Organisation die Gefahr einer abschreckenden Wirkung (sog. chilling effect) dieser Maßnahme, insbesondere auf Aktivist*innen, Journalist*innen und alle, die sich kritisch zu öffentlichen Belangen äußern. Wenn alle ihre persönlichen Daten hergeben müssen, um ihre Rechte online wahrzunehmen, gleichzeitig aber der Schutz dieser persönlichen Daten nicht ausreichend sichergestellt ist, kann das Menschen davon abschrecken, sich einer Altersverifikation zu unterziehen. Die Folge wäre, dass Menschen weniger Zugang zu Informationen, Möglichkeiten zum Vernetzen oder Organisieren hätten – Handlungen, die durch die Rechte auf Meinungsäußerungs-, Vereinigungs- und Versammlungsfreiheit geschützt sind. Amnesty International Österreich ruft die Bundesregierung daher dazu auf, anstelle dieses Verbots für Kinder unter 14 Jahre, dringend die Regulierung schädlicher Designs zu priorisieren und sich auf EU- Ebene für eine einheitliche Lösung einzusetzen. Als kurzfristige Maßnahme müssen solche Designs, die für Kinder besonders schädlich sind, reguliert bzw. verboten werden. Entsprechende Gesetze könnten auf dem bisher unverbindlichen Leitfaden zu Art. 28 DSA26 aufbauen. Den Zugang zu sozialen Medien zu verbieten, ist keine nachhaltige Lösung. Vielmehr ermöglicht es eine solche gesetzliche Regelung Plattformen, an ihren schädlichen Designs festzuhalten und gefährdet die Rechte aller Kinder und aller erwachsenen Nutzer*innen von sozialen Medien. 22 Art. 16 UN-KRK, Art. 17 IPpbR, Art. 8 EMRK. 23 Cybernews, EU age verification app can be hacked in 2 minutes, claims security expert, 21. April 2026, https://cybernews.com/security/eu-age-verification-app-hack/. 24 Panda Security, Over one billion customer records belonging to IDMerit users left unprotected online, 18. März 2026, https://www.pandasecurity.com/en/mediacenter/customer-records-idmerit-unprotected/. 25 Der Standard, Führerschein-Scans von Altersüberprüfungs-Dienst landeten über ein Jahr kontinuierlich im Darknet, 8. September 2026, https://www.derstandard.at/story/3000000338691/fuehrerschein-scans-von-altersueberpruefungs-dienst- landeten-ueber-ein-jahr-kontinuierlich-im-darknet. 26 Europäische Kommission, Leitlinien für Maßnahmen zur Gewährleistung eines hohen Maßes an Privatsphäre, Sicherheit und Schutz von Minderjährigen im Internet gemäß Artikel 28 Absatz 4 der Verordnung (EU) 2022/2065, 10. Oktober 2025, https://eur-lex.europa.eu/legal-content/DE/TXT/HTML/?uri=OJ:C_202505519. 6 ANNEX: RECHERCHEN VON AMNESTY INTERNATIONAL Amnesty International untersucht seit mehreren Jahren die Funktionsweise von Social-Media- Plattformen und kommt zu dem Schluss, dass ihre Geschäftsmodelle auf einer massenhaften, datenschutzverletzenden Datenerfassung basieren, mit dem Ziel Werbeeinnahmen zu lukrieren. Die dadurch entstehenden Schäden für die Rechte von Kindern und Erwachsenen sind auf vermeidbare Designentscheidungen der Plattformen zurückzuführen. Diese Geschäftsmodelle sind mit den Rechten auf ein Höchstmaß an Gesundheit, freie Meinungsäußerung und auf Zugang zu Information grundsätzlich unvereinbar. Untersuchungen von Amnesty International Die Erfahrungen von Kindern in sozialen Medien hat Amnesty International in zwei Berichten aus 2023 untersucht.27 Anhand des Fallbeispiels von TikTok analysierte Amnesty die Folgeschäden des auf Engagement (Interaktionen) basierenden Geschäftsmodells sozialer Medien: Erstens hat TikTok und die algorithmische Verstärkung schädlicher Inhalte Suchtwirkung. TikTok hat sich für diese Designs entschieden, obwohl es immer mehr Belege für die schwerwiegenden Gesundheitsrisiken gibt, die mit der zwanghaften Nutzung sozialer Medien durch Kinder verbunden sind.28 Der Erfolg von TikTok in diesem Bereich hat den Konkurrenten Meta (die Muttergesellschaft von Instagram und Facebook) dazu veranlasst, TikToks Fokus auf personalisierte Empfehlungen in seiner Strategie zur Nutzerbindung nachzuahmen und weiter in die Weiterentwicklung seines algorithmischen Systems zu investieren.29 Zweitens laufen jüngere Nutzer*innen, die Interesse an Inhalten zum Thema psychische Gesundheit zeigten, Gefahr, in sogenannte „Rabbit Holes“ hineingezogen zu werden. Das sind Inhalte, die in ihrem Feed verstärkt angezeigt wurden und depressive Gedanken, Selbstverletzung und Suizid thematisieren, romantisieren und fördern.30 2025 legte Amnesty International neue Belege vor, dass TikTok seine systemischen Designrisiken für Kinder entgegen internationalen Geschäfts- und Menschenrechtsstandards sowie den verbindlichen Verpflichtungen nach dem DSA nicht behoben hat.31 Die Versäumnisse von TikTok in Bezug auf das Recht auf Privatsphäre, freie Meinungsäußerung und ein Höchstmaß an Gesundheit finden sich in der gesamten Big-Tech-Landschaft wieder. Andere Social- Media-Unternehmen betreiben auf Kosten der Rechte und des Wohlbefindens ihrer Nutzer*innen ähnliche Geschäftsmodelle, um den Werbegewinn zu maximieren. Zusammengenommen zeigen diese drei Amnesty Berichte, dass die schädlichen Auswirkungen sozialer Medien aus Designentscheidungen entstehen, die vermeidbar sind. Sie sind kein Kompromiss, den Nutzer*innen zwingend eingehen müssen, um am digitalen öffentlichen Raum teilzuhaben. Solange Unternehmen nicht durch Vorschriften dazu gezwungen werden, verfolgen sie trotz anhaltender Risiken weiter ein auf Interaktion (Engagement) basierendes Geschäftsmodell und nehmen keine sinnvollen Änderungen an ihren Plattformen vor, um Kinder zu schützen. Verbindliche Vorschriften zeigen Wirkung: Beispielsweise hat TikTok aufgrund des regulatorischen Drucks in den USA, Kanada, dem Europäischen Wirtschaftsraum, dem Vereinigten Königreich, der Schweiz und in Lateinamerika kürzlich einige Schritte unternommen, um personalisierte, zielgerichtete Werbung, die die Privatsphäre verletzt und sich an Kinder richtet, zu beenden. Diese Schritte sind zwar begrüßenswert, aber die Maßnahmen gehen nicht weit genug. Das Geschäftsmodell von TikTok birgt in diesen Regionen weiterhin 27 Amnesty International, “I Feel Exposed”: Caught in TikTok’s Surveillance Web, November 2023, https://www.amnesty.org/en/documents/POL40/7349/2023/en/; Amnesty International, Driven into Darkness: How TikTok’s ‘For You’ Feed Encourages Self-Harm and Suicidal Ideation, November 2023, https://www.amnesty.org/en/documents/POL40/7350/2023/en/. 28 Amnesty International, Driven into Darkness: How TikTok’s ‘For You’ Feed Encourages Self-Harm and Suicidal Ideation, November 2023, https://www.amnesty.org/en/documents/POL40/7350/2023/en/, Seite 7. 29 Amnesty International, Driven into Darkness: How TikTok’s ‘For You’ Feed Encourages Self-Harm and Suicidal Ideation, November 2023, https://www.amnesty.org/en/documents/POL40/7350/2023/en/, Seite 37. 30 Amnesty International, Driven into Darkness: How TikTok’s ‘For You’ Feed Encourages Self-Harm and Suicidal Ideation, November 2023, https://www.amnesty.org/en/documents/POL40/7350/2023/en/, Seite 7. 31 Amnesty International, France: Dragged into the rabbit hole: New evidence of TikTok’s risks to children’s mental health, 20. Oktober 2025, https://www.amnesty.org/en/documents/POL40/0360/2025/en/. 7 Datenschutzrisiken für jüngere Nutzer*innen. Amnesty hat wiederholt an Social-Media-Plattformen appelliert, sicherzustellen, dass sie robuste Due-Diligence-Prozesse implementieren und Transparenz über diese Prozesse bieten. Diese Beispiele verdeutlichen die zunehmende Erkenntnis, dass das Problem nicht darin besteht, dass Kinder auf soziale Medien zugreifen – das Problem ist vielmehr, dass diese Online-Räume von Social- Media-Plattformen so gestaltet wurden, dass sie unsicher sind, weil dieses Geschäftsmodell profitabel ist. Gleichzeitig verletzt es Rechte und gefährdet das Wohlbefinden der Nutzer*innen. Daher braucht es eine Neugestaltung der Plattformen. Amnesty Internationals Position, dass Social-Media-Plattformen eine Verantwortung dafür tragen, ihre schädlichen Designentscheidungen zu ändern, werden in den Leitlinien der Europäischen Kommission zu Artikel 28 des DSA32, im Bericht des Europäischen Parlaments aus dem Jahr 2025 zum Schutz von Minderjährigen im Internet33 und in dem Anfang dieses Jahres veröffentlichten Bericht34 des Sonderausschusses für die Sicherheit von Kindern im Internet widergespiegelt. Empfehlungen zum Umgang mit schädlichen Designs Für Staaten der Europäischen Union empfehlen Amnesty International und über 140 Organisationen und Expert*innen eine einheitliche europäische Lösung im Umgang mit schädlichen Designs, die auf Änderungen der Designs ausgerichtet ist.35 Kurzfristig müssen Designelemente von Plattformen verboten bzw. reguliert werden, die nachweislich den größten Schaden für Kinder verursachen. Das gewährleistet eine dringende und wirksame Lösung, um sicherere Plattformen zu schaffen, ohne Kinder aufgrund schädlicher Entscheidungen von Social- Media-Unternehmen von der Teilhabe an Online-Raum auszuschließen und zu benachteiligen. Solche schädlichen Designs sind zum Beispiel: • Süchtig machende Designelemente, die es Kindern erschweren, sich von Plattformen zu lösen, wie beispielsweise unendliches Scrollen („infinite scroll“) und automatische Wiedergabe („autoplay“). • Hyperpersonalisierte algorithmische Feeds, die Kinder in Zyklen oder „Rabbit Holes“ mit schädlichen Inhalten locken können. • Funktionen für den sozialen Vergleich, wie öffentliche Likes, Aufrufe oder die Anzahl der Follower*innen, die mit negativen Auswirkungen auf die psychische Gesundheit von Kindern in Verbindung gebracht werden können. Langfristig müssen Staaten darauf hinarbeiten, dass Social-Media-Plattformen ihr Geschäftsmodell grundlegend überarbeiten, damit Plattformen für alle sicherer werden und Rechte respektieren. Dadurch entfällt auch die Notwendigkeit weiterer Maßnahmen, wie der risikobehafteten Altersverifikation. Zusätzlich sollten Regierungen sicherstellen, dass sie den Nutzer*innen Rechenschaftspflicht und Rechtsbehelfe für Schäden bieten, die sie online erleiden. Amnesty International hat diesen Ansatz nach umfassenden Konsultationen mit Kindern, jungen Menschen, Expert*innen für Kinderrechte sowie Menschenrechtsorganisationen entwickelt.36 32 Europäische Kommission (10. Oktober 2025), Teil 1, Abs.2; Teil 5, Abs. 20. 33 Europäisches Parlament, Online protection of minors, 11. November 2025, https://www.europarl.europa.eu/doceo/document/TA-10-2025-0299_EN.html. 34 Europäische Kommission, Child safety online: Protecting and Empowering Minors in a Digital World, Juli 2026, https://commission.europa.eu/document/download/d833504d-5ec3-4fac-945f-38e7d0bd5326_en?filename=Special-panel- report.pdf. 35 5Rights Foundation, Regulate tech, not kids, say 140+ organisations and experts ahead of EU State of the Union, 8. September 2026 https://5rightsfoundation.com/wp-content/uploads/2026/09/Joint-Statement-on-the-expert-panel- report_5R_September-2026.pdf. 36 Amnesty International, Global: Young voices on social media bans, 15. Juni 2026, https://www.amnesty.org/en/latest/campaigns/2026/06/global-young-voices-on-social-media-bans/; Amnesty International, “We are totally exposed”: Young people share concerns about social media’s impact on privacy and mental health in global survey, 7. Oktober 2023, https://www.amnesty.org/en/latest/news/2023/02/children-young-people-social-media-survey-2/. 8