Meta’s schikking met 52 statelijke procureurs-generaal is een slechte deal voor alle internetgebruikers, en vooral voor tieners. Dat zeiden we de dag dat de schikking werd aangekondigd.
In deze post gaan we de bepalingen van de schikking in detail na en leggen we uit waarom dat zo is, inclusief hoe:
De schikking age assurance-technologie en leeftijdspoorten in Meta’s socialemediaproducten inbedt en vereist dat alle gebruikers – minderjarigen en volwassenen – een rechtenbedreigend leeftijdsschattingsproces ondergaan.
De schikking legt strenge beperkingen op aan tieners die grotendeels alleen door de ouders van de tieners kunnen worden gewijzigd en alleen dan in ruil voor het geven van een hoop informatie aan hun ouders over hun online gemeenschap en gebruik.
De schikking lijkt de procureurs-generaal de macht te geven om Meta’s contentbeperking op “leeftijdsongeschikte content” af te dwingen, categorieën die Meta zelf moeite heeft gehad te beheren zonder informatie over seksualiteit, seksuele en reproductieve gezondheidszorg en abortusmedicatie uit te sluiten.
De schikking vereist eigenlijk dat Meta meer informatie over zijn tienergebruikers verzamelt, analyseert en bewaart – terwijl de druk op Meta had moeten liggen om zijn surveillancekapitalisme te verminderen. En de schikking beperkt de procureurs-generaal op geen enkele manier om de gebruikersinformatie voor hun eigen wetshandhavingsdoeleinden op te vragen.
Opmerking: Een deel van de schikking behandelt ongeautoriseerde gebruikers onder de 13 jaar en Meta’s verplichtingen om te voldoen aan de Children’s Online Privacy Protection Act. Meta-beleid heeft gebruikers onder de 13 jaar verboden sinds het bedrijf in 2006 openbaar werd. Afgezien van de leeftijdsschattingskaders die zowel die als de andere delen van de schikking ondersteunen, worden de bepalingen voor onder de 13 in deze post niet behandeld. Die bepalingen vereisen in wezen dat Meta alle accounts onder de 13 detecteert en verwijdert.
Verdere opmerking: Alle Amerikaanse staten zijn partij bij de schikking behalve Florida, New Mexico en Texas. De schikking omvat D.C., Amerikaans Samoa, Guam, de Noordelijke Marianen en Puerto Rico.
Leeftijdspoorten versterkt door leeftijdsschattingstechnologie
In de schikking stemt Meta ermee in om Instagram en Facebook met leeftijdspoorten te beveiligen, waardoor leeftijdspoorten een wettelijk mandaat worden. En verder zal Meta deze leeftijdspoorten nu handhaven met leeftijdsschattingstechnologie, waarbij het eerdere praktijk wordt losgelaten waarbij de persoon die zich aanmeldt voor de diensten zelf zijn geboortedatum bevestigt. Deze concessie verankert diep gebrekkige leeftijdsschattingstechnologie stevig in de online-ervaring van miljoenen mensen over de hele wereld. Allereerst bedreigt de leeftijdverificatieopzet serieus de online anonimiteit en privacy voor iedereen, zoals we eerder zeiden. De technologie voegt ook gewoon een laag griezeligheid toe aan het gebruik van elke dienst. In de schikking belooft Meta om binnen een jaar een of meer leeftijdsschattingsmethoden toe te passen op elke Instagram- of Facebook-gebruiker in de staten en territoria die zich bij de schikking hebben aangesloten. [P. 10, §II.A.1]
1. Leeftijdsschattingskader. Binnen een (1) jaar na de ingangsdatum zal Meta een leeftijdsschattingskader (“Leeftijdsschattingskader”) aannemen, waarin het een or meer leeftijdsschattingsmethoden ontwikkeld door een derde partij en in licentie gegeven aan klanten (“Commercieel beschikbare leeftijdsschattingsmethoden”) of leeftijdsschattingsmethoden ontwikkeld door Meta (“Eigen leeftijdsschattingsmethoden”) (gezamenlijk “Leeftijdsschattingsmethoden”) zal toepassen op elke Meta SMP-gebruiker in de schikkende staten. Voor de doeleinden van deze sectie II.A wordt een leeftijdsschattingsmethode ontwikkeld of verworven door Meta die dezelfde of functioneel identieke technologie en methodologie gebruikt als een commercieel beschikbare leeftijdsschattingsmethode behandeld als een commercieel beschikbare leeftijdsschattingsmethode. Het leeftijdsschattingskader moet leeftijdsschattingsmethoden bevatten om te evalueren of een Meta SMP-gebruiker een tienergebruiker of U13 is, zoals beschreven in sectie II.A.6. Nieuwe gebruikers van Meta SMP’s die hun leeftijd nog niet hebben laten beoordelen door een leeftijdsschattingsmethode volgens Meta’s leeftijdsschattingskader, ontvangen de standaardbeschermingen volgens sectie II.A.10 van deze overeenkomst.
Die methoden kunnen commercieel beschikbare producten omvatten, evenals eigen leeftijdsschattingsprocessen die Meta heeft of ontwikkelt. Meta belooft ook leeftijdssignalen van Google en Apple-besturingssystemen en appstores in overweging te nemen. [§II.A.5] Meta heeft eerder gepleit voor leeftijdsschattingsvereisten die op Google en Apple vallen in plaats van op individuele diensten.
Deze leeftijdsschatting dumpt gebruikers in wezen in een van drie leeftijdscategorieën: 18+, 13-17 en onder de 13. Gebruikers onder de 13 zijn al lang verboden van Meta-producten, maar deze schikking creëert nieuwe verplichtingen om te zoeken naar en te detecteren gebruikers die misschien hebben gezegd dat ze ouder waren.
Voor degenen die worden geschat als ouder dan 18, garandeert de schikking geen direct voordeel voor jou: geen privacybescherming, geen grotere gebruikerscontroles voor je eigen accounts, geen deuk in Meta’s surveillancekapitalisme.
Degenen die worden geschat als 13-17 jaar oud, worden beperkt tot tienergebruikersaccounts.
Degenen die worden geschat als onder de 13, verliezen hun accounts helemaal.
Degenen die nieuwe accounts openen, hebben twee weken om zich te onderwerpen aan leeftijdsschatting, en als ze weigeren dat te doen, is Meta nu verplicht hen als tienergebruiker te behandelen, zelfs als ze zichzelf identificeren als 18 en ouder. [P. 18, §II.A.10.b]
(b) Veertien (14) dagen of meer na het aanmaken van een Meta SMP-account, worden Meta SMP-gebruikers die hun leeftijd nog niet hebben laten beoordelen door een leeftijdsschattingsmethode volgens het leeftijdsschattingskader behandeld als tienergebruikers voor de doeleinden van deze overeenkomst, ongeacht hun opgegeven leeftijd, behalve dat Meta SMP-gebruikers met een opgegeven leeftijd van 18 jaar of ouder de bescherming beschreven in sectie II.A.10.a.ii ontvangen.
Wat met mensen met bestaande accounts, die ver voorbij die periode van twee weken zijn om zich te onderwerpen aan leeftijdsschatting? Zullen zij ook standaard als tienergebruiker worden behandeld als ze leeftijdsschatting weigeren? Dat lijkt zo – de AG’s zouden waarschijnlijk geen schikking hebben geaccepteerd die Meta niet verplichtte om actie te ondernemen tegen bestaande tienergebruikers die ervoor kiezen het leeftijdsschattingsproces te vermijden. Misschien zal Meta zijn bestaande voorraad informatie over zijn huidige gebruikers gebruiken als een soort toegestane eigen leeftijdsschattingsproces? Dus misschien wordt een volwassen gebruiker wiens Facebook-account zelf ouder is dan 18, beoordeeld als ouder dan 18? Of een gebruiker die wordt geïdentificeerd als de echtgenoot van een gebruiker die leeftijd is geschat? Maar Meta kan alleen vertrouwen op een eigen proces als het voldoet aan de nauwkeurigheidsnormen die in de schikkingsovereenkomst zijn vastgelegd, en dat lijkt een formele beoordeling van nauwkeurigheid te vereisen.
Hoe nauwkeurig moet het leeftijdsschattingsproces zijn?
De schikking stelt maximale fout-positieve tarieven vast voor zowel commercieel beschikbare als eigen leeftijdsschattingsmethoden [Pagina’s 12-13, §II.A.6]. Binnen twee jaar mag elk niet meer dan 10% zijn voor leeftijden 16-17 en niet meer dan 3% voor leeftijden 13-15.
6. Leeftijdsschattingsnormen.(a) U18 fout-positieve tariefdrempels.(i) Elke commercieel beschikbare leeftijdsschattingsmethode die door Meta wordt ingezet voor nieuwe en bestaande gebruikers in de schikkende staten moet voldoen aan of onder de volgende U18 fout-positieve tarieven liggen, exclusief methode-omzeiling, binnen een jaar na de ingangsdatum: 10% voor minderjarigen van 16-17 en 3% voor minderjarigen van 13-15.(ii) Elke eigen leeftijdsschattingsmethode die door Meta wordt ingezet voor nieuwe en bestaande gebruikers in de schikkende staten moet voldoen aan of onder de volgende U18 fout-positieve tarieven liggen, exclusief methode-omzeiling, binnen 1 en 2 jaar na de ingangsdatum: (A) Jaar 1: Binnen een jaar na de ingangsdatum: 14% voor minderjarigen van 16-17 en 7% voor minderjarigen van 13-15.(B) Jaar 2: Binnen twee jaar na de ingangsdatum, 10% voor minderjarigen van 16-17 en 5% voor minderjarigen van 13-15.
Opmerkelijk is dat er geen limiet is aangegeven in het foutentarief voor fout-negatieven, wanneer het proces een volwassene verkeerd identificeert als onder de 18. De schikking toont over het algemeen weinig zorg voor degenen die ten onrechte in de tienergebruikerscategorie worden geplaatst. De schikking vereist alleen dat Meta een beroepsproces onderhoudt voor gebruikers wiens leeftijdscategorie verkeerd is beoordeeld. [P. 17, §II.A.9]
9. Beroepsproces. Gebruikers die beweren verkeerd te zijn geïdentificeerd als minderjarigen, moeten een duidelijke en opvallende manier krijgen om de beslissing aan te vechten. Beslissingen over alle gebruikersberoepen moeten tijdig worden genomen en aan de gebruiker worden meegedeeld samen met een basis voor de beslissing.
Meta moet ook maatregelen nemen om omzeiling van leeftijdsschatting te ontmoedigen, inclusief het plaatsen van limieten op het aantal pogingen dat een gebruiker mag doen. [P. 16, §II.A.7] Als onderdeel hiervan stemt Meta ermee in om proactief volwassen accounts te monitoren om te bepalen of een gebruiker extra leeftijdsschatting moet ondergaan. [P. 16, §II.A.7.c] Dit is slechts een van de manieren waarop de schikking Meta’s actieve surveillance van zijn gebruikers voor de komende tien jaar inbedt (zie hieronder voor meer).
(c) Het opnemen van een proactief monitorsysteem dat vereist dat gebruikers een extra leeftijdsschattingsmethode ondergaan waar een gebruiker wordt bepaald, inclusief op basis van hun gedrag op Meta SMP’s, waarschijnlijk de leeftijdsschattingsmethode te hebben omzeild en: (A) waarschijnlijk een tienergebruiker is na eerder te zijn beoordeeld als 18 of ouder; of (B) waarschijnlijk U13 is na eerder te zijn beoordeeld als 13 of ouder. Gebruikers die Meta bepaalt waarschijnlijk tienergebruikers zijn na eerder te zijn beoordeeld als ten minste achttien, kunnen ervoor kiezen geen extra leeftijdsschatting te ondergaan maar worden dan behandeld als tienergebruikers; en
Elk leeftijdsschattingsproces dat Meta gebruikt, moet jaarlijks worden getest.
Gegevensminimalisering
De schikking heeft wel gegevensminimaliseringsvereisten voor de gegevens die tijdens het leeftijdsschattingsproces worden verzameld. [§II.A.8] Maar er zijn talrijke gaten. De schikking vereist dat alle informatie die wordt verkregen en bewaard als onderdeel van de leeftijdsschattingsprocessen daarna “onmiddellijk in de wachtrij wordt geplaatst voor verwijdering, waarna het na een redelijke periode wordt verwijderd.” De “redenijke periode” is niet gedefinieerd. En de schikking definieert een categorie “Bewaarbare gegevens” die 90 dagen mag worden bewaard. Dit omvat “metadata over de leeftijdsschattingsmethode die door de gebruikersinformatie is gebruikt ... waar vereist om de voortdurende integriteit van leeftijdsschattingsystemen te waarborgen, inclusief maar niet beperkt tot het vermogen om omzeiling en gerelateerde patronen in de loop van de tijd te identificeren, en alleen zolang het voor die doeleinden vereist is.” De schikking vereist dat alle gegevens die door Meta of zijn leverancier worden verzameld, worden opgeslagen volgens industriestandaard gegevensbeveiligingsmaatregelen, een standaard die helaas het risico van een datalek niet elimineert.
8. Gegevensminimalisering en -beveiliging.(a) Behalve zoals hierin uiteengezet, worden alle gegevens verzameld door Meta van gebruikers van Meta SMP’s in de schikkende staten voor het enige doel van het uitvoeren van leeftijdsschatting, alle gegevens die worden bewaard van bekende U13’s en alle gegevens verzameld door een leverancier voor gebruik in een commercieel beschikbare leeftijdsschattingsmethode, vastgehouden voor de minimale periode die vereist is om de leeftijdstatus van een gebruiker te bepalen en daarna onmiddellijk in de wachtrij geplaatst voor verwijdering, waarna ze binnen een redelijke periode worden verwijderd. Meta mag (1) U13-gegevens alleen bewaren voor zover vereist voor doeleinden van ontwikkeling, training, testen en meten van de prestaties van het U13-leeftijdmodel (“U13-gegevens”), mits alle U13-gegevens die persoonlijk identificeerbare informatie vormen zoals gedefinieerd door 16 C.F.R. Part 312.2 worden beschermd met Meta’s hoogste gegevensprivacy- en beveiligingsnormen, en (2) metadata over de leeftijdsschattingsmethode die door de gebruikersinformatie is gebruikt (“Bewaarbare gegevens”) alleen waar vereist om de voortdurende integriteit van leeftijdsschattingsystemen te waarborgen, inclusief maar niet beperkt tot het vermogen om omzeiling en gerelateerde patronen in de loop van de tijd te identificeren, en alleen zolang het voor die doeleinden vereist is. Voor alle duidelijkheid, U13-gegevens kunnen niet worden gebruikt voor doeleinden zoals advertentietargeting en -levering, marketing of algoritmische optimalisatie-inspanningen. Alle U13-gegevens en bewaarbare gegevens moeten worden bewaard op de grofste haalbare granulariteit en kunnen niet voor enig ander doel worden gebruikt tenzij wettelijk vereist. Alle bewaarbare gegevens die niet langer vereist zijn voor de hierin uiteengezette doeleinden, moeten binnen 90 dagen worden verwijderd. De bovenstaande voorwaarden gelden niet voor de door de gebruiker opgegeven geboortedatum, opgegeven leeftijd, noch de uitkomst van de leeftijdsschattingsmethode (bijv. “tiener of volwassene”-classificatie).(b) Gegevens verzameld door Meta of een leverancier, of verzonden door een leverancier, moeten worden verzameld en opgeslagen met behulp van industriestandaard gegevensbeveiligingsmaatregelen en zoals vereist door de wet, inclusief encryptie in transit en in rust.(c) De partijen komen overeen om te goeder trouw mogelijke wijzigingen van deze bepaling te bespreken indien nodig om Meta in staat te stellen de effectiviteit van zijn leeftijdsschattingskader te verbeteren terwijl de beginselen van gegevensminimalisering en beveiliging die in deze sectie zijn uiteengezet, worden bewaard.
Beperkingen voor tieners (en iedereen die afziet van leeftijdspoorten)
Tienergebruikersaccounts zijn onderworpen aan tijd-, functie- en contentbeperkingen. Deze worden toegepast op degenen die worden geschat als 13-17 evenals elke nieuwe gebruiker die weigert zich te onderwerpen aan het leeftijdsschattingsproces en op bestaande gebruikers die weigeren zich te onderwerpen aan leeftijdsschatting en voor wie Meta niet kan vaststellen dat ze ouder zijn dan 17.
Tijdbeperkingen
Tienergebruikers zijn onderworpen aan de volgende tijdbeperkingen (§II.B). Deze maatregelen lijken ervan uit te gaan dat het meeste sociale mediagebruik van tieners frivool en onserieus is (niet dat die op zichzelf slecht zijn; het recht om te spelen behoort tot de mensenrechten van jongeren), waarbij wordt genegeerd dat tieners sociale media gebruiken voor school en persoonlijk onderzoek, het voeren van activisme-campagnes en andere inspanningen die mogelijk niet binnen deze tijdslimieten passen, en dat sommige tieners misschien moeten werken op de beperkte tijden om hun families en zichzelf te onderhouden:
Nachttoegangsmodus – geen toegang (behalve berichten) tot Instagram en Facebook van middernacht tot 6 uur 's ochtends, en geen pushmeldingen van 22 uur tot 7 uur 's ochtends.
Schoolmodus – geen pushmeldingen van 8 uur tot 15 uur maandag tot vrijdag van 15 augustus tot 15 juni.
Dagelijkse cumulatieve tijdslimiet van 2 uur per dag over Instagram en Facebook, reset om middernacht, exclusief video- en audiocontent van ten minste 22 minuten lang, zonder kunstmatige verlenging, gedefinieerd door de schikking als “langvormige content.”
“Productieve pauzes en meldingen” ontworpen om “excessief, gedachteloos of onbedoeld tienergebruik te verminderen of te voorkomen.” Dit betekent dat het gebruik van een tiener na 60 en 90 minuten dagelijks cumulatief gebruik even wordt gepauzeerd met meldingen elke 15 minuten continu gebruik. Volgens de schikking zien deze productieve pauzes en meldingen er als volgt uit:
exhibit_g_meta.jpg
Om duidelijk te zijn, het vermogen om tijdslimieten, black-outtijden en geplande pauzes in te stellen zijn allemaal nuttige functies die beschikbaar en gemakkelijk te implementeren zouden moeten zijn voor gebruikers van alle leeftijden. Dergelijke tools zouden tieners en alle gebruikers de mogelijkheid hebben gegeven om hun eigen veilige ervaring te ontwerpen, aangepast aan hun eigen behoeften, online. Dergelijke gebruikerscontroles zouden hebben erkend dat tieners mensenrechten, handelingsvermogen en autonomie hebben.
Maar dat is niet wat deze beperkingen zijn. Het zijn geen tools die de tienergebruikers controle geven. In plaats daarvan worden ze van bovenaf opgelegd aan tieners en iedereen die weigert zich te onderwerpen aan Meta’s leeftijdsschattingsproces.
Functiebeperkingen (§II.C-D)
Binnen vier maanden na de ingangsdatum van de schikking moet Meta tieners een optie bieden voor een niet-gepersonaliseerde feed, die wordt gedefinieerd als een feed van chronologisch geordende posts van vrienden en follows. Tieners zullen ook autoplay kunnen uitschakelen als onderdeel van een “optioneel beschermend instellingenpakket.” Elk van deze instellingen moet “binnen drie gebruikersgebaren zichtbaar en duidelijk gelabeld, gemakkelijk op te merken, zonder scrollen zichtbaar en ontdekbaar in een intuïtieve locatie binnen” de dienst zijn.
Opnieuw zouden dit nuttige gebruikerscontroles zijn die aan gebruikers van alle leeftijden zouden moeten worden aangeboden. En hoewel een tienergebruiker mogelijk controle heeft over deze functies, staat hij die controle af aan hun ouder zodra ze zich inschrijven voor ouderlijk toezicht, deel van de ouderlijk toezicht trade-off die hieronder wordt besproken.
Ook standaard zullen tieners het aantal likes of andere reacties op hun posts niet zien.
Tieners zullen ook geen toegang hebben tot wat de schikking “cosmetische procedurefilters” noemt, dat wil zeggen “elke digitale filter of augmented reality-effect die het gezicht van een gebruiker vervormt, beeldhouwt, herdefinieert of idealiseert op een manier die niet kan worden bereikt zonder cosmetische chirurgie of extreme make-uptechnieken.”
X. “Cosmetische procedurefilter” betekent elke digitale filter of augmented reality (AR)-effect die het gezicht van een gebruiker vervormt, beeldhouwt, herdefinieert of idealiseert op een manier die niet kan worden bereikt zonder cosmetische chirurgie of extreme make-uptechnieken. Voor alle duidelijkheid, “Cosmetische procedurefilter” omvat niet: (1) Fantasie/karaktereffecten: Filters die de gezichtsstructuur van een gebruiker veranderen met het doel de gebruiker in een niet-menselijk of fictief personage (bijv. een elf of cartoon) of een dier (bijv. een draak of puppy) te veranderen; (2) Make-up/egalisatie-effecten: Filters die de huid egaliseren of het uiterlijk veranderen op manieren die kunnen worden bereikt door gewone make-uptechnieken zonder de onderliggende fysieke gezichtsstructuur te veranderen of de huidskleur zinvol te veranderen; of (3) Parodie- en overdrijvingseffecten: Effecten die gebruikers vermaken door hun uiterlijk te vervormen door middel van parodie, satire of overdreven vormen (bijv. extreme visuele vervormingen buiten het bereik van normale cosmetische procedures). Om deze definitie operationeel te maken, zullen de schikkende staten Meta illustratieve voorbeelden en richtlijnen geven van AR-effecten die cosmetische procedurefilters zijn en AR-effecten die dat niet zijn in een brief die binnen twee (2) maanden na de ingangsdatum wordt verzonden.
Meta heeft sinds 2019 regels over cosmetische effecten gericht op tieners. Maar de schikking zal de staten een grote rol geven bij het helpen van Meta om te identificeren welke functies wel en niet cosmetische procedurefilters zijn.
Contentbeperkingen (P.1, §II.E, zoals gedefinieerd door §I.C, E, F)
Voor content belooft Meta in wezen zijn bestaande praktijken voort te zetten door tienergebruikers te beperken tot leeftijdsgeschikte content en accounts, en tienergebruikers standaard in te stellen op leeftijdsgeschikte ervaringen. Dit omvat het beperken van toegang tot accounts die “regelmatig content delen die ongeschikt is voor tieners” zoals content uit de volgende Meta community standards-categorieën: Volwassen naaktheid en seksuele activiteit, Beperkte goederen en diensten, Zelfmoord, Zelfbeschadiging of eetstoornissen.
C. “Leeftijdsgeschikte ervaringen” verwijst naar content die geschikt is voor tienergebruikers op basis van input van experts, ouders en tieners. Voor de doeleinden van deze overeenkomst betekent leeftijdsgeschikte ervaringen content vastgelegd in Meta’s toepasselijke Ages 13+ contentinstelling, die is gekoppeld aan beleidsregels geïnspireerd door filmclassificaties voor 13+ en ouderfeedback.
D. “Leeftijdsschattingsmethoden” heeft de betekenis zoals uiteengezet in sectie II.E. “Leeftijdson geschikte accounts” verwijst naar accounts die regelmatig content delen die ongeschikt is voor tieners of die accountinformatie hebben die anders suggereert dat het account ongeschikt is voor tienergebruikers. Voor de doeleinden van deze overeenkomst betekenen leeftijdson geschikte accounts accounts die: (1) regelmatig leeftijdson geschikte content delen in de volgende categorieën: Volwassen naaktheid en seksuele activiteit, Beperkte goederen en diensten, Zelfmoord, Zelfbeschadiging of eetstoornissen, of (2) accountnamen of profielfoto’s of bio’s hebben die suggereren dat het account anders ongeschikt is voor minderjarigen, op basis van Meta’s beleidsregels voor de volgende categorieën: Volwassen naaktheid en seksuele activiteit, Beperkte goederen en diensten, Zelfmoord, Zelfbeschadiging of eetstoornissen.
F. “Leeftijdson geschikte content” verwijst naar content die over het algemeen door Amerikaanse ouders, jeugdeskundigen en tieners als niet geschikt voor tienergebruikers wordt beschouwd. Voor de doeleinden van deze overeenkomst betekent leeftijdson geschikte content content die verboden is door Meta’s community standards met betrekking tot pesten en intimidatie; naaktheid en seksuele activiteit; seksuele uitbuiting, misbruik en naaktheid van kinderen; seksueel expliciete taal; zelfmoord, zelfbeschadiging en eetstoornissen; grafisch geweld en oproepen tot geweld; gokken; en beperkte stoffen of goederen (inclusief illegaal drugsgebruik), evenals beleidsregels die specifiek gericht zijn op bescherming voor tienergebruikers, inclusief die met betrekking tot hoogrisico virale uitdagingen en riskante stunts.
Het probleem hier is dat sommige van deze categorieën problematisch zijn. Bijvoorbeeld, de standaard voor beperkte goederen en diensten is door Meta gebruikt om informatie over abortusmedicatie te verwijderen, zoals we hebben beschreven in onze Stop Censoring Abortion-campagne en in ons commentaar aan de Meta Oversight Board. En onder de standaard voor volwassen naaktheid en seksuele activiteit blokkeert Meta tieners van “realistische kunst van zichtbare geslachtsdelen ... waar de naaktheid de focus van de afbeelding is” en heeft een geschiedenis van inconsistente toepassing van de standaard, inclusief met betrekking tot representaties van inheemse vrouwen, borstkankerbewustzijnsposts, educatieve posts over ovulatie en posts over zelfonderzoek van testikels en borsten. En het heeft de standaard disproportioneel negatief toegepast op homoseksuele en lesbische content in vergelijking met heteroseksuele content.
En nog zorgwekkender, hoewel dit gewoon Meta is die zijn bestaande praktijken voortzet, machtigt de schikking de staten om de bepalingen af te dwingen. [P. 40, §IV.C.1.i; §VII.C] Dat betekent dat Meta de komende tien jaar, de duur van de schikking, de dreiging zal ondervinden dat een statelijke procureur-generaal juridische actie tegen het zal ondernemen omdat het het niet eens is met hoe Meta deze categorieën van community standards interpreteert, en Meta zal onder druk zetten om tienergebruikers de toegang tot posts over seksualiteit en reproductieve en seksuele gezondheid te ontzeggen. En Meta zal nu de hardverdiende First Amendment-verdedigingen missen om zijn eigen curatoriële beslissingen te nemen.
C. Niettegenstaande alles in secties VIII.A-B hierboven, mag een schikkende staat elke actie ondernemen, inclusief maar niet beperkt tot juridische actie om naleving van de overeenkomst af te dwingen, zonder vertraging als de schikkende staat van mening is dat een bedreiging voor de gezondheid of veiligheid van het publiek onmiddellijke actie vereist.
De ouderlijk toezicht trade-off
Al deze beperkingen voor tienergebruikers kunnen worden gewijzigd – maar alleen als de tienergebruiker zich inschrijft voor ouderlijk toezicht dat hun account koppelt aan het account van een ouder of voogd. Zodra hun accounts zijn gekoppeld, kunnen ouders de instellingen voor tienergebruikers wijzigen om ze minder restrictief te maken (ze hebben de toestemming van de tiener nodig als ze ze restrictiever willen maken).
Ouderlijk toezicht komt met enorme trade-offs. Er is een enorme privacy trade-off: in ruil voor het aanwijzen van iemand als hun ouder, krijgt de ouder veel informatie over het gebruik van de tiener: de gebruikersnamen van al de connecties van de tiener, rapporten over hoeveel tijd de tienergebruiker besteedt aan een Meta-dienst, de tijd besteed aan het kijken naar langvormige content, gebruikersnamen van iedereen die met de tienergebruiker bericht, en elk bewijs dat Meta heeft over vermoedelijke secundaire accounts. De toezichthoudende ouder krijgt ook meldingen van de herhaalde zoekopdrachten van de tiener met betrekking tot zelfmoord, zelfbeschadiging en eetstoornissen. [P. 28, §II.G] En er zijn enorme autonomie trade-offs: eenmaal ingeschreven in ouderlijk toezicht, gaat het vermogen om functies zoals aanbevelingen en autoplay te controleren, zoals hierboven besproken, over van de tienergebruiker naar hun ouder.
Ouderlijk toezicht
1. Meta stemt ermee in om toezichthoudende ouders informatie te verstrekken over de hoeveelheid tijd die hun tienergebruiker besteedt aan Meta SMP’s, inclusief apart voor tijd op de Meta SMP, tijd met de messagingfuncties van de Meta SMP, tijd met het bekijken van langvormige content (voor zover uitgesloten van de berekening van dagelijkse limieten volgens sectie II.B.3.a.i), en de gebruikersnamen van de sociale connecties van de tienergebruiker en individuen die met de tienergebruiker berichten, en gebruikersnamen van elke gebruiker die door een tienergebruiker is gerapporteerd. Bovendien zal Instagram toezichthoudende ouders op de hoogte stellen als hun tienergebruiker herhaaldelijk zoekt naar termen met betrekking tot zelfmoord, zelfbeschadiging of eetstoornissen, en Facebook zal toezichthoudende ouders op de hoogte stellen als hun tienergebruiker herhaaldelijk zoekt naar termen met betrekking tot zelfmoord, zelfbeschadiging of eetstoornissen.
2. Voor tienergebruikers zullen toezichthoudende ouders dagelijks op de hoogte worden gesteld wanneer de tienergebruiker voor het eerst rechtstreeks communiceert met elke volwassen gebruiker met de tienergebruiker en zullen een link naar het profiel van de volwassen gebruiker verstrekken om informatie te geven zoals hun opgegeven woonplaats of stad of wederzijdse connecties, voor zover de informatie openbaar beschikbaar is.
3. Wanneer een tienergebruiker zich inschrijft voor ouderlijk toezicht, zullen Meta SMP’s de toezichthoudende ouder vragen om de instellingen van hun tienergebruiker te bekijken om updates te overwegen ter ondersteuning van hoe hun tienergebruiker zijn tijd besteedt aan Meta SMP’s. Meta zal geen instellingen vooraf selecteren, aanbevelen of aanmoedigen die minder restrictief zijn dan de standaardinstellingen in deze overeenkomst.
4. Meta SMP’s zullen periodiek check-ups voorstellen voor toezichthoudende ouders om samen met hun tienergebruikers te doen om hun instellingen en gebruik te evalueren.
5. Meta SMP’s stemmen ermee in om door te gaan met stappen die zijn ontworpen om inschrijving in hun ouderlijk toezichttools aan te moedigen.
6. Als een tienergebruiker is ingeschreven in ouderlijk toezicht, zal Meta de toezichthoudende ouder op de hoogte stellen als de tienergebruiker een nieuw secundair Meta SMP-account creëert of expliciet koppelt binnen hun Accounts Center of is gekoppeld aan een soft matched account via Meta SMP’s, inclusief een link naar het profiel van het secundaire account. Meta SMP’s zullen de goedgekeurde tijdbeheerinstellingen van de toezichthoudende ouder in sectie II.B en contentbeperkingen automatisch toepassen op alle expliciet gekoppelte Meta SMP-accounts en alle begeleide accounts voor een tienergebruiker behorend tot dezelfde Meta SMP.
Helaas heeft Meta geen geweldige manier om te leren of er een echte ouder-tienergebruikerrelatie bestaat. Maar het zal proberen het goed te doen. [§II.G.8]
Dit kan uiteindelijk werkbaar zijn voor jonge mensen met gezonde en veilige relaties met hun ouder of voogd. Maar het is duidelijk helemaal niet goed voor een tienergebruiker die zo’n veilige relatie mist.
Meer surveillance, niet minder
Bovendien, in plaats van Meta weg te duwen van het verzamelen, analyseren en bewaren van gebruikersgegevens, vereist de schikking dat Meta er meer van doet voor de komende tien jaar. Verschillende bepalingen van de schikking vereisen dat Meta het gebruik van Instagram en Facebook door zijn gebruikers zorgvuldig bijhoudt om te bepalen of zijn leeftijdsschattingskader en beperkingen voor tienergebruikers werken zoals bedoeld.
Bijvoorbeeld:
Meta belooft de vriendnetwerken van gedetecteerde U13-gebruikers te beoordelen om andere mogelijke U13-gebruikers te identificeren. [§II.A.6.(b).(i).(D)]
Meta zal een ���proactief monitorsysteem” opnemen om mogelijke tienergebruikers te identificeren onder degenen die aanvankelijk als ouder dan 17 werden bepaald door zijn leeftijdsschattingsproces. [§II.7.(c)]
Meta belooft zijn bestaande “soft matching-modellen” te gebruiken en te verbeteren die signalen zoals “device ID’s, telefoonnummers en e-mailadressen” volgen om dubbele accounts te identificeren. [§II.B.6.(a)]
Meta zal tienergebruikersactiviteit blijven monitoren om “regelmatig de prevalentie van blootstelling van tienergebruikers aan leeftijdson geschikte content en blootstelling van tienergebruikers aan ervaringen die geen leeftijdsgeschikte ervaringen zijn te evalueren,” [§II.E.3] en ook om “regelmatig de prevalentie van blootstelling van tienergebruikers aan schadelijke ervaringen op Meta SMP’s te evalueren.” [§II.F.3]
Monitor tienergebruikersberichten om berichtthreads met potentieel verdachte accounts te identificeren. [§II.F.4]
De schikking vereist ook dat Meta het gebruik van zijn diensten actief monitort zodat het gegevens kan leveren aan de onafhankelijke auditor die nu de naleving van de schikking zal monitoren. “De onafhankelijke auditor heeft recht op toegang tot de niet-geprivilegieerde informatie, personeel, systemen en records die redelijkerwijs relevant en voldoende zijn om Meta’s implementatie van de injunctieve verlichtingsvoorwaarden te evalueren, inclusief, maar niet beperkt tot, toegang tot ruwe gegevens; geaggregeerde gegevens; informatie; interne documenten en communicatie” plus informatie van zijn leeftijdsschattingsprocessen, gegevens over reacties van tienergebruikers op de productieve pauzes, gegevens over zijn modellen voor soft matching van secundaire accounts, gegevens over de prevalentie van blootstelling van tienergebruikers aan leeftijdson geschikte content en schadelijke ervaringen, en aan ervaringen die geen leeftijdsgeschikte ervaringen zijn. [§III.E]
Bovendien is een van de grootste bedreigingen van Meta’s surveillance de honeypot van gegevens die het creëert en die mogelijk toegankelijk is voor overheden voor wetshandhaving en andere onderzoeken. Nergens in de schikking beloven de 52 procureurs-generaal niet te proberen toegang te krijgen tot alle gegevens die de schikking Meta verplicht te verzamelen en te bewaren.
Meta moet de staten betalen en betaalt om normen buiten Meta te vestigen
De schikking omvat ook jaarlijkse betalingen van Meta aan de staten, naar schatting evenredig aan de grootte van de tienergebruikersbasis van elke staat. Over de tienjarige looptijd van de schikking zullen deze jaarlijkse betalingen in totaal meer dan 11 miljard dollar bedragen. En de staten krijgen dan nog eens 5 miljard dollar als Meta-concurrenten dezelfde maatregelen aannemen.
Deze eigenaardigheid van de schikking stimuleert de staten om vergelijkbare leeftijdsschattingsprocessen en ten minste even restrictieve maatregelen voor tienergebruikers na te streven voor Meta’s belangrijkste bestaande concurrenten voor tienergebruik, YouTube, TikTok en Snap, en voor elke nieuwe dienst die wijdverbreid tienergebruik kan krijgen tijdens de looptijd van de schikkingsovereenkomst. Als de staten Meta’s concurrenten ertoe kunnen brengen dezelfde maatregelen aan te nemen, dan krijgen de staten de extra 5 miljard dollar aan jaarlijkse betalingen. Dat is nogal een stimulans voor de staten om juridische procedures en regelgevende maatregelen tegen die bedrijven na te streven. Dit alles zal leeftijdsschatting, leeftijdspoorten en het afstaan van tienerautonomie verder als norm verankeren over online diensten.
1. In het geval dat de voorwaardelijke monetaire betalingstrigger heeft plaatsgevonden in een schikkende staat, is Meta verplicht om aan die schikkende staat tien gelijke termijnen te betalen in het bedrag zoals uiteengezet in bijlage B (elk een “voorwaardelijke termijnbetaling”).
2. Na de datum waarop de voorwaardelijke monetaire betalingstrigger heeft plaatsgevonden, worden de voorwaardelijke termijnbetalingen aan de schikkende staat gedaan op 15 januari in elk daaropvolgend kalenderjaar van de looptijd van de overeenkomst als volgt:
(a) Op de volgende geplande betalingsdatum wordt de schikkende staat de voorwaardelijke termijnbetaling voor die betalingsdatum en alle eerdere betalingsdata betaald.(b) Voor elke van de resterende betalingsdata wordt de schikkende staat de voorwaardelijke termijnbetaling voor die betalingsdatum betaald.
3. Als een schikkende staat er niet in slaagt de voorwaardelijke monetaire betalingstrigger te bereiken tijdens de looptijd van de overeenkomst, worden de voorwaardelijke termijnbetalingen permanent verbeurd door die schikkende staat en behouden door Meta. Voor alle duidelijkheid, geen schikkende staat heeft de verplichting om de voorwaardelijke betaling terug te betalen.
De schikking is dus een slechte deal voor alle gebruikers van Facebook en Instagram. Het normaliseert leeftijdspoorten en leeftijdsschatting voor miljoenen internetgebruikers. Het ontzegt tieners de tools om hun eigen veilige ervaringen online te creëren en plaatst hun socialemedia-ervaring stevig onder de controle van ofwel Meta of hun ouders. En in plaats van Meta’s verzameling, analyse en bewaring van gegevens over het gebruik van Instagram en Facebook door tieners aan te pakken, bindt het Meta aan voortdurende surveillance en doet het niets om toegang tot dergelijke gegevens door de staten te beschermen.
Originele auteur: David Greene | Bron: EFF
476.151 SRY