Online sportweddenschappenbedrijf DraftKings gebruikt AI om klanten te targeten die het meest waarschijnlijk verliezende weddenschappen plaatsen en reageren op gokpromoties. Dit soort targeting is een vorm van online gedragsadvertenties, waarbij bedrijven de advertenties die ze je laten zien personaliseren op basis van de data die ze over je hebben verzameld. Hoe meer data een bedrijf heeft, hoe persoonlijker de advertentie kan zijn. Terwijl DraftKings AI gebruikt om de schadelijke effecten van online gedragsadvertenties te vergroten, heeft EFF lang betoogd dat alle gedragsadvertenties verboden moeten worden.
Volgens de New York Times gebruikt DraftKings de weddenschapsgegevens van zijn klanten om een machine learning-model te trainen om verliezende gokkers te vinden. Eenmaal gevonden, stuurt DraftKings deze klanten gerichte advertenties die bedoeld zijn om hen terug te lokken naar de site om meer weddenschappen te plaatsen—weddenschappen waarvan DraftKings denkt dat ze verliezend zullen zijn. DraftKings heeft een zakelijk belang om verliezende gokkers terug te laten komen naar hun site, omdat deze de gebruikers zijn die DraftKings daadwerkelijk geld opleveren. Helaas zijn degenen die als "probleemgokkers" worden beschouwd (mensen die herhaaldelijk gokken ondanks schade aan zichzelf, hun financiën en hun relaties) zeer waarschijnlijk het doelwit van dit model. Door deze individuen opnieuw te betrekken via gerichte promoties die erop gericht zijn hen op het platform te houden, profiteert DraftKings van hun kwetsbaarheid voor winst in plaats van hun risico te verminderen.
Roofzuchtige online gedragsadvertenties zijn niet nieuw, maar het gebruik van AI door bedrijven om data te verwerken en klanten te targeten heeft de schade vergroot. Online gedragsadvertenties stimuleert de verzameling van enorme hoeveelheden data om ad tech aan te drijven. Het toevoegen van AI aan de mix betekent dat er nog meer data wordt verzameld om modellen te trainen en te verfijnen. Omdat AI als een black box opereert, kunnen de mensen die de modellen bouwen zelden voorspellen welke datapunten het meest nuttig zijn voor de AI, wat hen ertoe drijft om continu meer data te verzamelen. AI stelt bedrijven ook in staat om enorme datasets veel sneller te verwerken, en als gevolg daarvan vergroot het de schade van online gedragsadvertenties.
Een direct gevolg van online gedragsadvertenties is dat het de data levert die de surveillance-industrie nodig heeft om te draaien. Data verzameld voor gerichte plaatsing van advertenties wordt verkocht aan verzekeringsmaatschappijen, banken en staats- en federale overheidsinstanties voor wetshandhaving zoals CBP. ICE toont ook interesse in de data die ad tech aandrijft: eerder dit jaar publiceerde ICE een Request for Information "op zoek naar informatie om beter te begrijpen hoe de commerciële Big Data- en Ad Tech-providers van de industrie directe ondersteuning kunnen bieden aan onderzoeksactiviteiten."
DraftKings lijkt alleen "first party data" te gebruiken om hun advertenties te targeten, wat betekent dat ze alleen de data gebruiken die ze direct van hun gebruikers verzamelen en geen extra data kopen van derden om hun machine learning-model aan te drijven. Dit benadrukt hoe beleidsoplossingen die alleen het delen en verkopen van data van derden beperken niet voldoende zouden zijn om deze roofzuchtige advertenties te voorkomen. In plaats daarvan moeten beleidsmakers online gedragsadvertenties verbieden.
Wat DraftKings doet met hun gerichte promoties is slechts één voorbeeld van hoe online gedragsadvertenties echte schade veroorzaakt aan echte mensen. Maar er zijn manieren om de controle over je eigen data terug te nemen: EFF biedt bronnen zoals ons Surveillance Self Defense-project, samen met andere tips voor hoe je jezelf kunt beschermen op mobiele apps en op websites.
Het gebruik van AI door DraftKings om verliezende gokkers te targeten illustreert hoe ad tech evolueert en hoe bedrijven nieuwe manieren vinden om onze data tegen ons te gebruiken. Dit is waarom EFF gelooft dat alle gedragsadvertenties verboden moeten worden. Als bedrijven geen gepersonaliseerde advertenties kunnen sturen, hebben ze minder prikkel om de gedragsdata te verzamelen die ze aandrijven.
Originele auteur: Devanshi Nishar | Bron: EFF
600.476 SRY