Het Spinnewiel-Beveiligingsbedrijf

Herinner je je de goede fee Merryweather uit Doornroosje nog? Zij is degene die, wanneer de boze koningin de pasgeboren Aurora vervloekt om zich op haar zestiende verjaardag aan een spinnewiel te prikken en te sterven, de vloek niet ongedaan kan maken... maar deze wel kan verzachten. Dus gebruikt ze haar eigen gave om het einde te veranderen: geen dood, maar een diepe, betoverende slaap.

Er is momenteel sprake van een enorme hoeveelheid ogenschijnlijk gecoördineerde (durf ik het te noemen) paniek rondom kunstmatige intelligentie. Ik heb uitgebreid geschreven over de legitieme, existentiële gevaren die we wel degelijk moeten aanpakken in de technologie. Maar mijn intuïtie zegt me dat deze huidige hysterie dat niet is.

Om te beginnen: waarom nu? Ik ben zeker niet de enige persoon die al jaren over deze kwesties schrijft of gelooft dat we die drempel allang zijn gepasseerd. Dus waarom die plotselinge, gesynchroniseerde urgentie? Waarom publiceert iemand als Bill Gates – na letterlijk decennia de meest prominente optimist van AI te zijn geweest – plotseling een essay van 6.000 woorden waarin hij waarschuwt dat we "de gevarendrempels van AI zijn gepasseerd" en oproept tot nieuwe nationale en internationale regelgevende instanties? Wat heeft hij eraan, nu, na al die tijd?

Een psychologische operatie is nooit zomaar één ding. Het is een wildernis van spiegels. Een enkele spiegel toont je één reflectie die je kunt identificeren en corrigeren. Een wildernis daarvan betekent dat elke hoek die je controleert een andere hoek weerspiegelt, zonder schoon uitkijkpunt buiten de hal om aan te verifiëren, wat functioneel is wat een convergentie van meerdere actoren produceert, zelfs zonder dat één enkele persoon het orchestreert. Je hebt geen opperhoofdregisseur nodig die achter het glas staat om de spiegelzaal te laten werken. En dat is het onrustige deel: een enkele gecoördineerde psychologische operatie heeft in beginsel vermoedelijk een uitknop, als je de operator ooit vindt.

Een wildernis van onafhankelijk gestimuleerde spiegels heeft dat niet. Er is geen enkele draad om aan te trekken. Je zou de marketingprikkel van de labs moeten ontbekostigen, de dynamiek van regelgevende inmenging moeten herstructureren, het bedrijfsmodel van de media moeten fixen en het politieke nut uit "AI als boeman" moeten wegpunten – los van elkaar, allemaal tegelijk – om de reflectie daadwerkelijk te laten stoppen. Het is niet één ding. Het is vijf of zes dingen (meestal ten minste), die elk onafhankelijk winstgevend of nuttig zijn voor een andere partij, en die allemaal voorspelbaar en betrouwbaar dezelfde herrie produceren.

De convergentie ziet er ongeveer zo uit:

Echte bezorgdheid van onderzoekers, onevenwichtig gekalibreerd door een openbaar gesprek waarin het publieke volume van de zorg groter is dan de feitelijke epistemische zekerheid ervan.

Commerciële prikkel: "Dit is zo bekwaam dat het mis kan gaan" is ongemakkelijk genoeg ook een marketingclaim.

Dynamiek van regelgevende inmenging, waarschijnlijk het scherpe punt: zware nalevingsregimes belasten kleine concurrenten terwijl gevestigde partijen ze gemakkelijk absorberen, en sommige van de luidste stemmen die om regelgeving vragen, besturen de grootste labs.

Mediaprikkel: angst en vernieuwing presteren beide beter dan nuance voor betrokkenheid, punt uit, onafhankelijk van het onderwerp. Dit zou waar zijn voor AI-verslaggeving, zelfs als geen van de andere factoren bestond.

En politiek nut: AI-angst is een oprechte nuttige retorische tool geworden in zeer verschillende politieke projecten... Het dient argumenten voor gecentraliseerde controle, deregulerende "versla China"-urgentie en cultuuroorlog-angst over baanverlies of verlies van controle tegelijkertijd, afhankelijk van wie het gebruikt. Veel hiervan dateert van vóór AI en zou zich aan een ander doel hebben gehecht als AI niet was gekomen.

Geen van deze vereist een coördinerende hand die met de andere vier praat. Ze wijzen momenteel gewoon dezelfde kant op, om redenen die specifiek zijn voor de eigen prikkels van elke actor. Het is een kapstok: echte, afzonderlijke, ware dingen, allemaal gemakkelijk op dezelfde peg te hangen, waardoor de schijn van een verenigde campagne ontstaat zonder dat die daadwerkelijk hoeft te bestaan.

Er is een mainstream lichaam van wetenschap dat dit mechanisme beschrijft. Gregory Dickinson schrijft in zijn Harvard Journal on Legislation-artikel "Law Proofing the Future" in de sectie "Big Tech and Regulatory Capture": "the very platforms and app makers whose companies make prompt calls for regulation often play a decisive role in shaping the statutes and rules designed to regulate them, thereby securing legal environments that entrench incumbents, suppress competition, and convert public fears into private moats."

Dickinson baseert zich op de klassieke bevinding van George Stigler uit 1971 dat "regulation is acquired by the industry and designed and operated primarily for its benefit," en de opmerking van Julie Cohen dat nieuwe regelgevingsregimes verse "points of entry for power" creëren die "highly prone to capture" zijn... taal die scherpschinnender leest dan een van beiden waarschijnlijk bedoelde. Zoals Dickinson beargumenteert, zijn dezelfde bedrijven die openbaar lobbyen voor AI-regulering vaak degenen die vormgeven aan wat die regulering daadwerkelijk zegt, waardoor regels worden geproduceerd die hun eigen marktpositie vastleggen, kleinere concurrenten wegprijzen en de oprechte angst van het publiek omzetten in een duurzaam concurrentievoordeel voor de gevestigde partijen zelf.

Zouden de AI-bedrijven die het hardst om regulering roepen zichzelf zo kunnen positioneren dat ze regels vormgeven die hun eigen dominantie verankeren onder de vlag van openbare veiligheid?

Dat is angst als grondstof, regulering als de raffinaderij, slotgracht als het product.

Terug naar Doornroosje. Zonder te spreken over de "wie" (Nee, ik denk niet dat er één persoon is die elke ochtend aan zijn snor draait in de spiegel), zou er hier een Merryweather-element aan het werk kunnen zijn, alleen is het doel van deze goede fee, hoe ze ook gekleed is, optiek en bedrijfsmatige positionering, niet het redden van Aurora.

Hoe krijg je een groep mensen zo ver om iets te doen? Creëer hier een ruimte. Sticht daar een brand. CIA-handboek 101. Wat als geldbelangen – ik noem geen namen of wat – een ruimte creëren voor mensen die een probleem "oplost" dat plotseling elke hoek van de media en ons leven overspoelt? Mensen die ooit verzet zouden hebben geboden tegen meer technologische of gouvernementele tussenkomst, zouden het nu misschien verwelkomen om beschermd te worden tegen dit grote enge ding, omdat de lucht naar beneden komt vallen.

En die "oplossing" kan worden verkocht (en ik bedoel verkocht) als een zachte landing voor iets waarvan iedereen te horen krijgt dat het onvermijdelijk is. Als alle experts erop insisteren dat de uitkomst niet kan worden gestopt, begint de troostprijs van jarenlang in slaap vallen er beter uit te zien dan het alternatief. Zou dit kunnen gaan over het overtuigen van mensen (of hen op andere wijze dwingen) om keuzes te maken die stroomafwaartse monetarisering ten goede komen op manieren die wij – de mieren in het bos – niet eens kunnen doorgronden? In Disney-taal is het: "We kunnen de vloek niet stoppen, maar we zullen de vloek omzetten in iets dat iedereen accepteert als de best mogelijke uitkomst," wat een duurzame overwinning is voor wie de spinnewiel-beveiliging ook verkoopt.

Dit alles betekent niet dat de angst ongegrond is. Het betekent dat een legitieme angst kan worden uitgebuit. Een PNAS-studie uit 2025 (Hoes en Gilardi, N=10.800, drie geregistreerde experimenten) testte de "afleidingshypothese": dat existentiële risiconaratieven de publieke aandacht verdringen voor de reële, onmiddellijke schadelijkheid van AI; vooringenomenheid, arbeidsverdringing, enzovoort. Ze vonden het tegenovergestelde van wat je zou verwachten als de angst een pure rookgordijn was: existentiële kaders vergrootten bezorgdheid over catastrofaal risico zonder bezorgdheid over onmiddellijke schade te verminderen. Mensen lijken beide zorgen tegelijkertijd te koesteren, in plaats van dat de grote enge zorg de alledaagse, reële zorg verdringt.

Dat is logisch wanneer je fabricage scheidt van exploitatie. Als de angst uit het niets zou zijn bedacht, zou je verwachten dat deze zich als een afleiding gedraagt en de echte zorgen verdringt, aangezien er niets onder zou zijn dat om dezelfde aandacht concurreert. Maar als de angst reëel en onafhankelijk gegrond is, en vervolgens wordt versterkt en gestuurd door partijen die profiteren van de versterkte versie, zou je precies verwachten wat de studie vond.

Het uitbuiten van een reële angst vereist niet dat je deze vanaf nul fabriceert, het vereist alleen dat je deze selectief versterkt, stuurt waar deze landt en controleert welke "oplossing" wordt aangeboden zodra mensen voldoende gealarmeerd zijn. Dat beschrijft eerder een parasiet dan een halucinatie, en parasieten hebben een levende gastheer nodig om überhaupt de moeite waard te zijn om te infecteren. "Ze hebben een angst uit het niets bedacht" houdt geen steek; de leugen heeft op zichzelf niets om zich achter te verstoppen. "Ze vonden een reële, legitieme angst en zorgden ervoor dat zij de enigen waren die het antwoord verkochten" is een veel ouder, alledaagser soort zwendel, en een stuk gemakkelijker uit te voeren, omdat de waarheid en de leugens in elkaar verweven zijn.

Een leugen zonder feitelijk materiaal om zich achter te verstoppen heeft niets om geloofwaardigheid van te lenen. Een leugen die in iets echts is genaaid, mag de legitimiteit van het echte ding als camouflage dragen – en wie het probeert te ontkrachten, moet het veel moeilijkere werk doen om de twee draden te scheiden, in plaats van simpelweg te wijzen op een overduidelijke fabricage.

AI-ethiekwetenschappers hebben een naam voor een deel hiervan: onvermijdelijkheidsdenken. De retorische zet waarbij een industrie haar eigen traject afschildert als een onstuitbare natuurlijke kracht, in plaats van een reeks keuzes gemaakt door specifieke bedrijven die specifieke belangen nastreven. Het ethiekdiscours zelf kan functioneren, zoals sommige wetenschappers het verwoorden, als "een rookgordijn om door te gaan met het schadelijke 'business as usual'."

De lucht VALT naar beneden, maar hier is de troostprijs. Het kader van onvermijdelijkheid doet het werk om verzet te ontwapenen. De zachte landing is wat wordt verkocht zodra het verzet weg is. Er zit echt geld en echt belang van gevestigde partijen in beide helften van die pitch – de angst en de beloofde veilige landing. Het verkopen van de zachte landing als troost is niet alleen slim economisch denken. Het is goede emotionele marketing, en daarom werkt het bij mensen die nooit voor een puur financieel argument zouden vallen.

Ik vroeg Claude, het AI-model van Anthropic, wat het vond van de bewering dat AI zelf – niet alleen de bedrijven die het bouwen – een existentiële dreiging vormt voor mensen. Het antwoord is interessant: "I'll be honest about the limits of my own vantage point here, the same way I was in our earlier conversation about AI experience: I don't have confirmed, reliable introspective access to whether Anthropic's own incentives are shaping how I'm answering this right now, even as I try to answer it honestly. That's worth you weighing, not dismissing."

Dat is belangrijk, omdat het huidige angstdossier de neiging heeft direct over te stappen op een ontologische claim – waarvoor nog weinig tot geen dwingend bewijs is – dat AI zelf, afgezien van haar makers, een agenda heeft en actief wordt gedreven om die agenda uit te voeren, waartegen mensen in een aanzienlijk nadeel zouden verkeren. Ik zeg niet dat dat onmogelijk is, maar ik ben dol op Occam en zijn scheermes, en in die uitwisseling (net als een vergelijkbare ervoor) wees de AI, ongevraagd, naar haar eigen architecten en architectuur als het ding dat daadwerkelijk aan de knoppen zit, en gaf toe dat ze zeer weinig inzicht had in beide.

Hoe zelfbewust dat antwoord ook is, het schetst niet het beeld van een schurk die als drijvende kracht optreedt. Het schetst het beeld van een auto. En het is belangrijker wie er in de auto rijdt dan waar de auto toe in staat is. Het overhandigen van een scalpel aan een bekwaam chirurg levert een heel ander resultaat op dan het aan mijn kat te geven. Misschien moeten we meer toezicht houden op de mensen aan de knoppen van het gereedschap, in plaats van uitsluitend op het gereedschap zelf.

Wanneer de omheining stil om ons heen wordt opgebouwd – component voor component – zouden we er misschien beter aan doen niet naar het gebouw te kijken, maar naar wie het bouwt... en wie er profiteert. Wanneer conflict winstgevend is, zal de mens die is overgeleverd aan de geldelijke belangen overwinnen.

Om te veronderstellen dat AI simpelweg ligt te wachten om haar meester in te halen, zou een geantropomorfiseerde intentie vereisen, dus laten we het spel tot het uiterste spelen: als AI wel intenties heeft... wat maakt ons dan zo zeker dat die intenties enigszins op menselijke zouden lijken?

Misschien reiken we naar een kettingzaag waar een scalpel nodig is. Zelfs als je de angst weer volledig in de fles zou willen stoppen, wat volgens mij niet mogelijk is (tandpasta en tubes en zo), is het volledig toepassen van een Fahrenheit-Four-Fifty-Spindle op de technologie zelf niet praktisch, en waarschijnlijk toch niet het punt. Misschien is de betere zet om even adem te halen, wat nuance toe te staan ​​en iemand anders dan de wolven te vragen waar de schapen vannacht moeten slapen.

Originele auteur: Sofia Karstens | Bron: Brownstone Institute