Je leert AI-slop herkennen aan de tekst en het beeld. Bij ghost creators werkt dat niet: het gezicht in de video is een echte acteur, ingehuurd om een AI-script voor te lezen.
Het Amerikaanse Semafor bracht op 2 september een netwerk van YouTube-kanalen in kaart dat bijna identieke video's pompt over Amerikaanse politici. De scripts komen uit AI, de thumbnails en de bijbehorende websites ook. Alleen de presentator is van vlees en bloed, en dat is de hele truc. YouTube herkent synthetische presentatoren en plakt er een label op. Een mens voor de camera valt daarbuiten.
Een acteur van Fiverr kost 26 dollar per video
Marketeers werken al jaren met creators als handpop. Nieuw is de schaal. Acteurs worden geworven via Fiverr en Backstage voor 26 dollar per video, eigen camera en licht, klaar binnen 24 uur. Bedenker Caleb Chan, een twintiger die vorig jaar in Chicago afstudeerde, claimde in april 106 accounts te draaien en er in mei 300 te willen. Zijn bedrijf Virelox adverteert met 2.500 video's per week.
De inhoud doet er niet toe. Eén personage begon als anti-Trump-kanaal, verdween in mei en kwam in juni terug als pro-Trump-host: dezelfde acteur, ander uiterlijk, andere kant. Chan vat zijn model op X samen als "manufacturing news > reporting news". Een andere post van hem legt beter bloot waar het om draait: als 26 accounts binnen tien minuten dezelfde hashtag posten, denkt het algoritme dat er nieuws is. Het gaat hier om een aanbevelingssysteem, en dat laat zich bespelen.
45 miljoen views, twintig kanalen offline
Mensen vertrouwen gezichten meer dan logo's. Die gezichten zijn dus te koop. Daar kun je schamper over doen, maar het levert: onderzoeksbureau Riddance telde ruim 45 miljoen views en 90.000 comments op YouTube, plus verdere verspreiding via geknipte clips op TikTok. Het interne dashboard van de operatie laat zien wie er kijkt: 85 procent Amerikaans, 80 procent man, 80 procent boven de 55.
Een paar dagen later haalde YouTube twintig kanalen offline wegens spam. Daarmee is de levenscyclus compleet: bouwen, oogsten, ontmaskerd worden, opnieuw beginnen onder een nieuwe naam. Niemand bouwt hier een stem of een reputatie op, want dat is niet wat er verkocht wordt.
De labelplicht uit de AI-verordening vangt dit niet
Sinds 2 augustus geldt de labelplicht uit artikel 50 van de AI-verordening. Die raakt dit netwerk niet. Een acteur die zijn eigen gezicht gebruikt maakt geen deepfake. En een AI-tekst die een mens naleest en voor zijn rekening neemt, valt onder de redactionele uitzondering. Zet er een mens voor en het label verdwijnt, terwijl de fabriek erachter op hetzelfde toerental blijft draaien.
Ik schreef eerder dat elk mechanisme dat vertrouwen geeft wordt gekaapt zodra het geld waard is. Nu is het gezicht aan de beurt. En het werkt, zolang je alleen bereik nodig hebt.
YouTube greep pas in nadat twee journalisten het uitzochten
Dit is natuurlijk diep onethisch. Er worden mensen betaald om zich voor te doen als onafhankelijke commentator en om onjuistheden over politici te vertellen aan kijkers die denken dat ze naar iemands eigen mening luisteren.
Wat me daarbij het meest dwarszit is waar de rem zit. YouTube haalde de kanalen weg, maar pas nadat Semafor en Riddance het werk hadden gedaan. Ons publieke debat loopt over platformen van Amerikaanse en Chinese bedrijven, en of daar wordt ingegrepen is een bedrijfsbeslissing die buiten Europa wordt genomen. Het opruimen begon bij twee journalisten en eindigde bij een moderatieteam in Californië. Daar zit onze weerbaarheid, en dat is te weinig.
