Als AI het internet schrijft, waar haalt AI straks zijn kennis vandaan?

Van menselijke kennis naar synthetische content

Het web waarop generatieve AI kon voortbouwen, is voor een groot deel ontstaan door menselijke activiteit.

Wetenschappers publiceerden onderzoek. Journalisten schreven artikels. Bedrijven beschreven hun producten. Ontwikkelaars maakten documentatie. Mensen discussieerden op fora, schreven boeken, deelden ervaringen en bouwden websites.

Generatieve AI heeft daar een nieuwe laag aan toegevoegd.

Vandaag kan dezelfde technologie worden ingezet om op grote schaal nieuwe teksten, afbeeldingen, video’s en andere content te produceren.

Dat hoeft helemaal geen probleem te zijn.

AI kan uitstekend helpen bij research, structurering, vertaling, redactie en het toegankelijker maken van bestaande kennis. Ook Google stelt dat generatieve AI nuttig kan zijn bij onderzoek en het structureren van originele content.

Het probleem ontstaat wanneer genereren het toevoegen van nieuwe informatie begint te vervangen.

Een AI-systeem leest tien bestaande artikels, vat ze samen en maakt er een elfde van. Een andere website gebruikt dat elfde artikel als basis voor een twaalfde. Vervolgens wordt die tekst opnieuw samengevat, herschreven en gecombineerd.

Er komen steeds meer pagina’s bij.

Maar hoeveel nieuwe kennis is er eigenlijk ontstaan?

Meer content is niet hetzelfde als meer kennis

Stel dat één expert een uitgebreid artikel schrijft op basis van eigen onderzoek.

Vervolgens gebruiken honderd websites AI om dat artikel te verwerken tot honderd nieuwe varianten.

Op papier hebben we nu 101 bronnen.

In werkelijkheid hebben we misschien nog altijd maar één oorspronkelijke informatiebron en honderd afgeleide versies.

Dat onderscheid wordt belangrijk zodra we systemen gebruiken die grote hoeveelheden informatie moeten vergelijken en beoordelen.

Normaal kan herhaling een nuttig signaal zijn. Wanneer verschillende onafhankelijke bronnen dezelfde gebeurtenis of hetzelfde feit bevestigen, kan dat ons vertrouwen vergroten.

Maar honderd bronnen zijn niet onafhankelijk wanneer ze allemaal — direct of via verschillende tussenstappen — van dezelfde bron afstammen.

AI maakt die afhankelijkheid potentieel veel moeilijker zichtbaar.

Van één fout naar honderd bevestigingen

Daar wordt het probleem interessanter.

Stel dat een taalmodel een ogenschijnlijk geloofwaardige maar foutieve bewering genereert.

Een bedrijf neemt de tekst over op zijn website.

Een andere AI-tool gebruikt die pagina tijdens research en verwerkt de bewering in een nieuw artikel. Dat artikel wordt vervolgens weer gebruikt voor een samenvatting, waarna andere websites varianten publiceren.

Na verloop van tijd staat dezelfde bewering op tientallen plaatsen.

Niet noodzakelijk woord voor woord.

De formulering verandert. De volgorde verandert. Misschien worden er nieuwe voorbeelden toegevoegd.

Maar de oorspronkelijke fout blijft bestaan.

Wat begon als één foutieve generatie kan daardoor veranderen in een netwerk van ogenschijnlijk verschillende bronnen die uiteindelijk allemaal dezelfde fout herhalen.

Wanneer herhaling op consensus begint te lijken

Je zou dat een vorm van synthetische consensus kunnen noemen.

Niet als gevestigde wetenschappelijke term voor dit exacte proces, maar als beschrijving van het probleem:

Informatie lijkt betrouwbaar omdat veel bronnen hetzelfde zeggen, terwijl die bronnen niet werkelijk onafhankelijk van elkaar zijn.

Dat is wezenlijk anders dan echte consensus.

Wanneer vijf onafhankelijke onderzoeksgroepen via verschillende methodes tot dezelfde conclusie komen, heeft de overeenstemming betekenis.

Wanneer vijf websites dezelfde fout herhalen omdat hun AI-content uiteindelijk teruggaat op dezelfde oorspronkelijke tekst, zegt het aantal herhalingen veel minder.

En precies die herkomst wordt in een web vol gegenereerde en herschreven content steeds belangrijker.

AI traint niet simpelweg live op alles wat online verschijnt

Hier is een belangrijke nuance nodig.

Het bovenstaande scenario betekent niet dat ChatGPT vandaag een fout genereert, die op een website verschijnt en morgen automatisch opnieuw door ChatGPT als trainingsdata wordt opgenomen.

Zo eenvoudig werkt het niet.

We moeten minstens twee processen uit elkaar houden.

Training bepaalt op basis van datasets welke patronen en kennis een model tijdens zijn ontwikkeling leert.

Web search en retrieval kunnen een bestaand model tijdens het beantwoorden van een vraag actuele externe informatie laten raadplegen.

ChatGPT kan bijvoorbeeld bij zoekvragen informatie van openbare websites gebruiken en daarbij bronnen tonen. OpenAI geeft website-eigenaars daarvoor onder andere controle over toegang van OAI-SearchBot.

Dat is iets anders dan zeggen dat iedere bezochte pagina onmiddellijk onderdeel wordt van de training van een volgend model.

Die nuance is belangrijk omdat er anders twee verschillende problemen door elkaar lopen: AI die synthetische webcontent raadpleegt en AI die op synthetische data wordt getraind.

Beide zijn interessant, maar ze hebben niet dezelfde werking of gevolgen.

Meer over hoe ChatGPT websites kan vinden en gebruiken bespreken we in ChatGPT en SEO: de belangrijkste vragen beantwoord.

Model collapse: wat als AI steeds opnieuw van AI leert?

Voor het tweede probleem bestaat inmiddels concreet wetenschappelijk onderzoek.

Onderzoekers van onder andere Oxford, Cambridge, Imperial College London en de University of Toronto publiceerden in 2024 in Nature onderzoek naar wat er gebeurt wanneer generatieve modellen recursief worden getraind met data die door eerdere modellen werd gegenereerd.

Ze noemen het uiteindelijke effect model collapse.

In hun experimenten gingen bij opeenvolgende generaties delen van de oorspronkelijke dataverdeling verloren. Vooral minder vaak voorkomende informatie kan verdwijnen, waarna de modellen een steeds beperktere benadering van de oorspronkelijke werkelijkheid leren.

De onderzoekers waarschuwen daarom voor het ongecontroleerd gebruiken van modelgegenereerde content als trainingsdata.

Dat onderzoek bewijst niet dat het hele internet onvermijdelijk in een AI-feedbacklus terechtkomt.

Het toont wél aan dat het onderscheid tussen oorspronkelijke menselijke data en gegenereerde data technisch relevant kan worden wanneer toekomstige modellen opnieuw met grote hoeveelheden online informatie worden getraind.

De oorspronkelijke studie, AI models collapse when trained on recursively generated data, verscheen in juli 2024 in Nature.

Waarom zeldzame informatie extra belangrijk is

Een van de interessante bevindingen rond model collapse is dat vooral de uiteinden van een dataverdeling verloren kunnen gaan.

Dat klinkt abstract, maar het raakt aan iets fundamenteels.

Niet alles wat waar, waardevol of interessant is, komt vaak voor.

Een uitzonderlijke medische situatie, een zeldzame technische fout, een minderheidsperspectief, lokaal historisch feit of zeer gespecialiseerde expertise kan per definitie weinig voorkomen in een dataset.

Wanneer een generatief systeem vooral de meest waarschijnlijke patronen reproduceert en die output vervolgens opnieuw als input wordt gebruikt, bestaat het risico dat zulke minder frequente informatie steeds verder naar de achtergrond verdwijnt.

De werkelijkheid wordt dan als het ware gladgestreken.

Niet noodzakelijk omdat iemand bewust informatie verwijdert, maar omdat iedere generatie opnieuw een benadering maakt van een eerdere benadering.

Een kopie van een kopie van een kopie

Een eenvoudige vergelijking maakt het probleem tastbaarder.

Neem een foto en maak er een kopie van.

Maak vervolgens geen nieuwe kopie van het origineel, maar kopieer de kopie.

Herhaal dat tientallen keren.

Bij digitale bestanden werkt die vergelijking natuurlijk niet letterlijk: een digitale kopie kan bit voor bit identiek blijven.

Bij generatieve modellen gebeurt echter iets anders. Het model maakt geen exacte kopie van zijn trainingsdata. Het leert een statistische representatie en genereert daar nieuwe output uit.

Wanneer die output vervolgens weer als werkelijkheid wordt aangeboden aan een volgende generatie, kunnen kleine vertekeningen zich opstapelen.

Daarom is model collapse meer dan simpelweg zeggen dat AI fouten maakt.

Het gaat over wat er kan gebeuren wanneer gegenereerde benaderingen van de werkelijkheid opnieuw de grondstof worden voor nieuwe benaderingen.

Synthetische data is niet automatisch slechte data

Ook hier moeten we oppassen voor een te eenvoudige conclusie.

Synthetische data is niet per definitie waardeloos of gevaarlijk.

Goed samengestelde synthetische datasets kunnen juist nuttig zijn voor het trainen en verbeteren van AI-systemen. Ze kunnen specifieke situaties aanvullen, data gecontroleerd genereren of worden gecombineerd met menselijke gegevens en kwaliteitscontroles.

Het probleem zit vooral in ongecontroleerde recursie en verlies van herkomst.

Een AI-ontwikkelaar die weet welke gegevens synthetisch zijn, waarom ze gegenereerd werden en hoe ze worden gewogen, bevindt zich in een heel andere situatie dan een systeem dat enorme hoeveelheden webdata verzamelt zonder betrouwbaar te kunnen onderscheiden wat oorspronkelijk menselijk, afgeleid of volledig synthetisch is.

Ook recenter onderzoek blijft daarom zoeken naar manieren om de risico’s van recursieve training te beperken.

Het echte probleem wordt misschien provenance

Daarmee komen we bij een begrip dat in deze discussie steeds belangrijker wordt: provenance, ofwel herkomst.

Niet alleen:

Wat staat er?

Maar:

Waar komt deze informatie oorspronkelijk vandaan?

Wie heeft de bewering voor het eerst gedaan? Was dat een primaire bron? Heeft een auteur eigen onderzoek uitgevoerd? Zijn de bronnen die hetzelfde zeggen werkelijk onafhankelijk? Of verwijzen ze indirect allemaal naar elkaar?

Voor mensen is dat vandaag al moeilijk te achterhalen.

Een goed geschreven AI-artikel kan er even overtuigend uitzien als een tekst van iemand met twintig jaar ervaring. De opmaak kan professioneel zijn. De argumentatie kan logisch klinken. Er kunnen zelfs bronverwijzingen bij staan.

Maar een verzorgde presentatie vertelt ons niets over de oorsprong van een bewering.

In een informatieomgeving waarin content goedkoop en vrijwel onbeperkt gereproduceerd kan worden, zou traceerbaarheid van informatie waardevoller kunnen worden dan het aantal keren dat ze wordt herhaald.

Bronvermelding wordt belangrijker, niet minder belangrijk

Generatieve AI maakt het verleidelijk om een onderwerp eerst door een model te laten onderzoeken en daarna simpelweg het resultaat te publiceren.

Daarmee ontstaat gemakkelijk een keten waarin niemand nog naar de oorspronkelijke bron teruggaat.

Een betere aanpak is precies het tegenovergestelde.

Gebruik AI om relevante vragen te vinden, informatie te structureren of bronnen op te sporen, maar controleer belangrijke feitelijke beweringen waar mogelijk bij de primaire bron.

Schrijf je over Google Search? Kijk dan wat Google zelf documenteert.

Schrijf je over een wetenschappelijk onderzoek? Zoek het onderzoek zelf op in plaats van alleen een samenvatting van een andere website te herschrijven.

Schrijf je over een nieuwe technische standaard? Raadpleeg de specificatie.

Dat is niet alleen nuttig voor lezers.

Het helpt ook voorkomen dat het web verandert in een verzameling teksten die elkaar eindeloos citeren zonder nog te weten waar de informatie oorspronkelijk vandaan kwam.

Google probeert massaproductie zonder meerwaarde al af te remmen

Ook zoekmachines hebben er weinig belang bij dat het web wordt overspoeld met duizenden varianten van dezelfde oppervlakkige informatie.

Google maakt daarbij niet simpelweg een onderscheid tussen door mensen geschreven en door AI geschreven.

De nadruk ligt op waarde en originaliteit.

Het op grote schaal genereren van pagina’s met weinig of geen toegevoegde waarde kan volgens Google’s spambeleid onder scaled content abuse vallen, ongeacht of die pagina’s met AI, klassieke automatisering of mensen zijn gemaakt.

Dat is een belangrijk onderscheid.

AI gebruiken is op zichzelf niet het probleem.

Honderden pagina’s produceren die alleen bestaande informatie herschikken om meer zoekverkeer binnen te halen, kan dat wel zijn.

Google legt dit verder uit in zijn richtlijnen over generatieve AI-content.

En dan krijgen we GEO en AI-vindbaarheid

De opkomst van generatieve zoekmachines en AI-assistenten creëert ondertussen een nieuwe optimalisatiedrang.

Bedrijven willen niet alleen in Google gevonden worden. Ze willen ook genoemd, geciteerd of aanbevolen worden wanneer iemand een vraag stelt aan een AI-systeem.

Daaruit ontstaan begrippen zoals GEO (Generative Engine Optimization) en AEO (Answer Engine Optimization).

Dat is op zichzelf logisch.

Maar er schuilt ook een vreemde paradox in.

Wanneer duizenden websites content beginnen te produceren met als belangrijkste doel schrijf iets dat AI graag overneemt, kunnen we uiteindelijk opnieuw een web creëren dat steeds meer voor machines door machines wordt geschreven.

Dat lijkt ons geen gezonde eindbestemming.

AI-vindbaarheid zou daarom niet moeten betekenen dat je zoveel mogelijk synthetische content publiceert.

Het zou juist kunnen betekenen dat je informatie duidelijker, betrouwbaarder, beter gestructureerd en gemakkelijker te verifiëren maakt.

llms.txt lost dit probleem niet op

Nieuwe technieken kunnen daarbij nuttig zijn, maar we moeten hun functie correct inschatten.

Een voorbeeld is llms.txt.

Met zo’n bestand kun je AI-agents die de voorgestelde standaard ondersteunen een compacte wegwijzer naar belangrijke informatie en bronnen op je website aanbieden.

Dat kan machines helpen informatie te vinden.

Maar het zegt niets over de waarheid van die informatie.

Een llms.txt-bestand kan net zo gemakkelijk verwijzen naar uitstekende originele documentatie als naar twintig pagina’s met foutieve AI-content.

Machineleesbaarheid en betrouwbaarheid zijn dus twee verschillende problemen.

Hetzelfde geldt voor Schema.org en structured data. Daarmee kun je explicieter beschrijven wat bepaalde gegevens betekenen, maar correcte structurering maakt een foutief feit nog niet correct.

Originele informatie zou juist waardevoller kunnen worden

Hier zit misschien ook een positieve kant aan de ontwikkeling.

Wanneer het steeds goedkoper wordt om bestaande informatie samen te vatten, te herschrijven en opnieuw te publiceren, wordt het onderscheidend vermogen daarvan kleiner.

Wat niet zomaar met één prompt kan worden gereproduceerd, wordt dan interessanter.

Denk aan:

• eigen onderzoek en originele data;
• concrete ervaringen uit echte projecten;
• experimenten en tests;
• interviews met mensen met relevante expertise;
• unieke foto’s, video’s en voorbeelden;
• duidelijke auteurs en aantoonbare vakkennis;
• primaire documentatie en transparante bronvermelding.

Een loodgieter die honderd algemene AI-artikels over lekkende kranen publiceert, voegt weinig nieuwe kennis toe aan het internet.

Diezelfde loodgieter die tien echte problemen uit zijn dagelijkse werk documenteert, uitlegt wat de oorzaak was en laat zien hoe ze opgelost werden, produceert informatie die daarvoor nog niet bestond.

Dat verschil zou in een synthetischer web steeds belangrijker kunnen worden.

Ook voor SEO verschuift de interessante vraag

Jarenlang draaide content-SEO vaak rond de vraag:

Over welke zoekwoorden moeten we nog een artikel schrijven?

Generatieve AI maakt het mogelijk om voor vrijwel ieder denkbaar zoekwoord snel een tekst te produceren.

Maar precies daardoor wordt een andere vraag interessanter:

Wat kunnen wij publiceren dat nog niet honderd keer op dezelfde manier online staat?

Google adviseert ook voor zijn generatieve zoekfuncties om te focussen op behulpzame content voor bezoekers en waarschuwt tegen het op grote schaal maken van pagina’s voor allerlei zoekvarianten met als doel rankings of generatieve antwoorden te manipuleren.

De technologie verandert dus, maar het fundamentele probleem blijft verrassend herkenbaar.

Meer pagina’s betekent niet automatisch een betere website.

Meer woorden betekenen niet automatisch meer expertise.

En meer bronnen betekenen niet automatisch meer zekerheid.

Wat betekent dit voor bedrijven die AI gebruiken voor content?

Stoppen met AI gebruiken zou een vreemde conclusie zijn.

AI kan juist bijzonder nuttig zijn in een goed redactioneel proces.

Het kan helpen om een onderwerp te structureren, vragen te bedenken, bestaande teksten te analyseren, tegenargumenten te zoeken, complexe informatie begrijpelijker te maken en sneller verschillende bronnen te onderzoeken.

Het verschil zit in wat daarna gebeurt.

Wordt de gegenereerde tekst zonder controle gepubliceerd?

Of wordt AI gebruikt als hulpmiddel binnen een proces waarin iemand bronnen controleert, eigen kennis toevoegt, feitelijke beweringen verifieert en verantwoordelijkheid neemt voor het eindresultaat?

Dat tweede model lijkt ons veel duurzamer.

Niet AI in plaats van expertise, maar AI om expertise efficiënter te verwerken en toegankelijk te maken.

Misschien wordt vertrouwen het echte optimalisatieprobleem

SEO draaide lange tijd sterk rond vindbaarheid.

AI-vindbaarheid voegt daar een nieuwe laag aan toe: kan een machine je informatie vinden, begrijpen en gebruiken?

Maar naarmate synthetische content toeneemt, komt daar mogelijk nog een derde vraag bij:

kan een systeem bepalen waarom het jouw informatie zou moeten vertrouwen?

Dat is een veel moeilijker probleem.

Een technische tag kan aangeven dat iets een organisatie is. Een sitemap kan tonen waar een pagina staat. Een llms.txt-bestand kan een agent naar documentatie sturen.

Geen van die technieken kan op zichzelf bewijzen dat een bewering waar is.

Daarvoor blijven zaken zoals oorspronkelijke bronnen, onafhankelijke bevestiging, reputatie, expertise, consistentie en herkomst belangrijk.

Misschien wordt de volgende fase van online vindbaarheid daarom niet alleen een wedstrijd om machineleesbaarheid, maar ook om verifieerbaarheid.

Als iedereen kan publiceren, wordt oorsprong belangrijker

We weten nog niet precies hoe een internet met steeds meer synthetische content toekomstige AI-systemen zal beïnvloeden.

Onderzoek naar model collapse toont dat ongecontroleerde recursieve training op gegenereerde data reële technische problemen kan veroorzaken. Dat is echter niet hetzelfde als bewijzen dat AI-systemen straks automatisch iedere vaak herhaalde fout als waarheid zullen beschouwen.

De hypothese van synthetische consensus gaat over iets subtielers.

Wanneer informatie razendsnel kan worden gekopieerd, herschreven en vermenigvuldigd, wordt het aantal websites waarop een bewering voorkomt een steeds minder interessante maatstaf voor de betrouwbaarheid ervan.

De vraag verschuift van:

Hoe vaak wordt dit gezegd?

naar:

Wie wist dit oorspronkelijk, waarop was die kennis gebaseerd en kunnen we dat nog achterhalen?

Generatieve AI kan het internet vele malen productiever maken.

De uitdaging wordt ervoor te zorgen dat we daarbij niet alleen steeds meer content produceren, maar ook nieuwe kennis, echte ervaring en controleerbare informatie blijven toevoegen.

Want als AI steeds meer van het internet schrijft, wordt de belangrijkste vraag misschien niet waar AI zijn informatie vindt.

Maar hoe het nog kan herkennen waar die informatie oorspronkelijk vandaan kwam.