Generatieve AI-modellen zoals ChatGPT en Claude vinden steeds vaker hun weg naar het schrijfproces, wat vragen oproept over authenticiteit en vertrouwen. Zelfs publieke figuren, zoals premier Rob Jetten die AI inzette voor excuses aan de Molukse gemeenschap, maken gebruik van deze technologie. Het vermogen van kunstmatige intelligentie om het menselijke vertrouwen in teksten te beïnvloeden, vormt een groeiende uitdaging.

Om deze ontwikkeling te adresseren, zijn detectietools ontwikkeld die onderscheid kunnen maken tussen door mensen en door AI gegenereerde teksten. Pangram is zo'n programma dat zich richt op het analyseren van de 'menselijkheid' in teksten door te zoeken naar patronen die typerend zijn voor AI-output. Het programma berekent de waarschijnlijkheid dat een tekst door AI is geschreven op basis van voorspelbare woordkeuzes en zinsbouw. Dit soort technologie heeft reeds geleid tot controverses; schrijver Thélyson Orélien werd bijvoorbeeld van de longlist voor een Franse boekenprijs gehaald nadat Pangram had vastgesteld dat zijn manuscript nagenoeg volledig met AI was vervaardigd.

Hoewel detectietools zoals Pangram beweert dat slechts 0,0041 procent van de gecheckte teksten onjuist wordt aangemerkt, wijzen experts op de beperkingen van dergelijke systemen. In een juridische context zou de uitkomst van een dergelijke tool alleen waarschijnlijk niet volstaan. Onder de Europese AI Act wordt het echter wel vereist dat duidelijkheid ontstaat over de oorsprong van een tekst, of deze nu door AI of een mens is geschreven. Lezers hebben een groeiende behoefte aan transparantie over de inzet van AI in het schrijfproces.

Techniekfilosoof Joris Krijger benadrukt het belang van inzicht in de inspanning die een schrijver in een tekst heeft gestoken. De expertise van een AI-lector als Stefan Leijnen van de Hogeschool Utrecht voegt hieraan toe dat het uitbesteden van denkprocessen aan computers, ondanks potentieel betere teksten, kan leiden tot een verlies in het creatieve of analytische proces. Deskundigen pleiten daarom voor meer context bij de beoordeling van teksten door detectietools, en Krijger ziet nut in het bredere gebruik van deze tools om de discussie aan te gaan.

Wetenschappelijke studies worden gezien als een essentiële stap voor het opstellen van beleidskaders rond het verantwoord gebruik van AI in teksten, wat in lijn ligt met de vereisten van toekomstige wetgeving zoals de Europese AI Act.