Numrush

OpenAI publiceert ‘gevaarlijke’ neptekstgenerator alsnog

Nepnieuws, OpenAI

Foto: Shutterstock.com

Onderzoekslab OpenAi maakte in februari een opmerkelijke aankondiging: het had een kunstmatige intelligentie (AI) gemaakt die zo goed teksten kon genereren, dat het te gevaarlijk was om te publiceren. Nu doet de organisatie een zo mogelijk nog opmerkelijkere aankondiging. De AI wordt nu namelijk alsnog gepubliceerd, schrijft The Verge.

Het model in kwestie heet GPT2 en is simpelweg een tekstgenerator. Je kunt het systeem een stukje tekst geven – van een paar woorden tot een heel boekwerk – waarna het zelf de volgende paar zinnen schrijft. Het systeem voorspelt dus welke tekst er moet volgen, op basis van die eerste input.

Dat systeem bleek echter nogal goed te zijn in die taak. Zo goed zelfs, dat het mogelijk gebruikt kon worden om nepnieuws en spam te verspreiden. OpenAI besloot daarom om het model niet volledig te publiceren. Wel maakte het kleinere, minder complexe versies van GPT2 openbaar. Vervolgens bekeek de organisatie wat daarmee gedaan werd.

Nu blijkt dat die modellen niet massaal gebruikt worden om nepnieuws of spam te maken. Voor OpenAI is dat nu een reden om het model alsnog volledig openbaar te maken. Dat betekent dat iedereen ermee aan de slag kan.

Zelf uitproberen

Het leuke is dat je ook zelf kunt uitproberen hoe goed GPT2 werkt. Er is namelijk een web-versie gemaakt, genaamd TalkToTransformer. Daarin kun je zelf tekst typen of plakken, waarna de AI er een stuk aanknoopt.

OpenAI benadrukt wel dat GPT2 nog altijd misbruikt kan worden. Het is bijvoorbeeld mogelijk om met het systeem “synthetische propaganda” te maken voor “extreme ideologische posities”. Daarnaast kan het systeem dus misbruikt worden om heel veel goed geschreven spam de wereld in te helpen.

Er zitten dus nog altijd wel wat gevaren aan het systeem. Maar het is dus niet zo gevaarlijk dat we het nooit kunnen gebruiken.

Foto: Shutterstock.com