Neurale prietpraat, algoritmisch burgerschap en dataderivaten

In dit filmpje loopt iemand met zijn laptop over de Amsterdamse Damstraat en Oudezijds Voorburgwal, om de Neuraltalk-code te testen. Dit is een zogeheten slimme Image Captioning-code, die in staat is om geregistreerde beelden te herkennen en te verbaliseren.

We zien hoe de drager van de laptop zich door de stad verplaatst, en hoe de code de wereld om zich heen van betekenis voorziet. Soms met succes – een groepje mensen op de stoep dat wordt herkend als ‘a group of people walking down a sidewalk’, en ook de hotdog-etende toeristen worden afgevinkt –, maar ook heel vaak met vermakelijke missers – de boot in de gracht die wordt geïdentificeerd als ‘a train traveling over a bridge over a river’, of een deur van een chic grachtenpand die bijna Joyciaans wordt beschreven als ‘a small bird flying over a body of water’.

Het is spectaculair om de code in het filmpje te zien worstelen met de ruwe materie die hij voor zijn snufferd krijgt. Het is ook hilarisch natuurlijk – o o, die stomme computers, en wij maar bang zijn dat ze even slim worden als wij! (Hier nog zo’n hilarisch voorbeeld) –, maar het is ook een beetje eng. Vandaag een verhandeling over het algoritmische leerproces, en de consequenties voor ons.

Het trainen van de code in het filmpje heeft veel weg van een kind dat we eerst met handjes vasthouden moeten leren lopen, net zolang tot het evenwichtsorgaan gewend is aan de nieuwe, rechtop staande situatie en het kind op eigen benen kan staan. Vanaf dat punt zorgt het zelflerende vermogen van het kind, met vallen en opstaan, wel voor de verdere verfijning van de motoriek.

Belangrijk verschil met de opvoeding van een kind is dat we de computers en onderliggende algoritmes primair trainen om ons werk uit handen te nemen. De opvoeding van een kind heeft – in elk geval op de korte termijn – niet zo’n intrinsiek instrumenteel karakter.

Dat instrumentele karakter van computers – wij helpen hen, teneinde dat zij ons ook helpen – is echter niet zo zuiver als wordt aangenomen. In toenemende mate laten we de technologie namelijk ook bepalen hoe de werkelijkheid wordt vormgegeven. En niet alleen trainen we de computers om ons werk te laten doen, maar we laten de technologie ook bepalen hoe we onszelf en anderen zien.

In het verlengde hiervan is er iets ontstaan dat algoritmisch burgerschap (algorithmic citizenship) kan worden genoemd: een vorm van burgerschap die niet wordt toegekend bij de geboorte, of langs de weg van officiële documenten, maar louter op basis van data. Iedere keer als je het wijde web op gaat, wordt de data die je genereert gebruikt om beslissingen te maken: in welke taal met je wordt gecommuniceerd, of je advertenties voor een paar schoenen of voor een budgetvakantie te zien krijgt, of je wel of niet een YouTube-filmpje mag zien.

Algoritmisch burgerschap zorgt er dus voor hoe je nabije (of verre) toekomst er uit komt te zien. In die context spreekt Louis Amoore ook wel in termen van een dataderivaat: net als financiële derivaten zijn de dataderivaten een gokje over de potentiële toekomst, samengesteld om de mogelijkheid dat iets daadwerkelijk gaat gebeuren te toetsen.

En net zoals derivaten geen garantie tot succes kunnen vormen, zo is het ook maar de vraag of dat voor zelflerende algoritmes geldt.