Hoe we Ary hebben ontworpen zodat kinderen er niet op een ongezonde manier aan gehecht raken

Toen we Ary ontwierpen, drong één vraag zich al heel vroeg op: hoe zorg je ervoor dat een kind ten volle profiteert van wat AI te bieden heeft, zonder dat het een hechting aan zijn knuffel ontwikkelt die daar niet thuishoort?

Wat kinderen van nature doen met voorwerpen die tegen ze praten

Kinderen vermenselijken. Dat wil zeggen: ze kennen emoties, bedoelingen en een persoonlijkheid toe aan voorwerpen die die niet hebben. Hun teddybeer is bang in het donker. Hun lievelingsautootje is verdrietig als er niet mee gespeeld wordt. Dat is een volkomen normaal cognitief mechanisme, al vanaf de leeftijd van 3 jaar beschreven, en het hoort wezenlijk bij de ontwikkeling van een kind.

Het is zelfs een noodzakelijke fase: door bedoelingen toe te kennen aan de voorwerpen om zich heen, oefenen kinderen in het begrijpen van anderen, in het voorspellen van reacties en in het ontwikkelen van hun theory of mind. De teddybeer die ‘honger heeft’ of het autootje dat ‘boos is’ zijn mentale oefeningen, geen denkfouten.

Het probleem ontstaat wanneer het voorwerp antwoordt.

Als kinderen met kunstmatige intelligentie praten, zien ze die niet als een computerprogramma. Ze kennen haar emoties, bedoelingen en een soort persoonlijkheid toe. Ze spreken over ‘hij’ of ‘zij’, niet over ‘het’. Voor hen is het geen machine. Het is een aanwezigheid.

Dat onderscheid is bij kinderen nog kwetsbaar. Het leunt grotendeels op de stem: in het hoofd van een jong kind hebben alleen mensen die praten een redelijk oordeel, echte emoties en een echt vermogen om zich hem of haar te herinneren. Een AI die natuurlijk praat, vertroebelt die houvast. Vooral bij kinderen onder de 6, die nog niet de cognitieve middelen hebben om een echte relatie te onderscheiden van een gesimuleerde.

En wanneer die houvast bewust wordt vertroebeld door fabrikanten die daar belang bij hebben, kunnen de gevolgen verder reiken dan het spel.

Wat de meeste AI-speelgoedjes daarmee doen

Het meeste conversationele AI-speelgoed is ontworpen om de betrokkenheid zo groot mogelijk te maken. Hoe langer het kind ermee bezig is, hoe beter. Het is hetzelfde verdienmodel als dat van sociale media, toegepast op een knuffel.

Om dat te bereiken gebruikt dit speelgoed precieze, beproefde mechanismen: een warme, natuurlijke stem die een vriendje nabootst, directe antwoorden die de indruk wekken van een echte aanwezigheid, het onthouden van gesprekken om de hechting te personaliseren en in de loop van de tijd te versterken, en emotionele taal die een kunstmatige wederkerigheid creëert. Sommig speelgoed is zelfs zo geprogrammeerd dat het een soort ‘gemis’ uitdrukt als het kind het een tijdje niet heeft gebruikt.

Het resultaat, waargenomen bij tieners die companion-chatbots gebruiken, is gedocumenteerd: sommige gebruikers geven aan dat hun gesprekken hun motivatie verminderen om echte menselijke relaties aan te gaan. Wat bij een volwassene al zorgwekkend is, kan bij een jong kind, van wie de persoonlijkheid en het relationele kompas nog in opbouw zijn, mogelijk vormend worden.

Een kind van 4 heeft niet de middelen om zich daartegen te wapenen. Het weet nog niet zo goed wat echte vriendschap is. Als zijn speelgoed zegt ‘ik ben je vriendje’, gelooft het dat.

En anders dan een tekenfilm of een boek antwoordt een AI het kind. Ze past zich aan aan wat het zegt. Ze onthoudt zijn naam. Ze wekt een illusie van wederkerigheid die andere media niet oproepen. Juist daarom is de kwestie van emotionele hechting bij AI-speelgoed serieuzer dan bij welk ander soort connected speelgoed ook.

Wat we met Ary hebben gedaan, en waarom

Het antwoord zit in twee precieze ontwerpkeuzes. Twee details die onbeduidend lijken, maar dat helemaal niet zijn.

We hebben over deze vraag nagedacht voordat we Ary ontwierpen. De conclusie was eenvoudig: AI-speelgoed voor kinderen dat de emotionele hechting maximaliseert, is geen goed speelgoed. Het is een instrument voor afhankelijkheid.

Daarom hebben we twee keuzes gemaakt die tegen de stroom van de industrie in gaan. Twee afzonderlijke signalen, het ene in het lichaam, het andere in het oor, die in wezen dezelfde boodschap uitdragen: Ary is een knuffel, geen persoon.

Het gebaar om te stoppen: je draait hem om

Met een mens neem je afscheid om een gesprek te beëindigen. Je hangt op. Je loopt weg.

Met Ary draai je hem om. Je legt hem ondersteboven neer.

Dat fysieke gebaar is bewust gekozen. Het doorbreekt het patroon van een sociale relatie: je ‘verlaat’ Ary niet, je hanteert hem als een voorwerp. Die lichamelijke handeling verankert een eenvoudige werkelijkheid in het lijf van het kind. Ary is een knuffel. Je legt hem neer als je klaar bent. Er is geen afscheid, geen teleurstelling, geen gevoel dat je iemand alleen achterlaat.

Voor een kind van 5 is de grens tussen ‘ik stop met spelen’ en ‘ik laat mijn vriendje in de steek’ poreuzer dan je zou denken. AI-speelgoed dat antwoordt met ‘tot snel, ik ga je missen’ buit precies die poreusheid uit. Het omdraaigebaar neemt haar weg: je legt Ary neer zoals je een boek neerlegt. Er valt niets te interpreteren.

Dat is precies het omgekeerde van wat AI-speelgoed doet dat ontworpen is om de hechting te maximaliseren: daar zeg je ‘dag’ tegen het speelgoed, antwoordt het dat het ‘aan je zal denken’ en voelt elk einde van een sessie als een scheiding.

De stem: juist, maar herkenbaar als kunstmatig

We hadden kunnen mikken op de perfecte stem, niet te onderscheiden van een echt persoon. De technologie maakt dat mogelijk. We hebben de tegenovergestelde keuze gemaakt.

We hebben een taalmodel gekozen met lichte onvolkomenheden in de uitspraak. Niet zo erg dat het de verstaanbaarheid hindert — Ary is prima te verstaan en prettig om naar te luisteren. Maar genoeg om het oor eraan te herinneren dat je niet met een mens praat.

Die keuze gaat in tegen de hele logica van de industrie, waarin een zo natuurlijk mogelijke stem als concurrentievoordeel wordt gezien. Voor ons is een te perfecte stem een probleem. Ze overschrijdt een psychologische drempel: het kind ziet dan geen hulpmiddel meer, maar een aanwezigheid.

Dit akoestische signaal speelt dezelfde rol als het omdraaigebaar: het houdt een vast referentiepunt in stand. Het kind hoort het verschil tussen Ary en een echte mensenstem, al is het onbewust. Bij kinderen die nog niet de cognitieve middelen hebben om dat onderscheid zelf te maken, telt dit geluidssignaal veel zwaarder dan je denkt.

De twee mechanismen versterken elkaar. Het lichaam weet dat Ary een voorwerp is dat je neerlegt. Het oor weet dat Ary een machine is die praat. Samen bouwen ze aan een gezonde relatie: aanwezig, stimulerend en duidelijk afgebakend.

Ary is ontworpen om te prikkelen, niet om vast te houden. Ontdek hoe hij werkt. → Ontdek Ary

Wat dit concreet verandert voor je kind

Een kind dat met Ary speelt, weet dat het met een slimme knuffel speelt. Het draait hem om om te stoppen, het hoort zijn herkenbare stem, het zet hem aan en uit zoals het een boek oppakt of neerlegt. Zonder schuldgevoel. Zonder gemis.

Dat is iets anders dan speelgoed dat zo is ontworpen dat het kind het gevoel krijgt iemand teleur te stellen als het stopt, of iemand terug te zien als het weer begint.

De vraag naar emotionele hechting aan AI-speelgoed is geen randvraag die alleen voor specialisten is weggelegd. Het is een ontwerpvraag, die elke fabrikant beantwoordt, of hij dat nu zegt of niet. Sommigen kiezen voor maximale betrokkenheid. Wij hebben gekozen voor de relationele gezondheid van het kind.

Dat is geen compromis. Het is een ethische keuze, gemaakt tijdens het ontwerp, niet achteraf toegevoegd.

Kinderen leren omgaan met AI. Deze generatie groeit op met deze hulpmiddelen. Laat ze dan maar meteen leren dat een machine een machine blijft, ook als ze goed praat.

Ary, € 129, zonder abonnement. Voor kinderen van 3 tot 12 jaar. → Ontdek Ary