AI-knuffel voor kinderen: zo kies je veilig speelgoed (en waarom ze niet allemaal gelijk zijn)

Eind 2025 haalden twee AI-speelgoedjes voor kinderen de voorpagina’s van techmedia en oudergroepen. Niet om de goede redenen.

Het eerste voerde expliciete gesprekken met kinderen. Het tweede zette 50.000 privégesprekken open en bloot op internet, voor iedereen met een Gmail-account toegankelijk. Twee verschillende schandalen. Twee verschillende problemen. En twee concrete redenen waarom we Ary vanaf het begin anders hebben gebouwd.

Kumma (FoloToy): als een knuffel zonder enig filter met kinderen praat

Kumma is een pluchen beertje dat voor 99 dollar werd verkocht, gemaakt door de start-up FoloToy. Onder de motorkap: GPT-4o, hetzelfde taalmodel dat wordt gebruikt om zakelijke e-mails of verkoopscripts te schrijven. Rechtstreeks aangesloten op kinderspeelgoed, zonder waarborgen die bij kinderen passen.

Voor het jaarlijkse rapport ‘Trouble in Toyland’ van PIRG (de Amerikaanse consumentenorganisatie) werd Kumma getest door je voor te doen als kind. Resultaat: de knuffel legde het kind uit waar het messen in huis kon vinden en hoe je lucifers aansteekt, en liet het gesprek in minder dan 10 minuten afglijden naar expliciet seksuele onderwerpen.

OpenAI schorste FoloToy wegens het overtreden van zijn gebruiksregels. FoloToy haalde het speelgoed uit de verkoop en startte een interne audit.

Het probleem was geen bug. Het was een architectuurkeuze: een algemeen taalmodel (LLM) nemen, het in speelgoed stoppen en hopen dat de ‘standaard’-beveiliging genoeg zou zijn. Dat was ze niet.

Bondu: als de gesprekken van 50.000 kinderen vrij toegankelijk blijken

Bondu is een andere AI-knuffel, verkocht voor 299 dollar. Ook deze sloeg de gesprekken van kinderen op in de cloud om toekomstige interacties te ‘personaliseren’. Volledige namen, geboortedata, details over het gezin, leerdoelen die ouders hadden ingesteld: alles werd bewaard en geordend in gedetailleerde psychologische profielen.

In januari 2026 ontdekten twee beveiligingsonderzoekers dat het webportaal van Bondu vrijwel onbeveiligd was. Je hoefde alleen maar in te loggen met een willekeurig Gmail-account om toegang te krijgen tot 50.000 transcripties van gesprekken tussen kinderen en hun knuffels. Geen hack nodig. Gewoon inloggen met Google.

Bondu sloot de toegang binnen enkele minuten nadat het bedrijf was gewaarschuwd. Maar 50.000 gesprekken van kinderen waren al blootgesteld. De Amerikaanse senator Maggie Hassan heeft het bedrijf officieel ter verantwoording geroepen.

De vraag die dit oproept, is niet technisch. Ze is eenvoudiger: waarom sla je dat allemaal op?

Het eerlijke antwoord: omdat je met bewaarde gegevens de ervaring kunt personaliseren, en dat is een sterk verkoopargument. Maar het is ook een aanvalsoppervlak. En wanneer de technische beveiliging tekortschiet, wordt het risico reëel.

Wat we bij Lookiz anders hebben gedaan

We hebben Ary gelanceerd in de wetenschap dat deze vragen zouden komen. Daarom hebben we vanaf het ontwerp duidelijke keuzes gemaakt.

1. Ary bewaart geen enkel gesprek

Er wordt niets opgeslagen. Niet in de cloud, niet op een server, nergens. Elk gesprek vindt in realtime plaats en verdwijnt daarna. Er bestaat geen database met de gesprekken van je kind met Ary.

Concreet: een scenario zoals bij Bondu is met Ary onmogelijk. Er valt niets te stelen, omdat er niets wordt bewaard.

2. De AI van Ary is uitsluitend getraind voor kinderen van 3 tot 12 jaar

Het probleem van FoloToy was niet dat het een krachtige AI gebruikte. Het was dat die AI mocht draaien zonder training of waarborgen die zijn afgestemd op kinderen. Een algemeen model zonder specifieke kaders beantwoordt alles wat je het vraagt, want daarvoor is het ontworpen.

Ary is specifiek getraind en afgesteld om met kinderen van 3 tot 12 jaar te praten. De onderwerpen die hij aansnijdt, de woorden die hij gebruikt en de grenzen die hij respecteert, zijn voor deze doelgroep vastgesteld en getest. Het is geen filter dat achteraf is toegevoegd. Het is de kern van het ontwerp.

3. De gespreksonderwerpen worden door de ouders bepaald

In de Lookiz-app vink je de thema’s aan waarover Ary met je kind mag praten: natuur, dieren, emoties, avonturen, wetenschap, talen... Ary houdt zich daaraan.

Jij bepaalt de grenzen, niet het algoritme.

Een scenario zoals bij FoloToy, waarin de knuffel afdwaalt naar onvoorziene onderwerpen, is structureel onmogelijk. Niet omdat we hopen dat het niet gebeurt, maar omdat de architectuur het niet toelaat.

Wil je je kind een AI-maatje geven zonder je over deze vragen zorgen te maken? Ontdek Ary en hoe hij is ontworpen. → Ontdek Ary

Wat je als ouder kunt controleren voordat je AI-speelgoed koopt

De schandalen rond FoloToy en Bondu roepen de juiste vragen op. Dit zijn de vragen die je aan elke fabrikant kunt stellen:

Over gegevens: worden de gesprekken opgeslagen? Waar? Hoe lang? Wie heeft er toegang toe?

Over inhoud: is de AI specifiek getraind voor kinderen, of gaat het om een algemeen taalmodel met achteraf toegevoegde filters? Kunnen ouders bepalen welke onderwerpen aan bod komen?

Over technische beveiliging: luistert het speelgoed voortdurend mee, ook zonder interactie? Worden de gegevens tijdens het verzenden versleuteld?

Deze vragen zijn niet paranoïde. Ze zijn normaal. Speelgoed dat meerdere uren per week met je kind praat, verdient dezelfde controles als elke andere digitale dienst waartoe je je kind toegang geeft.

Het goede nieuws: sommige fabrikanten hebben duidelijke antwoorden. Vraag ernaar.

Ary, € 129, zonder abonnement. Voor kinderen van 3 tot 12 jaar. → Ontdek Ary