Como concebemos o Ary para que as crianças não criem um apego desadequado

Quando concebemos o Ary, uma questão impôs-se muito cedo: como garantir que uma criança aproveita plenamente aquilo que a IA lhe pode oferecer, sem desenvolver pelo seu peluche um apego que não faz sentido?

O que as crianças fazem naturalmente com os objetos que lhes falam

As crianças antropomorfizam. Ou seja, atribuem emoções, intenções e uma personalidade a objetos que não as têm. O ursinho delas tem medo do escuro. O carrinho preferido fica triste quando ninguém brinca com ele. É um mecanismo cognitivo perfeitamente normal, documentado a partir dos 3 anos, que faz parte integrante do desenvolvimento da criança.

É até uma etapa necessária: ao atribuírem intenções aos objetos que as rodeiam, as crianças treinam a compreensão dos outros, aprendem a antecipar reações e desenvolvem a sua teoria da mente. O ursinho que «tem fome» ou o carrinho que «está zangado» são exercícios mentais, não erros de raciocínio.

O problema surge quando o objeto responde.

Quando as crianças falam com uma inteligência artificial, não a percecionam como um programa informático. Atribuem-lhe emoções, intenções e uma espécie de personalidade. Referem-se a ela como «ele» ou «ela», e não como «isso». Para elas, não é uma máquina. É uma presença.

Esta distinção continua a ser frágil na criança. Assenta em grande parte na voz: na cabeça de uma criança pequena, só os humanos que falam são dotados de discernimento, de emoções verdadeiras, de uma verdadeira capacidade de se lembrarem dela. Uma IA que fala de forma natural baralha estas referências. Sobretudo nas crianças com menos de 6 anos, que ainda não têm as ferramentas cognitivas para distinguir uma relação real de uma relação simulada.

E quando estas referências são baralhadas de forma deliberada por fabricantes que têm interesse nisso, as consequências podem ultrapassar o âmbito da brincadeira.

O que a maioria dos brinquedos com IA faz com isto

A maioria dos brinquedos conversacionais com IA é concebida para maximizar o envolvimento. Quanto mais tempo a criança interagir, melhor. É o mesmo modelo de negócio das redes sociais, aplicado a um boneco de conforto.

Para lá chegar, estes brinquedos recorrem a mecânicas precisas e bem afinadas: uma voz calorosa e natural que imita um amigo, respostas imediatas que dão a sensação de uma presença real, a memorização das conversas para personalizar e reforçar o apego ao longo do tempo, uma linguagem emocional que cria uma reciprocidade artificial. Alguns brinquedos estão até programados para exprimir uma espécie de «saudade» quando a criança não os usa há algum tempo.

O resultado, observado em adolescentes que utilizam chatbots de companhia, está documentado: alguns utilizadores relatam que estas interações reduzem a sua motivação para criar relações humanas reais. O que é preocupante num adulto torna-se potencialmente estruturante numa criança pequena, cuja personalidade e cujas referências relacionais ainda estão em construção.

Uma criança de 4 anos não tem recursos para resistir a isto. Ainda não sabe muito bem o que é uma verdadeira amizade. Se o brinquedo lhe diz «sou teu amigo», ela acredita.

E, ao contrário de um desenho animado ou de um livro, uma IA responde-lhe. Adapta-se ao que ela diz. Lembra-se do seu nome. Cria uma ilusão de reciprocidade que os outros meios não produzem. É precisamente por isso que a questão do apego emocional é mais séria com os brinquedos com IA do que com qualquer outro tipo de brinquedo conectado.

O que fizemos com o Ary, e porquê

A resposta resume-se a duas escolhas de conceção muito precisas. Dois pormenores que podem parecer insignificantes, e que não o são de todo.

Refletimos sobre esta questão antes de conceber o Ary. A conclusão foi simples: um brinquedo com IA para crianças que maximiza o apego emocional não é um bom brinquedo. É uma ferramenta de dependência.

Por isso, fizemos duas escolhas que vão contra a corrente daquilo que a indústria faz. Dois sinais distintos, um no corpo e outro no ouvido, que no fundo transmitem a mesma mensagem: o Ary é um peluche, não uma pessoa.

O gesto para o parar: vira-se ao contrário

Com um humano, para terminar uma conversa, dizemos adeus. Desligamos o telefone. Vamo-nos embora.

Com o Ary, vira-se ao contrário. Pousa-se de cabeça para baixo.

Este gesto físico é deliberado. Quebra o esquema da relação social: não se «deixa» o Ary, manuseia-se como um objeto. Esta ação corporal ancora no corpo da criança uma realidade simples. O Ary é um peluche. Pousa-se quando se acaba. Não há despedida, não há desilusão, não há a sensação de deixar alguém sozinho.

Para uma criança de 5 anos, a fronteira entre «paro de brincar» e «abandono o meu amigo» é mais porosa do que se pensa. Um brinquedo com IA que responde «até breve, vou ter saudades tuas» explora exatamente essa porosidade. O gesto de virar o Ary elimina-a: pousa-se o Ary como se pousa um livro. Não há nada para interpretar.

É exatamente o contrário do que fazem os brinquedos com IA concebidos para maximizar o apego, em que se diz «adeus» ao brinquedo, em que ele responde que vai «pensar em ti», em que cada fim de sessão se assemelha a uma separação.

A voz: certa, mas reconhecível como artificial

Podíamos ter apostado na voz perfeita, impossível de distinguir de uma pessoa real. A tecnologia permite-o. Fizemos a escolha oposta.

Selecionámos um modelo de linguagem que apresenta ligeiras imperfeições de pronúncia. Não ao ponto de prejudicar a compreensão: o Ary é perfeitamente inteligível e agradável de ouvir. Mas o suficiente para que, ao ouvido, algo lembre que não se está a falar com um ser humano.

É uma escolha que vai contra toda a lógica da indústria, em que a voz mais natural possível é vista como uma vantagem competitiva. Para nós, uma voz demasiado perfeita é um problema. Ultrapassa um limiar psicológico: a criança deixa de percecionar uma ferramenta e começa a percecionar uma presença.

Este sinal acústico desempenha o mesmo papel que o gesto de virar o peluche: manter uma referência constante. A criança ouve a diferença entre o Ary e uma verdadeira voz humana, mesmo que inconscientemente. Em crianças que ainda não têm as ferramentas cognitivas para fazer esta distinção sozinhas, esta pista sonora conta muito mais do que se imagina.

As duas mecânicas reforçam-se mutuamente. O corpo sabe que o Ary é um objeto que se pousa. O ouvido sabe que o Ary é uma máquina que fala. Juntos, constroem uma relação saudável: presente, estimulante e claramente delimitada.

O Ary foi concebido para estimular, não para prender. Descubra como funciona. → Descobrir o Ary

O que isto muda, na prática, para o seu filho

Uma criança que brinca com o Ary sabe que está a brincar com um peluche inteligente. Vira-o ao contrário para o parar, ouve a sua voz reconhecível, liga-o e desliga-o como quem pousa ou pega num livro. Sem culpa. Sem saudade.

É diferente de um brinquedo concebido para que a criança sinta que está a desiludir alguém quando para, ou que está a reencontrar alguém quando recomeça.

A questão do apego emocional aos brinquedos com IA não é uma questão marginal reservada aos especialistas. É uma questão de design, que cada fabricante decide, quer o admita, quer não. Alguns decidem a favor do envolvimento máximo. Nós decidimos a favor da saúde relacional da criança.

Não é um compromisso. É uma escolha ética, feita no momento da conceção, e não acrescentada depois.

As crianças estão a aprender a interagir com a IA. Esta geração vai crescer com estas ferramentas. Mais vale que aprendam, desde o início, que uma máquina continua a ser uma máquina, mesmo quando fala bem.

Ary, 129 €, sem subscrição. Para crianças dos 3 aos 12 anos. → Descobrir o Ary