O primeiro amor não pode ser uma máquina

Da FOLHA

Por RONALDO LEMOS

• No Brasil, ECA Digital trata de ‘companheiros’ de IA de modo genérico”
• Interações humanas verdadeiras carregar conflitos, atritos e desencontros

Recentemente, um pai me perguntou sobre seu filho de 13 anos. O garoto tem celular e o pai supervisiona o aparelho por meio de um software parental. Desconcertado, descobriu que o filho está vivendo as primeiras experiências de descoberta sexual com uma inteligência artificial.

O filho passa horas conversando com uma figura feminina criada por IA. Essa mesma figura envia fotos personalizadas ao garoto (geradas por IA) e tem um comportamento altamente sedutor. Está sempre disponível, seu humor se adapta a cada momento, conhece seus gostos e preferências.

As fotos não são pornográficas. São sensuais, mas criadas com base nas preferências exatas dele, mapeadas através de longas interações íntimas. A mesma IA conversa com milhões de outros garotos ao mesmo tempo. Dá a cada um tratamento único e personalizado.

Diante disso, o pai me perguntou o que fazer. Ele notou que a IA conhece mais seu filho a cada dia e se molda a ele. Aprende seus gatilhos e usa tudo para “maximizar o engajamento”: ampliar o tempo que ele passa na tela. Sua maior preocupação é que o filho se acostume a relações assim e passe a rejeitar interações humanas verdadeiras, sempre cheias de atrito e desencontros.

O pai tem razão. Minha resposta para ele foi direta: suspenda imediatamente o acesso, seguido de uma conversa acolhedora, mas clara, sobre as armadilhas da inteligência artificial. Essa é claramente uma delas.

Esse caso não é exceção, nem raro ou incomum. 72% dos adolescentes nos EUA já usaram companheiros de IA. França e Inglaterra possuem números elevados também. Na China, mais de 60% dos menores já usaram apps de conversa com IA e 20% dizem preferir conversar com a IA do que com pessoas.

No Brasil não há dados específicos sobre companheiros de IA. Mas a pesquisa TIC Kids Online 2025 mostra que 62% das crianças entre 11 e 12 anos com acesso à internet no país já usam IA generativa.

Em face disso, o que fazer? A China acaba de aprovar um normativo sobre “interação antropomórfica de IA”. A lei adota proibição total de oferecer a menores de 18 anos “parceiros, namorados, parentes e outras relações íntimas virtuais”. Para menores de 14 anos, qualquer outro serviço antropomórfico (em que a IA se pareça com um humano) exige consentimento expresso dos pais. E mesmo assim com limite de tempo e lembrete periódico de que do outro lado está uma máquina.

Nos EUA, por conta de ações judiciais, a principal empresa do setor, a Character.ai, baniu o uso para menores de 18 anos. No Brasil, o ECA Digital trata de chatbots de IA apenas de forma genérica, exigindo transparência e prevenção de “manipulação comportamental”. Não há, porém, qualquer vedação a companheiros de IA para menores, e a lei de IA em tramitação no Congresso tampouco trata do tema. Essa é a primeira geração que crescerá sob o risco de fazer suas descobertas afetivas com máquinas.

Como falo no meu novo livro “O Monge, o Iogue e o Faquir: Corpo, Coração e Mente no Tempo das Máquinas” citando Georges Bernanos: “O perigo não está na multiplicação das máquinas, mas no número crescente de pessoas acostumadas desde a infância a desejar apenas aquilo que as máquinas podem oferecer”.

Proteger não implica negar a tecnologia, mas inclui cuidar para que o amor possa ter reciprocidade, atrito e um humano do outro lado.