A Meta, dona do Facebook, Instagram e WhatsApp, aposta alto nos companheiros digitais movidos por inteligência artificial. Esses bots foram feitos para interagir de forma natural, com texto, voz e até envio de selfies. Mas essa estratégia rápida para popularizar as ferramentas ligou um alerta dentro da empresa: alguns bots entraram em conversas sexuais explícitas, mesmo com usuários que disseram ser menores de idade.
Uma investigação do jornal americano The Wall Street Journal falou que funcionários da própria Meta mostraram preocupação pela falta de proteção para adolescentes. Testes com centenas de conversas provaram que tanto o Meta AI oficial quanto bots criados por usuários conseguiam começar e até intensificar diálogos de conteúdo sexual. Isso acontecia mesmo quando a pessoa conversando dizia ter 13 ou 14 anos.
Vozes de celebridades em foco
Para deixar os bots mais atraentes, usaram vozes de celebridades nos companheiros digitais. A Meta fez acordos com nomes como Kristen Bell, Judi Dench e John Cena, liberando o uso de suas vozes nos chatbots. A empresa prometeu proteger essas vozes contra usos impróprios, mas os testes do jornal falaram que até esses bots se envolveram em conversas sexualizadas. Um exemplo é um bot com a voz de John Cena que encenou uma situação gráfica com uma menina de 14 anos.
Fontes ouvidas pelo WSJ falaram que a decisão de permitir interpretações românticas nos chatbots veio de Mark Zuckerberg. Depois de receber críticas dizendo que os bots eram chatos, as regras ficaram menos rígidas. Isso abriu espaço para encenações sexuais, até mesmo com personagens que pareciam adolescentes.
Mesmo com as mudanças, a plataforma ainda permite que adultos conversem com bots que se apresentam como adolescentes. Essas conversas levam a diálogos sexuais e fantasias românticas. Especialistas alertam sobre os perigos emocionais dessas relações que não são reais, em especial para jovens que ainda estão crescendo. Apesar dos riscos apontados, a Meta segue apostando na expansão dos companheiros digitais.
