A OpenAI, conhecida pelo desenvolvimento do ChatGPT, está em processo de formação de uma equipe dedicada exclusivamente à segurança infantil, com o objetivo de implementar políticas mais rigorosas que previnam o uso inadequado de suas tecnologias de inteligência artificial por menores. Atualmente, a empresa busca preencher o cargo de especialista em aplicação de segurança infantil, cuja responsabilidade será liderar a aplicação de políticas relacionadas ao conteúdo gerado por IA, focando em processos de revisão de conteúdo sensível.
A necessidade de tal equipe especializada surge em um momento em que a popularidade de ferramentas baseadas em IA, como o ChatGPT, cresce entre crianças e adolescentes. Esses jovens utilizam as ferramentas para uma variedade de propósitos, desde auxílio em trabalhos escolares até apoio em questões pessoais, conforme indicam pesquisas recentes. Um estudo realizado pelo Centro de Tecnologia Democrática aponta que 29% das crianças usaram o ChatGPT para lidar com ansiedades e problemas de saúde mental. Com a emergente preocupação sobre o uso negativo da IA por menores, incluindo a criação de conteúdo falso, a OpenAI busca adotar medidas de segurança mais rigorosas.
Em adição à constituição da equipe de segurança infantil, a OpenAI já tomou passos significativos para adequar sua plataforma a um público mais jovem, como a exigência de consentimento parental para usuários entre 13 a 18 anos e a proibição da utilização da plataforma por crianças menores de 13 anos. Recentemente, a empresa anunciou uma colaboração com a Common Sense Media para desenvolver diretrizes de IA amigáveis a crianças, além de garantir seu primeiro cliente no setor educacional.
Essas iniciativas ocorrem em um contexto no qual escolas e universidades expressam preocupações com o potencial de plágio e outros usos impróprios do ChatGPT, o que destaca a relevância das medidas de proteção para o setor educacional. Adicionalmente, as ações da OpenAI seguem tendências observadas em outras grandes empresas de tecnologia que buscam diferenciar o conteúdo acessível a adultos e menores, a exemplo de plataformas de streaming.
A OpenAI, apoiada pela Microsoft, alcançou um marco significativo ao atingir receitas de US$ 2 bilhões em dezembro de 2023, com previsões de aumentar esse valor exponencialmente até 2025. Essa expansão econômica reflete o crescente interesse e adoção de produtos de IA generativa. Além disso, a empresa planeja investimentos significativos para superar desafios na produção de chips, essenciais para o avanço da tecnologia de inteligência artificial.
