A utilização da inteligência artificial (IA) para a criação e disseminação de conteúdos sexuais na internet vem crescendo alarmantemente, conforme indica pesquisa recente da SaferNet Brasil. A ONG aponta que, por meio de ferramentas de IA generativa, é possível transformar imagens comuns da web em materiais de conteúdo sexual explícito, inclusive desnudando digitalmente pessoas em fotos, o que levanta sérias preocupações sobre a exploração e abuso sexual online.
Durante o evento Dia da Internet Segura, realizado em São Paulo, especialistas discutiram como a IA tem se tornado uma ferramenta perigosa nas mãos de criminosos. Eles podem, por exemplo, criar imagens sintéticas de abuso sexual sem utilizar fotos reais, ampliando o alcance dessas atividades ilegais. Iain Drennan, diretor executivo da WeProtect Global Alliance, destacou que a tecnologia de IA e realidade estendida facilita a produção desses materiais em uma escala industrial, gerando preocupações quanto à segurança online, especialmente em ambientes de realidade virtual e metaverso.
A pesquisa da SaferNet também revelou que o número de denúncias relacionadas à presença de imagens de abuso e exploração sexual infantil na internet atingiu um recorde em 2023, com mais de 71 mil queixas. Esse aumento é atribuído não só ao uso mal-intencionado da IA, mas também aos cortes de pessoal nas grandes empresas de tecnologia e à venda de imagens geradas por adolescentes.
Em resposta a esses desafios, a Câmara dos Deputados brasileira aprovou no final do ano passado a criminalização da criação e divulgação de imagens de nudez e conteúdo sexual utilizando IA, com penas previstas de 1 a 4 anos de prisão, além de multa. A medida agora segue para análise no Senado.
Além disso, a Meta anunciou iniciativas para combater o abuso, identificando imagens geradas por IA em suas plataformas, como Facebook, Instagram e Threads. A empresa pretende desenvolver ferramentas para detectar conteúdo de IA criado por terceiros, reforçando a importância da transparência e do combate à disseminação de materiais abusivos online.
Para denunciar casos de exploração e abuso sexual na internet, a SaferNet disponibiliza uma Central de Denúncias, e o governo federal mantém o Disque 100, dedicado a violações contra crianças e adolescentes.
