O Google anunciou uma atualização em suas diretrizes de uso de inteligência artificial (IA) generativa, permitindo que clientes a utilizem para decisões automatizadas em áreas consideradas de alto risco. Isso inclui setores como saúde, crédito, emprego, moradia, seguro e assistência social, desde que haja supervisão humana envolvida.
A nova política, divulgada recentemente, visa esclarecer que, embora a IA possa influenciar direitos significativos dos indivíduos, a supervisão humana é uma exigência constante para mitigar possíveis impactos negativos. Anteriormente, a companhia mantinha uma abordagem mais restritiva, proibindo o uso de IA generativa para decisões automatizadas em setores de alto risco. Agora, a empresa quer deixar claro que a supervisão sempre foi um requisito.
Comparando com concorrentes como OpenAI e Anthropic, o Google se destaca pela flexibilidade em suas diretrizes. Enquanto a OpenAI proíbe o uso de IA em áreas como crédito e emprego, a Anthropic permite sua utilização em saúde e seguros, mas com um controle mais rigoroso.
O uso de IA em decisões automatizadas levanta preocupações sobre discriminação e vieses, levando a regulamentações severas na União Europeia, que exigem auditorias e supervisão. Nos Estados Unidos, estados como Colorado e cidades como Nova York já implementaram leis que demandam a divulgação e auditoria de sistemas de IA de alto risco.
