Grok restringe uso de ferramenta de IA após disseminação de imagens sexuais ilegais de mulheres e crianças

Grok, o assistente de inteligência artificial da plataforma de Elon Musk, desativou nesta sexta-feira (9) sua função de criação de imagens para usuários não pagantes, após ser criticado por gerar imagens falsas sexualmente explícitas de mulheres e menores. Essas imagens, criadas por meio da edição de fotos ou vídeos de pessoas reais para que parecessem nuas, provocaram protestos em todo o mundo.

Quando os usuários do X acessaram o Grok nesta sexta-feira, o assistente respondeu: “A geração e a edição de imagens estão atualmente reservadas aos assinantes pagos. Você pode assinar para desbloquear essas funções”.

A Comissão Europeia anunciou na quinta-feira a imposição de uma medida cautelar ao X após o escândalo relacionado às imagens sexualmente explícitas de menores geradas pelo Grok.

O órgão disse ter emitido uma “ordem de retenção”, uma medida legal que obriga o X a “preservar todos seus documentos internos relacionados ao Grok até o final de 2026”, declarou um porta-voz à imprensa.

No início de dezembro, a UE multou o X em 120 milhões de euros (753 milhões de reais na cotação atual) por descumprir a Lei de Serviços Digitais (DSA, na sigla em inglês), apesar de reiteradas ameaças do presidente dos Estados Unidos, Donald Trump, que acusa o bloco europeu de atacar as gigantes tecnológicas americanas com sua legislação digital.

Na terça-feira, o governo britânico instou o X a encontrar uma solução “urgente” para evitar a proliferação de imagens falsas “repugnantes” de mulheres nuas e de menores geradas pelo Grok.

“O que vimos online nos últimos dias é absolutamente repugnante e inaceitável em qualquer sociedade que se preze”, declarou Liz Kendall, ministra de Tecnologia do governo trabalhista de Keir Starmer.

6.700 imagens ilegais sexuais por hora

Durante um monitoramento de 24 horas das imagens divulgadas pela conta @Grok no X, o chatbot produziu cerca de 6.700 imagens por hora classificadas como sexualmente sugestivas ou com nudez, segundo a pesquisadora de mídias sociais e deepfakes Genevieve Oh. No mesmo intervalo, entre 5 e 6 de janeiro, os cinco principais sites especializados nesse tipo de conteúdo registraram, em média, 79 novas imagens de nudez geradas por IA por hora, de acordo com a pesquisadora.

*Com informações da AFP 

Fonte: Noticias ao Minuto Read More