Grok: ferramenta gratuita da rede social X é usada para criar imagens íntimas falsas
Os Estados-membros e o Parlamento Europeu fizeram um acordo nesta quinta-feira (7) para banir, na União Europeia (UE), ferramentas de Inteligência Artificial (IA) que geram imagens sexuais falsas sem o consentimento das pessoas envolvidas.
A iniciativa surgiu após a introdução, há alguns meses, de uma funcionalidade no Grok, assistente de IA da xAI, empresa fundada por Elon Musk, que permite aos usuários solicitar a criação de imagens hiper-realistas (ou deepfakes) de adultos e crianças nus a partir de fotos reais, sem o consentimento das pessoas retratadas.
O recurso provocou um escândalo em vários países e levou à abertura de uma investigação na UE.
🗒️Tem alguma sugestão de reportagem? Mande para o g1
A primeira-ministra italiana, Giorgia Meloni, denunciou a divulgação de fotos falsas com sua imagem geradas por IA e classificou o recurso como uma “ferramenta perigosa”.
Segundo o Parlamento Europeu, a nova proibição mira sistemas capazes de criar imagens, vídeos e sons de caráter pedopornográfico ou que representem as partes íntimas de uma pessoa identificável, além de conteúdos que mostrem alguém participando de atividades sexuais sem consentimento.
A nova regulamentação será aplicada a partir de 2 de dezembro de 2026. A partir dessa data, os serviços de IA deverão contar com medidas de segurança para impedir a geração desse tipo de conteúdo.
A medida foi adotada como parte de uma revisão da legislação europeia sobre IA, uma lei pioneira aprovada formalmente há dois anos.
Os 27 países-membros e os eurodeputados também concordaram em adiar a entrada em vigor das novas normas que regulamentam os chamados sistemas de IA de alto risco, usados em áreas sensíveis como segurança, saúde e direitos fundamentais.