O Governo Federal e outros órgãos de defesa de direitos do cidadão apresentaram uma série de recomendações à empresa de tecnologia americana X, visando impedir a geração e a circulação de conteúdos sexualizados indevidos por meio do uso do assistente de inteligência artificial Grok, integrado à plataforma.
Segundo denúncias de usuários, o Grok estaria sendo utilizado para a geração de conteúdos sintéticos de caráter sexualizado, erótico e com conotação pornográfica, a partir de imagens de pessoas reais. Mulheres, crianças e adolescentes têm sido as principais vítimas do uso criminoso da ferramenta. A Agência Nacional de Proteção de Dados, a Secretaria Nacional do Consumidor e o Ministério Público Federal recomendam que sejam implementadas medidas para impedir que o Grok gere novas imagens, novos vídeos ou novos arquivos de áudio que representem crianças, adolescentes e demais vítimas em contextos sexualizados ou erotizados.
As instituições também recomendam a implementação de mecanismos transparentes, acessíveis e eficazes para que titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre o uso irregular, abusivo ou ilegal de dados pessoais. Além disso, o governo alerta que, caso as recomendações não sejam acatadas ou sejam implementadas de modo insuficiente para amenizar os riscos identificados, outras medidas poderão ser consideradas e adotadas pelas três instituições nas esferas administrativas e jurídicas.
A questão é grave e requer uma resposta pronta e eficaz da parte da empresa X. A circulação de contents sexualizados indevidos pode ter consequências devastadoras para as vítimas e é fundamental que sejam tomadas medidas para impedi-la. A nossa equipe está em contato com a plataforma X, aguardando uma resposta e esperando que as recomendações sejam acatadas para proteger os direitos dos cidadãos e garantir a segurança online.
