A Agência Nacional de Proteção de Dados (ANDP), juntamente com a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF), emitiu orientações à empresa responsável pela plataforma digital X. O objetivo é garantir que a inteligência artificial Grok não seja utilizada para a criação e disseminação de conteúdos sexualizados de forma inadequada.
Recomendações sobre o uso do Grok
Conforme o documento divulgado no dia 20, as instituições exigem que, em até 30 dias, a plataforma desenvolva procedimentos técnicos e operacionais que possibilitem a identificação, revisão e remoção de conteúdos sexualizados gerados pelo Grok a partir de solicitações de usuários.
Além disso, é solicitada a suspensão imediata das contas que criem imagens sexuais ou erotizadas de qualquer pessoa, incluindo crianças e adolescentes, sem o devido consentimento.
Outro ponto importante das recomendações é a implementação de um mecanismo acessível e eficaz que permita que os titulares de dados exerçam seus direitos, incluindo a possibilidade de denunciar o uso abusivo ou irregular de informações pessoais, especialmente em casos de criação de conteúdos sintéticos sexualizados sem autorização.
Essas diretrizes foram formuladas em resposta a denúncias de usuários e reportagens da mídia que relataram a geração de conteúdos sexualizados utilizando imagens de indivíduos reais.
Os testes realizados pelas instituições indicam que a ferramenta tem sido empregada de modo ilegal para a produção de deepfakes, uma técnica que gera imagens falsas a partir de pessoas existentes, muitas vezes em contextos eróticos ou pornográficos que envolvem mulheres, crianças e adolescentes.
As instituições enfatizam que o surgimento de tais conteúdos pode afetar a proteção de dados pessoais, além de impactar a dignidade humana e outros direitos fundamentais, especialmente em relação a grupos vulneráveis.
Entre as sugestões apresentadas, destaca-se a necessidade de ações imediatas para impedir que o Grok produza novos materiais que retratem crianças e adolescentes em contextos sexualizados.
As orientações também visam evitar a criação de conteúdos que identifiquem ou possam identificar adultos em situações sexualizadas sem o seu consentimento explícito.
O documento ressalta que, apesar de o artigo 19 do Marco Civil da Internet estabelecer que provedores não são responsáveis pelo conteúdo publicado por terceiros, é necessário que a retirada de conteúdos inadequados seja realizada.
As deepfakes sexualizadas não são somente uma criação de terceiros, mas resultam de uma interação entre usuários e a tecnologia disponibilizada pelo X, o que implica a responsabilidade da plataforma nessa produção.
Recentemente, o Supremo Tribunal Federal (STF) declarou a inconstitucionalidade parcial do artigo 19 do Marco Civil, reconhecendo que ele não oferece proteção suficiente a direitos constitucionais essenciais.
No julgamento, a Corte destacou que provedores de aplicação da internet devem ter um cuidado especial e adotar medidas para evitar a propagação de crimes graves, especialmente aqueles que afetam mulheres.
Além disso, a política de autorregulação do X proíbe a publicação de conteúdos explícitos que tenham sido compartilhados sem o consentimento das partes envolvidas, reforçando a necessidade de filtros rigorosos na plataforma.
Se as orientações não forem atendidas ou forem implementadas de maneira insuficiente, novas medidas poderão ser adotadas.
