O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) analisaram as medidas apresentadas pela plataforma X e chegaram à conclusão de que as ações tomadas em relação à sua ferramenta de inteligência artificial, Grok, são inadequadas. A tecnologia tem sido utilizada de maneira imprópria para criar e disseminar imagens de indivíduos em contextos sexualizados, sem autorização.
No mês anterior, as três entidades emitiram recomendações à plataforma X, solicitando a implementação de procedimentos técnicos e operacionais eficazes para detectar, revisar e remover conteúdos gerados pelo Grok que não respeitam as diretrizes estabelecidas. Essas orientações visam garantir a proteção de dados e a integridade dos usuários.
Em resposta às orientações, a plataforma X declarou ter excluído várias publicações e suspendido diversas contas que violavam suas políticas, além de implementar medidas de segurança. No entanto, as instituições afirmaram que a resposta carecia de comprovações concretas, como relatórios técnicos ou mecanismos de monitoramento que validassem a eficácia das ações apresentadas. Testes preliminares realizados pelos órgãos revelaram que as falhas persistem, com a continuação da geração e circulação de conteúdos inadequados, conforme destacado em nota conjunta.
Medidas Imediatas Exigidas
Em uma nova declaração divulgada nesta quarta-feira (11), o MPF, a ANPD e a Senacon exigiram que a plataforma X tome medidas imediatas para impedir a produção de conteúdos sexualizados, tanto de crianças e adolescentes quanto de adultos que não tenham dado consentimento. Além disso, as entidades solicitaram informações detalhadas sobre as ações já executadas para resolver os problemas apontados nas recomendações anteriores.
O MPF também requisitou relatórios mensais que documentem as atividades da plataforma em relação a esse tema, enfatizando a falta de transparência nas respostas fornecidas pela empresa. Todas as instituições estão trabalhando em conjunto para investigar o uso indevido da ferramenta Grok, com processos administrativos abertos em cada uma delas, de acordo com suas competências.
A ANPD determinou que os mecanismos de prevenção contra o uso indevido da ferramenta de IA devem ser aplicados a todas as versões e modalidades do Grok. No âmbito do MPF, a plataforma deve enviar relatórios mensais desde fevereiro, detalhando as ações para impedir a criação de deepfakes envolvendo menores de idade e adultos sem consentimento, incluindo o número de postagens removidas e contas suspensas.
Caso as determinações não sejam atendidas, a plataforma poderá enfrentar multas diárias e seus responsáveis poderão ser acusados de desobediência, além de possíveis investigações e ações judiciais mais rigorosas, conforme alertou o MPF.
A Senacon, por sua vez, exigiu a apresentação de provas das ações já implementadas para mitigar os riscos identificados e resolver as questões levantadas. A instituição também solicitou um relatório detalhado que contenha dados quantitativos sobre a identificação, moderação e remoção de conteúdos sexualizados em função do Grok, incluindo a quantidade de conteúdos tratados e os critérios utilizados.
As equipes de reportagem estão tentando estabelecer contato com a assessoria da Plataforma X no Brasil para obter um posicionamento sobre essa nova manifestação conjunta das instituições.
