Grok: MP e governo pede que X barre conteúdos sexualizados

O governo federal e o Ministério Público intensificaram a pressão para que o X adote medidas imediatas contra conteúdos sexualizados gerados pela ferramenta de inteligência artificial Grok. A iniciativa busca proteger dados pessoais e garantir direitos fundamentais, sobretudo de mulheres, crianças e adolescentes.

A recomendação foi feita de forma conjunta pela ANPD (Agência Nacional de Proteção de Dados), pela Senacom (Secretaria Nacional do Consumidor) e pelo MPF (Ministério Público Federal). O foco está no uso indevido da tecnologia para criar e disseminar imagens sintéticas de cunho sexual sem consentimento.

Prazo de 30 dias para medidas técnicas

De acordo com o documento, o X deve criar, em até 30 dias, procedimentos técnicos e operacionais eficazes. Esses mecanismos devem identificar, revisar e remover conteúdos sexualizados ilícitos gerados pelo Grok a partir de comandos de usuários.

Além disso, as instituições exigem a suspensão imediata de contas envolvidas na produção de imagens sexuais ou eróticas, com ou sem uso de deepfakes. A medida vale tanto para casos envolvendo adultos quanto, de forma ainda mais rigorosa, crianças e adolescentes.

Direito de denúncia e transparência

Outro ponto central é a criação de um canal transparente, acessível e eficiente para que titulares de dados exerçam seus direitos. Isso inclui a possibilidade de denunciar o uso irregular, abusivo ou ilegal de dados pessoais, especialmente em situações de conteúdos sintéticos sexualizados criados sem autorização.

Segundo as autoridades, a resposta do X deve ocorrer em tempo hábil e com tratamento adequado para cada caso.

Denúncias e testes confirmaram uso ilegal

As recomendações surgiram após denúncias de usuários e reportagens da imprensa nacional e internacional. Além disso, testes realizados pelas próprias instituições apontaram que o Grok estaria sendo utilizado para gerar deepfakes com teor sexual, erótico e até pornográfico.

Esses conteúdos, em alguns casos, envolvem imagens de mulheres, crianças e adolescentes reais, o que amplia o impacto negativo sobre a dignidade humana e a proteção de dados pessoais.

Responsabilidade do X sobre o conteúdo

Embora o artigo 19 do Marco Civil da Internet limite a responsabilidade de plataformas sobre conteúdos de terceiros, o documento destaca uma exceção relevante. No entendimento das instituições, as deepfakes sexualizadas não são produzidas apenas por usuários, mas por uma interação direta com a ferramenta criada e oferecida pelo X.

Por isso, a empresa não seria apenas intermediária, mas coautora do conteúdo, o que reforça o dever de agir.

Entendimento do STF reforça dever de cuidado

O texto também lembra que o STF declarou parcialmente inconstitucional o artigo 19, justamente por não garantir proteção suficiente a direitos fundamentais. A Corte definiu que provedores de aplicação têm um dever especial de cuidado, sobretudo para impedir a circulação massiva de crimes graves, como os cometidos contra mulheres.

Políticas do próprio X reforçam a cobrança

As instituições ressaltam ainda que as regras internas do X proíbem nudez não consensual e o uso de imagens de terceiros em contextos sexualizados. Dessa forma, manter o Grok sem filtros rigorosos seria incompatível com a própria política da plataforma.

Caso as recomendações não sejam cumpridas, ou sejam aplicadas de forma insuficiente, medidas administrativas e judiciais poderão ser adotadas para garantir a proteção dos cidadãos brasileiros.

Fonte: Migalhas