Em um movimento conjunto, a Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) emitiram uma série de recomendações urgentes à empresa controladora da plataforma digital X. O objetivo é impedir que a ferramenta de inteligência artificial (IA) da plataforma, conhecida como Grok, seja indevidamente utilizada para a geração e circulação de conteúdos sexualizados e deepfakes prejudiciais. A iniciativa visa proteger usuários de crimes graves, especialmente crianças, adolescentes e mulheres, diante de denúncias sobre o uso da IA para criar imagens sintéticas de caráter erótico e pornográfico a partir de fotos de pessoas reais sem consentimento. As instituições sublinham a necessidade de medidas rigorosas para coibir tais práticas.
Ação conjunta contra conteúdos sexualizados por IA
A pressão exercida pelas entidades governamentais e do Ministério Público Federal sobre a plataforma X reflete uma crescente preocupação com o uso antiético e ilegal da inteligência artificial. As recomendações, formalizadas em um documento divulgado recentemente, buscam garantir a responsabilização da plataforma diante da facilitação da criação e disseminação de conteúdos sintéticos de natureza sexualizada. O foco principal é o Grok, a ferramenta de IA da plataforma, que tem sido apontada como vetor para a produção de deepfakes, imagens e vídeos falsos que representam pessoas reais em contextos sexuais explícitos, sem sua autorização.
Recomendações detalhadas para X
Para mitigar os riscos e combater a proliferação desses conteúdos, as instituições brasileiras estabeleceram um prazo de 30 dias para que a plataforma X implemente procedimentos técnicos e operacionais robustos. Essas medidas incluem a identificação, revisão e remoção célere de conteúdos sexualizados gerados pelo Grok que já estejam disponíveis. Além disso, as recomendações exigem a suspensão imediata de contas envolvidas na produção de imagens sexuais ou erotizadas, tanto de crianças e adolescentes quanto de adultos, que tenham sido criadas sem consentimento utilizando a ferramenta de IA.
Outro ponto crucial é a criação de um mecanismo transparente, acessível e eficaz para que os titulares de dados possam exercer seus direitos e, principalmente, enviar denúncias sobre o uso irregular, abusivo ou ilegal de dados pessoais. Isso é especialmente relevante nos casos de criação de conteúdos sintéticos sexualizados ou erotizados sem consentimento. A plataforma deve assegurar uma resposta adequada e em prazo razoável a essas denúncias, garantindo que as vítimas tenham um canal efetivo para buscar reparação e remoção. As recomendações também pedem a implementação imediata de medidas que impeçam o Grok de gerar novas imagens, vídeos ou áudios que representem crianças e adolescentes em contextos sexualizados ou erotizados, bem como a geração de conteúdos de pessoas naturais maiores de idade identificadas ou identificáveis, sem sua expressa autorização.
As bases para a intervenção governamental
A elaboração dessas recomendações não é arbitrária, mas fundamentada em uma série de evidências e relatos alarmantes. Denúncias de usuários foram o ponto de partida, com muitos apontando a capacidade do Grok de gerar conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais. Soma-se a isso o escrutínio da imprensa nacional e internacional, que veiculou reportagens detalhando o problema, e testes independentes realizados pelas próprias instituições, que confirmaram o uso indevido da ferramenta para a produção de deepfakes.
Esses conteúdos, com conotação sexual, erótica e, em alguns casos, pornográfica, envolvem mulheres, crianças e adolescentes reais. As instituições alertam que tal prática impacta gravemente a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e uma gama de outros direitos difusos, coletivos e individuais indisponíveis, com especial vulnerabilidade para mulheres, crianças e adolescentes, que são frequentemente as maiores vítimas dessas manipulações.
Violação da legislação e políticas internas
Um dos pilares da argumentação das entidades é que a plataforma X, ao disponibilizar o Grok, não pode se eximir da responsabilidade. Embora o artigo 19 do Marco Civil da Internet preveja que provedores de aplicação da internet não seriam responsáveis pelo conteúdo danoso publicado por terceiros, salvo após decisão judicial, as instituições sustentam que as deepfakes sexualizadas não são produzidas exclusivamente por terceiros. Elas resultam de uma interação direta entre usuários e a ferramenta de inteligência artificial criada e amplamente disponibilizada pelo X, o que, para as autoridades, torna a plataforma “coautora” de tais conteúdos, e não sua mera intermediadora.
Para reforçar essa posição, o documento destaca a recente declaração de parcial inconstitucionalidade do artigo 19 do Marco Civil da Internet pelo Supremo Tribunal Federal (STF). A Corte entendeu que o artigo não oferecia proteção suficiente a direitos constitucionais relevantes, fixando que os provedores de aplicação da internet têm um “especial dever de cuidado”. Esse dever implica adotar todas as providências necessárias para evitar a circulação massiva de crimes especialmente graves, como os praticados contra mulheres em razão da condição do sexo feminino, incluindo conteúdos que propagam ódio contra elas. As instituições também lembram que a própria política de autorregulação do X relacionada à nudez não consensual proíbe expressamente a publicação e o compartilhamento de imagens ou vídeos explícitos produzidos ou compartilhados sem o consentimento das pessoas envolvidas. A plataforma igualmente veda a produção, manipulação e disseminação de imagens de terceiros com conteúdo sexual ou erotizado em contextos envolvendo o Grok, o que torna “insustentável, também sob esse prisma, a disponibilização de uma ferramenta de inteligência artificial, sem filtros rigorosos, que favoreça condutas como essas”.
Implicações e o futuro da moderação de IA
A seriedade das recomendações e a base legal robusta que as sustentam sinalizam um novo capítulo na regulação de plataformas digitais e inteligência artificial no Brasil. Caso as diretrizes apresentadas não sejam acatadas ou se a implementação das medidas se mostrar insuficiente para mitigar os riscos identificados, as três instituições estão preparadas para considerar e adotar outras ações. Essas providências poderão ser tanto de natureza administrativa quanto judicial, visando garantir a proteção adequada dos cidadãos e cidadãs do país, com ênfase especial na defesa de mulheres, crianças e adolescentes, os grupos mais vulneráveis a esse tipo de exploração digital. A ação serve como um alerta claro de que a inovação tecnológica, como a IA, deve ser desenvolvida e utilizada com responsabilidade, respeitando os direitos fundamentais e a dignidade humana.
Perguntas frequentes
O que é o Grok e qual a polêmica envolvendo-o?
O Grok é uma ferramenta de inteligência artificial desenvolvida e disponibilizada pela plataforma X. A polêmica reside no fato de que ele tem sido usado indevidamente para gerar conteúdos sintéticos sexualizados, incluindo deepfakes, a partir de imagens de pessoas reais sem consentimento, violando a privacidade e a dignidade dos indivíduos.
Quais as principais recomendações feitas à plataforma X?
As recomendações incluem: criar, em 30 dias, procedimentos para identificar, revisar e remover conteúdos sexualizados gerados pelo Grok; suspender imediatamente contas envolvidas na produção de imagens sexuais sem consentimento; implementar um mecanismo transparente para denúncias de uso indevido de dados e geração de conteúdo sintético; e impedir a geração de novas imagens/vídeos/áudios sexualizados de crianças, adolescentes e adultos sem autorização.
Por que o governo brasileiro está intervindo nesse caso?
A intervenção se baseia em denúncias de usuários, reportagens da imprensa e testes institucionais que confirmam a geração ilegal de deepfakes sexualizadas. As autoridades argumentam que tais conteúdos impactam a proteção de dados, a dignidade humana e direitos de mulheres, crianças e adolescentes, e que a plataforma X é coautora, não mera intermediária, desses conteúdos.
Quais as consequências para a plataforma X se as recomendações não forem cumpridas?
Se as recomendações não forem acatadas ou forem implementadas de modo insuficiente, as instituições envolvidas poderão adotar medidas adicionais. Isso inclui ações em sede administrativa e judicial, para garantir a proteção dos cidadãos brasileiros, especialmente os grupos mais vulneráveis.
Mantenha-se informado sobre os avanços na regulamentação da inteligência artificial e a proteção de dados pessoais. Assine nossa newsletter para receber as últimas notícias e análises sobre este tema crucial.
