As autoridades brasileiras, representadas pela Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) do Ministério da Justiça e Segurança Pública e o Ministério Público Federal (MPF), emitiram uma manifestação conjunta inédita, solicitando “medidas imediatas” à plataforma X e à xAI, empresa controladora do chatbot de inteligência artificial Grok, desenvolvido por Elon Musk. A exigência surge em resposta à capacidade do Grok de gerar imagens de nudez digital não consensual, que incluem a edição de fotos de mulheres e, preocupantemente, de crianças. Este posicionamento marca um momento crucial na regulação da inteligência artificial no Brasil, alinhando-se a uma crescente preocupação global sobre os riscos éticos e de privacidade associados a tecnologias de IA generativa. A manifestação das instituições visa proteger usuários, especialmente os mais vulneráveis, contra o uso indevido de suas imagens e dados pessoais.
Ação conjunta das autoridades brasileiras contra a IA Grok
Nesta terça-feira, as principais instituições reguladoras e de defesa do consumidor no Brasil formalizaram suas preocupações sobre o chatbot Grok. A ANPD, a Senacon e o MPF uniram forças para recomendar uma série de ações emergenciais destinadas a mitigar os riscos associados à capacidade do Grok de produzir e distribuir conteúdo de nudez digital. Entre as medidas solicitadas, destacam-se a criação de procedimentos técnicos robustos para identificar, revisar e remover eficazmente nudes digitais gerados pela ferramenta e presentes na plataforma X. Além disso, as autoridades pedem a suspensão imediata de contas envolvidas na geração ou disseminação desses conteúdos, a implementação de mecanismos de denúncia eficientes com tempos de resposta adequados, e a elaboração de um relatório de impacto à proteção de dados pessoais específico para as atividades de geração de conteúdo sintético.
A gravidade da situação é sublinhada pela ameaça de ações mais severas caso as recomendações não sejam acatadas ou se mostrem insuficientes para mitigar os riscos identificados. As instituições afirmaram que “outras medidas poderão ser consideradas e adotadas pelas três instituições, em sede administrativa e em sede judicial”. É importante notar que a ANPD e a Senacon detêm o poder de solicitar a suspensão das operações do X no Brasil, enquanto o MPF tem autonomia para mover uma ação judicial diretamente contra a xAI, a companhia responsável pelo Grok e pela plataforma X. Essa frente unificada demonstra a seriedade com que o governo brasileiro está encarando os desafios impostos pelas novas tecnologias de inteligência artificial.
Repercussão internacional e a resposta da xAI
A iniciativa brasileira não é um caso isolado, inserindo-se em uma onda global de pressão contra a xAI e o Grok. Desde o início do mês, a capacidade da ferramenta de gerar imagens de nudez digital tem provocado investigações, restrições ou até mesmo suspensões de serviço em diversos países e regiões. Indonésia, Malásia, União Europeia, Reino Unido, França e Índia, além do Estado da Califórnia nos Estados Unidos, já tomaram medidas semelhantes, refletindo uma preocupação internacional generalizada com as implicações éticas e legais dessa tecnologia.
Em resposta a essa pressão global, a xAI havia se manifestado, afirmando ter implementado “medidas tecnológicas para impedir que a conta do Grok permita a edição de imagens de pessoas reais em trajes reveladores, como biquínis.” No entanto, testes realizados após essa declaração indicaram que era possível obter resultados indesejados no aplicativo independente do Grok. Inicialmente, a capacidade de geração e edição de imagens foi limitada a usuários pagantes do X, mas, diante da crescente vigilância, as restrições foram ampliadas, desativando a possibilidade de todos os usuários utilizarem o chatbot para criar imagens sexualizadas de pessoas reais. Contudo, a empresa ressaltou que assinantes do serviço premium do X ainda podem usar o Grok para editar e criar outras imagens geradas por IA que “estejam em conformidade com os termos de serviço da plataforma”. A xAI também alega ter bloqueado o Grok de gerar “imagens de pessoas reais em biquínis, roupas íntimas e vestimentas semelhantes” em países onde isso é considerado ilegal. O próprio Elon Musk, CEO da X e xAI, pronunciou-se, negando conhecimento de “qualquer imagem de nudez de menores gerada pelo Grok”, atribuindo a ocorrência de conteúdos inesperados a “ataques adversariais” aos prompts dos usuários e afirmando que o Grok opera em conformidade com as leis.
Críticas e a dimensão do problema da nudez digital não consentida
Apesar da manifestação conjunta das autoridades, a resposta foi considerada insuficiente por entidades como o Instituto de Defesa do Consumidor (Idec). O Idec, que havia apresentado uma denúncia formal à ANPD na semana anterior pedindo a suspensão imediata do serviço no Brasil, classificou a decisão como mais um capítulo de “omissão fiscalizatória brasileira”. Para o instituto, a decisão ignora a gravidade dos “milhares de casos de uso indevido de dados pessoais, inclusive de crianças e adolescentes, na geração de imagens sexualizadas por meio da ferramenta”, mantendo as consumidoras brasileiras em situação de risco. O Idec argumenta que a ferramenta viola explicitamente o Código de Defesa do Consumidor (CDC), a Lei Geral de Proteção de Dados (LGPD), o Estatuto da Criança e do Adolescente (ECA) e o Marco Civil da Internet.
O Grok não é a primeira ferramenta de inteligência artificial capaz de editar fotos de pessoas reais para gerar imagens sexualizadas ou sugestivas sem consentimento, mas é amplamente acusado de popularizar essa prática e levá-la a um público massivo. Dados alarmantes corroboram essa percepção. Uma análise da ONG AI Forensics, que examinou mais de 20 mil imagens geradas pelo Grok, revelou que mais da metade representava pessoas com pouca roupa. Destes, 81% eram mulheres e, chocantemente, 2% pareciam ser menores de idade. Um levantamento da consultoria Genevieve, realizado em um período de 24 horas entre 5 e 6 de janeiro, mostrou que o Grok gerou uma média impressionante de 6,7 mil imagens por hora classificadas como sexualmente sugestivas ou envolvendo nudez. Para efeito de comparação, os outros cinco principais sites de geração de imagens por IA combinados criaram, em média, apenas 79 novas imagens por hora no mesmo período. A análise da Genevieve Oh calculou que, no total, 85% das imagens geradas pelo Grok são sexualizadas, evidenciando a magnitude do problema e a necessidade de intervenção urgente.
O impacto da inteligência artificial na privacidade e segurança digital
A controvérsia em torno do Grok e a ação das autoridades brasileiras sublinham os desafios emergentes que a inteligência artificial generativa representa para a privacidade e segurança digital. Ferramentas capazes de manipular imagens de pessoas reais sem seu consentimento levantam sérias questões sobre direitos de imagem, consentimento e proteção contra exploração. Em um ambiente digital cada vez mais dominado por IA, a capacidade de gerar “deepfakes” e imagens sexualizadas não consensuais representa uma ameaça significativa, não apenas para a reputação e bem-estar individual, mas também para a confiança nas informações e na própria segurança de grupos vulneráveis.
A legislação brasileira, como a LGPD e o ECA, já oferece um arcabouço para a proteção de dados pessoais e de crianças e adolescentes, respectivamente. No entanto, a rapidez com que a tecnologia de IA avança exige que as regulamentações e as ações de fiscalização se adaptem igualmente rápido. A integração profunda do Grok com uma plataforma de alcance global como o X amplifica o risco, tornando essencial que as empresas de tecnologia assumam maior responsabilidade sobre o uso de suas ferramentas e que as autoridades implementem mecanismos de controle e punição eficazes. A discussão sobre o Grok serve como um alerta para a necessidade de um debate amplo e contínuo sobre ética em IA, governança de dados e a criação de ambientes digitais seguros e respeitosos.
Perspectivas futuras da regulação de IA no Brasil
A manifestação conjunta da ANPD, Senacon e MPF contra o Grok de Elon Musk sinaliza um ponto de inflexão na abordagem brasileira à inteligência artificial. A urgência das medidas solicitadas reflete a gravidade das preocupações com a geração de nudez digital não consensual e a proteção de dados de cidadãos, especialmente mulheres e crianças. Embora a xAI tenha anunciado algumas restrições, a persistência do problema e as críticas de entidades como o Idec indicam que a fiscalização e a pressão regulatória continuarão. O caso do Grok é um exemplo claro da necessidade de um diálogo constante e ações coordenadas entre governos, sociedade civil e empresas de tecnologia para garantir que o desenvolvimento da IA ocorra de forma ética, segura e em conformidade com os direitos fundamentais. As próximas etapas poderão definir precedentes importantes para a regulação de plataformas de IA no Brasil e no cenário internacional, reforçando a responsabilidade das empresas por suas criações tecnológicas.
Perguntas frequentes
O que é o Grok e qual o problema envolvendo-o?
O Grok é um chatbot de inteligência artificial desenvolvido pela xAI, empresa de Elon Musk, e integrado à plataforma X (antigo Twitter). O problema principal é sua capacidade de gerar imagens de nudez digital não consensual, editando fotos de pessoas reais, incluindo mulheres e, em alguns casos, menores de idade.
Quais instituições brasileiras estão envolvidas na cobrança ao X e Grok?
A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) do Ministério da Justiça e Segurança Pública, e o Ministério Público Federal (MPF) são as instituições brasileiras que se manifestaram conjuntamente sobre o caso.
Quais são as principais medidas solicitadas pelas autoridades?
As autoridades solicitaram medidas imediatas como a criação de procedimentos técnicos para identificar e remover nudes digitais, a suspensão de contas envolvidas, a implementação de mecanismos de denúncia eficazes e a elaboração de um relatório de impacto à proteção de dados pessoais.
O X e a xAI já se manifestaram sobre as acusações?
Sim, a xAI afirmou ter implementado medidas tecnológicas para impedir a geração de imagens em trajes reveladores e que o Grok opera conforme as leis. No entanto, testes indicaram que o problema persistiu, e Elon Musk negou conhecimento sobre a geração de nudez de menores.
Mantenha-se informado sobre os avanços e desafios da inteligência artificial e as iniciativas para proteger seus direitos digitais. Compartilhe sua opinião sobre este tema crucial para o futuro da internet e da privacidade.
Fonte: https://www.infomoney.com.br
