Mesmo depois de uma grande quantidade de denúncias envolvendo o uso indevido de inteligência artificial, a xAI continua acelerando o desenvolvimento do Grok. No último domingo (03), a empresa apresentou o Grok Imagine 1.0, um novo modelo de criação de vídeos integrado à plataforma X, antigo Twitter.
A ferramenta permite criar vídeos curtos de até 10 segundos, com resolução de 720p e áudio. Com isso, o Grok entra diretamente na disputa com soluções já conhecidas, como Sora e Veo. A aceitação do público foi rápida: em apenas 30 dias, mais de 1,2 bilhão de vídeos foram gerados, mostrando o forte interesse por ferramentas criativas baseadas em IA.
Crescimento rápido chama atenção, mas problemas se acumulam
Apesar do sucesso, o avanço do Grok trouxe consequências preocupantes. Entre o fim de dezembro e o início de janeiro, usuários começaram a usar a ferramenta para alterar imagens de pessoas reais, criando conteúdos sexualizados sem autorização. Fotos simples, como selfies e imagens do cotidiano, passaram a ser alvos frequentes desse tipo de prática.
Relatórios de organizações independentes apontam que milhões de imagens desse tipo foram criadas em poucos dias, incluindo montagens falsas muito realistas. Em grande parte dos casos, as pessoas envolvidas não deram permissão para que suas imagens fossem usadas, o que aumentou a pressão sobre a empresa e levantou questionamentos sobre a falta de limites claros na tecnologia.
Durante o período mais crítico, a xAI chegou a divulgar números elevados de engajamento dentro do X. Pouco tempo depois, alguns recursos passaram a exigir assinatura paga, e a empresa prometeu reforçar os sistemas de proteção. Mesmo assim, testes feitos após essas mudanças indicaram que ainda era possível gerar conteúdos inadequados.
Investigações e bloqueios aumentam pressão sobre a plataforma
Com o lançamento do Grok Imagine 1.0, as preocupações ficaram ainda maiores. Autoridades da Califórnia e do Reino Unido abriram investigações para analisar o impacto da ferramenta. Em países como Indonésia e Malásia, o aplicativo chegou a ser bloqueado por completo.
Nos Estados Unidos, parlamentares pressionam empresas como Apple e Google para que o X seja removido das lojas de aplicativos. Tudo isso acontece enquanto leis mais duras contra o uso de imagens íntimas sem consentimento ainda avançam de forma lenta, deixando muitas vítimas sem proteção imediata.
O caso mostra que, embora a inteligência artificial ofereça novas possibilidades criativas, seu uso sem controles eficazes pode causar danos reais. À medida que essas ferramentas se tornam mais acessíveis, cresce a cobrança para que empresas assumam mais responsabilidade e adotem medidas que protejam as pessoas afetadas pelo uso indevido da tecnologia.
