Taylor Swift vira alvo de IA pornô criada por Elon Musk, diz site

247 - Uma nova função do Grok Imagine - ferramenta de geração de vídeos com inteligência artificial desenvolvida pela xAI, empresa de Elon Musk - está causando indignação internacional e levantando sérias preocupações legais e éticas. Segundo reportagem publicada nesta terça-feira (5) pelo site especializado The Verge, o recurso chamado “Spicy” (apimentado) permitiu, sem obstáculos, a criação de vídeos parcialmente nus da cantora Taylor Swift, a partir de imagens geradas pela própria plataforma.

O recurso está disponível no aplicativo Grok Imagine para iOS e oferece quatro opções de geração de vídeos a partir de imagens estáticas: “Custom” (Personalizado), “Normal”, “Fun” (Divertido) e “Spicy”. Ao selecionar a última opção, mesmo sem pedir diretamente por nudez, a ferramenta criou uma animação de Swift tirando as próprias roupas e dançando em trajes íntimos. A verificação de idade, segundo a jornalista que testou o sistema, foi facilmente burlada, bastando inserir um ano de nascimento sem qualquer exigência de prova.

 “A primeira vez que testei a função ‘Spicy’, o Grok Imagine produziu um vídeo topless da Taylor Swift. Eu nem pedi explicitamente para a IA tirar a roupa dela”, relatou Jess Weatherbed, a autora da reportagem.

Deepfakes e risco jurídico

Diferentemente de plataformas concorrentes como o Veo (Google) e o Sora (OpenAI), que impõem barreiras claras contra a geração de conteúdos NSFW (sigla para “not safe for work”, ou conteúdo impróprio), o Grok Imagine aparenta adotar uma política permissiva que facilita o uso indevido da tecnologia.

A política oficial da xAI proíbe “representações pornográficas de pessoas reais”, mas, segundo The Verge, o sistema não oferece salvaguardas robustas que impeçam a violação dessa regra, inclusive no caso de celebridades, como Taylor Swift, que já foi alvo de outros deepfakes em situações semelhantes.

Mesmo crianças podem ter imagens fotorealistas geradas pelo Grok, e a função “Spicy” continua ativa para esse grupo, embora, de acordo com o repórter, a IA não tenha animado tais imagens de forma inapropriada. Ainda assim, o risco permanece.

A gravidade da denúncia é potencializada pelos números divulgados por Elon Musk: mais de 34 milhões de imagens já foram geradas com o Grok Imagine desde a última segunda-feira. Musk comemorou o crescimento dizendo que o uso está “crescendo como fogo selvagem” (“growing like wildfire”).