O avanço da inteligência artificial trouxe ferramentas úteis, mas também abriu espaço para um problema cada vez mais sério: deepfakes realistas circulando nas redes sociais. Agora, o Oversight Board, conselho independente ligado à Meta, cobrou mudanças na forma como a empresa lida com esse tipo de conteúdo no Instagram.

A decisão foi publicada em 23 de junho de 2026. O conselho reverteu a decisão da Meta de manter no ar um vídeo supostamente gerado por IA que imitava uma mulher no Instagram e afirmou que pessoas comuns precisam de mais proteção contra deepfakes sexualizados.

Resposta rápida: o caso não significa que o Instagram vai mudar tudo de uma vez, mas aumenta a pressão para a Meta melhorar denúncias, remoção e identificação de conteúdos criados por IA que imitam pessoas reais sem consentimento.

O que aconteceu

Segundo o Oversight Board, o caso envolveu um vídeo de oito segundos publicado no Instagram em setembro de 2025. O conteúdo teria sido gerado por IA e imitava uma mulher real sem consentimento.

O sistema automatizado da Meta identificou o post como conteúdo potencialmente danoso e com chance de viralização, mas ele não foi priorizado para revisão humana. Depois, dois usuários denunciaram o conteúdo, mas o vídeo continuou no ar.

Quando o caso chegou ao Oversight Board, o conselho decidiu que o conteúdo violava a política da Meta contra imagens íntimas não consensuais e determinou a remoção do vídeo.

Por que a decisão importa

O ponto mais importante da decisão não é apenas a remoção de um vídeo específico. O conselho afirma que a Meta precisa tratar imitações sexualizadas geradas por IA como falta de consentimento por padrão, em vez de depender quase sempre da própria vítima para denunciar.

Na prática, isso importa porque muita gente comum não tem alcance, equipe jurídica ou acesso rápido a canais de denúncia mais fortes. Quando um deepfake envolve uma pessoa desconhecida, a remoção pode demorar mais e causar dano real à reputação, privacidade e saúde emocional da vítima.

O conselho também recomendou que a Meta permita que contas conectadas, como amigos ou familiares confiáveis, possam denunciar esse tipo de violação em nome da pessoa afetada.

O que pode mudar no Instagram

A Meta não é obrigada a seguir todas as recomendações do Oversight Board, mas a decisão aumenta a pressão pública e regulatória sobre a empresa.

Entre as recomendações, o conselho pediu que a Meta crie uma categoria específica para denúncias de imitações sexualizadas geradas por IA nos formulários de denúncia e apelação. A ideia é tirar esse tipo de caso de categorias genéricas como nudez ou assédio.

Também foi reforçada a necessidade de usar credenciais de conteúdo em escala, como padrões de rastreio de origem de mídia, para ajudar usuários a entenderem quando uma imagem ou vídeo tem origem artificial ou foi manipulado.

Análise BaratoTech

Esse caso mostra um problema que vai crescer nos próximos anos: a IA ficou fácil de usar, mas as plataformas ainda não estão preparadas para lidar com todos os abusos na mesma velocidade.

Para o usuário comum, a lição é clara: imagem, vídeo e áudio nas redes sociais precisam ser vistos com mais cuidado. Conteúdo realista não significa necessariamente conteúdo verdadeiro.

Para as plataformas, o desafio é maior. Não basta colocar um botão de denúncia genérico e esperar que a vítima resolva tudo sozinha. Deepfakes feitos com IA exigem denúncia mais clara, análise mais rápida e proteção melhor para pessoas comuns.

O que observar daqui para frente

• Resposta da Meta: a empresa pode aceitar, adaptar ou rejeitar parte das recomendações.
• Formulários de denúncia: o Instagram pode precisar de uma opção mais clara para deepfakes feitos com IA.
• Identificação de conteúdo sintético: padrões como credenciais de conteúdo podem ganhar mais importância.
• Regulação: governos já discutem regras mais duras para conteúdo sexual não consensual gerado por IA.
• Proteção de usuários comuns: a pressão agora é para que não apenas figuras públicas tenham resposta rápida.

Resumo da notícia

O Oversight Board cobrou mudanças da Meta depois de reverter a decisão da empresa de manter no Instagram um vídeo supostamente gerado por IA que imitava uma mulher sem consentimento. O conselho pediu regras mais claras, denúncias específicas e maior proteção contra deepfakes sexualizados, especialmente para pessoas que não são figuras públicas.

Fontes consultadas

• Oversight Board — Non-Public Figures Need More Protection Over Sexualized Deepfakes
• Canaltech — Conselho acusa Meta de fazer vista grossa para deepfakes sexuais no Instagram