OpenAI reforça proteção no app Sora para evitar deepfakes de celebridades

A OpenAI, criadora do aplicativo de vídeo com inteligência artificial Sora, anunciou que não permitirá mais que os usuários criem vídeos utilizando a imagem ou a voz de celebridades. Essa medida chega após discussões com várias entidades e artistas, buscando garantir mais proteções contra o uso não autorizado de dados pessoais e geração de vídeos. O objetivo é equilibrar a inovação da IA com a segurança dos direitos individuais.

Proteções do Sora da OpenAI: Novas Medidas em Destaque

Recentemente, a OpenAI se uniu a importantes organizações para discutir o uso de imagem e voz em vídeos gerados por inteligência artificial. Entre os participantes estavam a SAG-AFTRA, o ator Bryan Cranston, a United Talent Agency, a Creative Artists Agency e a Association of Talent Agents. Juntos, eles emitiram uma declaração conjunta sobre uma “colaboração produtiva”.

O foco dessa colaboração é assegurar que as proteções de voz e imagem sejam respeitadas em conteúdos criados com o Sora 2 e o aplicativo Sora. Esse passo demonstra um esforço conjunto para lidar com os desafios éticos e legais que surgem com as novas tecnologias de IA. A ideia é construir um ambiente mais seguro para criadores e figuras públicas.

As preocupações com o Sora ganharam força depois que o ator Bryan Cranston expressou seu desconforto. Usuários conseguiram criar deepfakes que mostravam sua imagem sem que ele tivesse dado qualquer consentimento ou recebesse compensação pelo uso. Isso acendeu um alerta sobre o potencial de abuso da ferramenta.

Outras famílias de figuras públicas também se manifestaram. Os herdeiros de Robin Williams, George Carlin e Martin Luther King Jr. registraram reclamações junto à OpenAI sobre as capacidades do aplicativo Sora. Eles buscavam proteger o legado e os direitos de imagem de seus entes queridos contra usos indevidos.

Regulamentação e Resposta às Queixas

A política original da OpenAI permitia o uso da voz e imagem de uma pessoa viva apenas com seu consentimento. No entanto, o caso de Bryan Cranston mostrou que essa política não estava sendo totalmente eficaz, já que vídeos dele foram gerados sem sua permissão. Isso evidenciou a necessidade de ajustes nas diretrizes de uso.

Para corrigir essa falha, a OpenAI reforçou suas diretrizes, conhecidas como “guardrails“. Essas medidas foram desenvolvidas para tornar mais difícil a replicação de voz e imagem sem um consentimento explícito. O objetivo é dar aos indivíduos mais controle sobre como sua representação digital é utilizada.

A empresa afirmou que artistas, performers e pessoas em geral devem ter o direito de decidir como e se suas imagens ou vozes podem ser simuladas pelo Sora. Além disso, a OpenAI concordou em responder “com rapidez” a quaisquer reclamações que receba no futuro. Isso busca estabelecer um canal direto para resolução de problemas.

As proteções do Sora da OpenAI também foram ajustadas para figuras históricas. No final da semana passada, o aplicativo já havia recebido modificações em resposta às queixas da família de Martin Luther King Jr. A OpenAI reconheceu que há um grande interesse em representar figuras públicas e históricas já falecidas, mas destacou que isso precisa ser feito com responsabilidade.

Ainda assim, a OpenAI informou que representantes autorizados ou detentores de direitos podem solicitar que a imagem de figuras históricas não seja usada em aparições no Sora. O aplicativo Sora foi lançado em 30 de setembro e rapidamente se tornou um dos aplicativos mais populares na App Store. O avanço da tecnologia de IA continua gerando discussões importantes sobre regulamentação e direitos.

Este conteúdo foi auxiliado por Inteligência Artificiado, mas escrito e revisado por um humano.