Ouça este artigo
Estimativa de 6 minutos
A versão em áudio deste artigo é gerada por conversão de texto em fala, uma tecnologia baseada em inteligência artificial.
O grupo sem fins lucrativos de defesa do consumidor Public Citizen exigiu em uma carta na terça-feira que a OpenAI retirasse seu software de geração de vídeo Sora 2 depois que o aplicativo despertou temores sobre a disseminação de desinformação e violações de privacidade.
A carta, endereçada à empresa e ao CEO Sam Altman, acusava a OpenAI de lançar o aplicativo às pressas para que pudesse ser lançado antes dos concorrentes.
Isso mostrou um “padrão consistente e perigoso de OpenAI correndo para o mercado com um produto que é inerentemente inseguro ou que carece das proteções necessárias”, disse o grupo de vigilância.
Sora 2, diz a carta, mostra um “desrespeito imprudente” pela segurança do produto e pelos direitos das pessoas à sua própria imagem. Contribui também para o enfraquecimento mais amplo da confiança do público na autenticidade do conteúdo online, argumentou.
O grupo também enviou a carta ao Congresso dos EUA.
A OpenAI não respondeu imediatamente a um pedido de comentário na terça-feira.
Mais receptivo a reclamações sobre conteúdo de celebridades
O vídeo típico do Sora é projetado para ser divertido o suficiente para você clicar e compartilhar em plataformas como TikTok, Instagram, X e Facebook.
Pode ser o rap da falecida Rainha Elizabeth II ou algo mais comum e verossímil. Um gênero popular de Sora retrata imagens falsas de câmeras de campainha capturando algo um pouco estranho – digamos, uma jibóia na varanda ou um crocodilo se aproximando de uma criança imperturbável – e termina com uma imagem levemente chocante, como uma avó gritando enquanto bate no animal com uma vassoura.
O actual24:17O novo aplicativo de vídeo AI Sora está aqui: você consegue dizer o que é real?
Quer seja seu melhor amigo montando um unicórnio, Michael Jackson ensinando matemática ou Martin Luther King Junior sonhando em vender pacotes de férias – agora é mais fácil e rápido transformar essas ideias em vídeos realistas, usando o novo aplicativo de IA, Sora. A empresa por trás dele, OpenAI, promete proteções para prevenir a violência e a fraude – mas muitos críticos temem que o aplicativo possa aumentar a desinformação… e poluir a sociedade com ainda mais “resíduos de IA”.
Public Citizen se junta a um coro crescente de grupos de defesa, acadêmicos e especialistas estão alertando sobre os perigos de permitir que as pessoas criem vídeos de IA em praticamente qualquer coisa que possam digitar em um prompt, levando à proliferação de imagens não consensuais e deepfakes realistas em um mar de “resíduos de IA” menos prejudiciais.
A OpenAI reprimiu as criações de IA de figuras públicas que faziam coisas bizarras – entre elas, Michael Jackson, Martin Luther King Jr. e Mister Rogers – mas somente após protestos de propriedades familiares e de um sindicato de atores.
“Nossa maior preocupação é a ameaça potencial à democracia”, disse o defensor da política tecnológica do Public Citizen, JB Branch, em uma entrevista.
“Acho que estamos entrando em um mundo em que as pessoas não podem realmente confiar no que veem. E estamos começando a ver estratégias na política em que a primeira imagem, o primeiro vídeo divulgado, é o que as pessoas lembram.”
Guardrails não pararam o assédio
Branch, que escreveu a carta de terça-feira, também vê ameaças mais amplas à privacidade das pessoas e diz que elas podem impactar desproporcionalmente certos grupos.
Vídeos gerados por IA estão on-line em todos os lugares, mas o que acontece quando sua imagem ou voz é replicada sem sua permissão? Ashley Fraser, da CBC, explica como a Dinamarca está tentando remodelar a proteção da identidade digital e como as leis do Canadá se comparam.
A OpenAI bloqueia a nudez, mas Branch disse que “as mulheres estão sendo assediadas online” de outras maneiras.
O conteúdo de nicho fetichizado passou pelas restrições do aplicativo. O meio de comunicação 404 Media informou na sexta-feira sobre uma enxurrada de vídeos feitos por Sora de mulheres sendo estranguladas.
OpenAI apresentou seu novo aplicativo Sora em iPhones há mais de um mês. Foi lançado em telefones Android na semana passada nos EUA, Canadá e em vários países asiáticos, incluindo Japão e Coreia do Sul.
Grande parte da resistência mais forte contra isso veio de Hollywood e de outros interesses de entretenimento, incluindo a indústria japonesa de mangá.
A OpenAI anunciou suas primeiras grandes mudanças poucos dias após o lançamento, dizendo que “a moderação excessiva é super frustrante” para os usuários, mas que é importante ser conservador “enquanto o mundo ainda está se ajustando a esta nova tecnologia”.
Isso foi seguido por anunciado publicamente acordos com a família de Martin Luther King Jr. em 16 de outubro, evitando “representações desrespeitosas” do líder dos direitos civis enquanto a empresa trabalhava em melhores salvaguardas, e outra em 20 de outubro com O ator de Breaking Bad, Bryan Cranston, o sindicato SAG AFTRA e agências de talentos.
“Tudo bem se você é famoso”, disse Branch. “É apenas um padrão que a OpenAI tem onde eles estão dispostos a responder à indignação de uma população muito pequena. Eles estão dispostos a lançar algo e pedir desculpas depois. Mas muitos desses problemas são escolhas de design que eles podem fazer antes de lançar.”
A produtora europeia de IA Particle6 diz que sua criação de IA, Tilly Norwood, gerou muito interesse, mas atores de Hollywood, incluindo Emily Blunt, Melissa Barrera e Whoopi Goldberg, bem como o sindicato SAG-AFTRA, se manifestaram contra o personagem de IA.
Ações judiciais contra ChatGPT em andamento
A OpenAI enfrentou reclamações semelhantes sobre seu principal produto, ChatGPT. Sete novos processos movidos na semana passada nos tribunais da Califórnia afirmam que o chatbot levou as pessoas ao suicídio e a delírios prejudiciais mesmo quando não tinham problemas de saúde mental anteriores.
Movidos em nome de seis adultos e um adolescente pelo Social Media Victims Law Center e Tech Justice Law Project, os processos alegam que a OpenAI liberou conscientemente o GPT-4o prematuramente no ano passado, apesar dos avisos internos de que era perigosamente bajulador e psicologicamente manipulador. Quatro das vítimas morreram por suicídio.
Public Citizen não esteve envolvido nos processos, mas Branch disse que vê paralelos com a forma como Sora foi libertado.
“Muito disso parece previsível”, disse ele. “Mas eles preferem lançar um produto, fazer com que as pessoas baixem, que sejam viciadas nele, em vez de fazer a coisa certa e testar essas coisas de antemão e se preocupar com a situação dos usuários comuns”.
OpenAI responde a criadores de anime e fabricantes de videogames
A OpenAI passou a semana passada respondendo a reclamações sobre Sora de uma associação comercial japonesa que representa animadores famosos como o Studio Ghibli de Hayao Miyazaki e os fabricantes de videogames Bandai Namco, Square Enix e outros.
A OpenAI defendeu a ampla capacidade do aplicativo de criar vídeos falsos baseados em personagens populares, dizendo que muitos fãs de anime querem interagir com seus personagens favoritos.
Mas a empresa também disse que colocou barreiras de proteção para evitar que personagens conhecidos sejam gerados sem o consentimento dos detentores dos direitos autorais.
“Estamos nos envolvendo diretamente com estúdios e detentores de direitos, ouvindo comentários e aprendendo como as pessoas estão usando o Sora 2, inclusive no Japão, onde as indústrias culturais e criativas são profundamente valorizadas”, disse a OpenAI em comunicado sobre a carta do grupo comercial na semana passada.
