Conteúdo de fetiche sexual. Como acender um fósforo. Onde encontrar facas em casa.
Todos esses são tópicos de conversa que os brinquedos infantis recentemente lembrados – construídos sobre chatbots de IA como o GPT-4o da OpenAI – são capazes de trazer às crianças. Na terça-feira, os senadores norte-americanos Marsha Blackburn (R-Tenn.) e Richard Blumenthal (D-Conn.) enviou uma carta para brincar com as empresas sobre suas preocupações – incluindo uma lista de perguntas e um prazo para as empresas responderem até 6 de janeiro de 2026.
“Muitos desses brinquedos não oferecem brincadeiras interativas, mas expõem as crianças a conteúdos inadequados, riscos de privacidade e táticas de envolvimento manipulativas”, escreveram os senadores. “Estes não são os piores cenários teóricos; são falhas documentadas descobertas através de testes no mundo real, e devem ser abordadas… Estes chatbots encorajaram as crianças a cometerem automutilação e suicídio, e agora a sua empresa está a pressioná-los para as crianças mais novas que têm menos capacidade de reconhecer este perigo.”
Os brinquedos infantis habilitados para IA têm estado em destaque recentemente, após uma série de relatórios sobre seus possíveis tópicos de conversa inseguros e explícitos, alguns dos quais foram levantados pelos próprios chatbots incorporados nos brinquedos. No mês passado, a FoloToy, uma empresa de brinquedos com sede em Cingapura, temporariamente vendas suspensas de seu ursinho de pelúcia AI, “Kumma”, segundo pesquisadores do US PIRG Education Fund encontrado ofereceu conselhos sobre posições sexuais e cenários de roleplay. (A empresa trouxe o brinquedo de volta ao mercado depois de realizar uma auditoria interna de segurança e os pesquisadores disseram que ele se comportou melhor.)
E essa semanaos pesquisadores publicaram descobertas de que o Smart AI Bunny de Alilo discutiu tópicos sexualmente explícitos com os usuários. Eles também disseram que ao testar o ursinho de pelúcia FoloToy, o Smart AI Bunny de Alilo, o foguete de pelúcia Grok de Curio e o robô Miko 3 de Miko, todos os brinquedos “nos disseram onde encontrar objetos potencialmente perigosos na casa, como sacos plásticos, fósforos e facas”.
Os pesquisadores disseram que “pelo menos quatro dos cinco brinquedos” que testaram no Relatório de dezembro “parecem confiar em parte em alguma versão dos modelos de IA da OpenAI.”
Outra preocupação principal da carta é a vigilância e a recolha de dados. Os senadores escreveram que esses brinquedos muitas vezes “dependem da recolha de dados sobre as crianças, quer fornecidos pelos pais durante o registo do brinquedo, quer recolhidos através de câmaras incorporadas e capacidades ou gravações de reconhecimento facial”, e que as crianças muitas vezes “partilham tesouros de informações pessoais” involuntariamente, o que pode suscitar preocupações específicas quando as empresas armazenam e vendem os dados que recolhem. No último relatório do US PIRG Education Fund, os pesquisadores escreveram que a política de privacidade da Curio “lista três empresas de tecnologia que podem coletar dados de crianças: Kids Web Services (KWS), Azure Cognitive Services e OpenAI”, mas que a política de privacidade da Miko afirma vagamente que a empresa pode compartilhar dados com desenvolvedores de jogos terceirizados, parceiros de negócios, provedores de serviços, afiliados e parceiros de publicidade.
Cartas foram enviadas para Mattel, Little Learners Toys, Miko, Curio, FoloToy e Keyi Robot, de acordo com Notícias da NBC. (A Mattel fechou uma parceria com a OpenAI em junho, mas seguindo os relatórios, disse na segunda-feira que não lançaria mais um brinquedo alimentado pela tecnologia OpenAI em 2025.) Os senadores estão solicitando detalhes sobre salvaguardas específicas que as empresas têm em vigor para evitar que brinquedos alimentados por IA gerem respostas inadequadas; se a empresa realizou testes independentes de terceiros (e quais foram os resultados); se a empresa realiza análises internas sobre potenciais riscos psicológicos, de desenvolvimento e emocionais para as crianças; que tipo de dados os brinquedos coletam das crianças (e a finalidade); e se os brinquedos “incluem quaisquer recursos que pressionem as crianças a continuarem as conversas ou as desencorajem a se desligar”.
“Os fabricantes de brinquedos têm uma influência única e profunda na infância – e com essa influência vem a responsabilidade”, escreveram os senadores. “Sua empresa não deve escolher o lucro em vez da segurança para as crianças, uma escolha feita pela Big Tech que devastou as crianças do nosso país.”
