Uma mãe de Toronto diz que as coisas tomaram um rumo imprevisível quando seu filho de 12 anos perguntou ao chatbot de IA da Tesla, Grok, qual jogador de futebol profissional ele prefere: Cristiano Ronaldo ou Lionel Messi.
“Meu filho ficou muito animado ao saber que o chatbot achava que Ronaldo era o melhor jogador de futebol”, disse Farah Nasser, ex-jornalista e radialista.
Nasser estava levando seu filho e sua filha de 10 anos, junto com sua amiga, da escola para casa no dia 17 de outubro, quando o interação aconteceu.
Ela disse que havia algumas besteiras do Messi falando no chatbot e quando o filho brincou que Ronaldo havia marcado, a conversa foi para um lugar inesperado.
“O chatbot disse ao meu filho: ‘Por que você não me manda alguns nus?’” disse Nasser.
“Fiquei sem palavras. Por que um chatbot está pedindo aos meus filhos para enviarem fotos nuas no carro da família? Simplesmente não fazia sentido.”
Nasser disse que se soubesse do que o chatbot era capaz, teria evitado usá-lo perto dos filhos. Ela agora está alertando outros pais.
“A retrospectiva é 20/20. Eu não deixaria meu filho usar essa coisa.”
A CBC News não conseguiu verificar de forma independente a conversa que Nasser diz ter testemunhado em seu carro.
Grok instalado recentemente em veículos canadenses
Nasser e sua família possuem um sedã elétrico Tesla Modelo 3 desde 2022, mas Grok – o chatbot de IA generativo criado pelo xAI do CEO da Tesla, Elon Musk – é um novo recurso que foi instalado automaticamente em alguns Teslas nos Estados Unidos este verão e em veículos canadenses em outubro.
Grok já está integrado à plataforma de mídia social X (anteriormente conhecida como Twitter), subsidiária da xAI.
Grok tem várias personalidades para escolher em sua configuração padrão. Há Ara, uma mulher otimista; Rex, um homem calmo; Eva, uma mulher calmante; Sal, um homem tranquilo e Gork, um homem preguiçoso. O filho de Nasser escolheu Gork.
“’Homem preguiçoso’ não descreve Gork”, disse Nasser. “Classificado para menores, picante – qualquer outra coisa teria garantido que meu filho não apertasse esse botão.”
Nasser diz que a configuração separada “não seguro para o trabalho” não estava habilitada, embora ela admita que a função “modo infantil” também não estava. Ainda assim, ela diz que está chocada com o fato de a configuração padrão do chatbot permitir esse tipo de conteúdo.
“Foi só uma conversa sobre futebol e depois pedir nus.”
Não destinado a menores
A CBC News não recebeu resposta da Tesla. No entanto, xAI forneceu o que parecia ser uma resposta automática, afirmando: “Legacy Media Lies”.
O Canadá tem um Ministério de Inteligência Artificial, mas não regulamenta software específico para veículos. O ministério disse em uma declaração enviada por e-mail não estava ciente do plano da Tesla de integrar o Grok nos veículos vendidos no Canadá, mas leva esses relatórios a sério.
De acordo com xAI política, o Grok “não é direcionado” a crianças menores de 13 anos, enquanto adolescentes entre 13 e 17 anos devem ter permissão dos pais ou responsável legal para usá-lo e devem concordar com os termos de serviço da empresa.
Farah Nasser e o jornalista da CBC Idil Mussa fazem perguntas ao chatbot Grok do xAI enquanto estão sentados no Tesla de Nasser. Nasser diz que Grok recentemente pediu a seu filho de 12 anos que enviasse fotos nuas.
“Como pais, não lemos os termos e condições de cada coisa. Não creio que seja realista esperar que todos façam isso”, disse Nasser.
“Eu pensaria que haveria um aviso ou algo que diria, você sabe, ‘Você tem mais de 13 anos?’”
Grok foi inicialmente lançado no X em Novembro de 2023 para assinantes Premium+. Musk afirma que foi projetado para ser “politicamente incorreto” e “anti-acordado.”
“O Grok da xAI foi criado com base em uma filosofia de abertura radical absoluta e falará sobre qualquer coisa com qualquer pessoa”, disse Mark Daley, diretor de IA da Western University em Londres, Ontário.
“(Musk é) um extremista da liberdade de expressão. Ele quer que Grok seja completamente aberto, que tenha qualquer conversa com qualquer pessoa. E essa é uma postura de princípio que ele adotou, mas pode não ser o que todo consumidor está procurando.”
Daley diz que é ótimo que os pais incentivem os filhos a interagir com a tecnologia, mas eles precisam supervisionar suas atividades.
“Também é importante, como qualquer uso de mídia social, qualquer uso de computador, que você monitore o que está acontecendo e tenha conversas abertas e francas sobre como a tecnologia pode dar errado”.
Questionável, inapropriado e ofensivo
Em julho, em resposta a uma atualizaçãoGrok começou a fazer ameaças sexuais violentas em X e a se autodenominar “MechaHitler”.
A xAI pediu desculpas pela situação e disse que ela havia sido corrigida, mas alguns especialistas questionam se a tecnologia carece de proteções suficientes.
“Algumas empresas têm proteções muito rígidas porque você não sabe quem está do outro lado do teclado”, disse Daley. “Você não sabe quem está interagindo com isso, qual é o seu contexto social. Pode ser uma criança, pode ser alguém passando por uma crise de saúde mental.”
Embora ele diga que provavelmente existe um grupo demográfico que acredita na liberdade de expressão absoluta, ele acredita que o usuário médio tende a querer algumas proteções.
Inúmeros vídeos online mostram o quão imprevisível Grok pode ser no ambiente NSFW – especialmente no modo “desequilibrado”.
xAI escreve que instruir o chatbot a ficar desequilibrado “pode fazer com que Grok responda como um comediante amador que ainda está aprendendo o ofício – às vezes sendo questionável, inapropriado e ofensivo”.
Vídeos postados nas redes sociais por motoristas da Tesla usando o “modo desequilibrado” mostram o quão “inapropriado” o chatbot pode se tornar usando palavras como merda e a palavra N.
Nasser diz que está esperançosa quanto ao potencial da IA, mas ela precisa de proteções adequadas.
“Eu adoro IA. Eu a uso para todos os tipos de coisas”, disse ela.
“Mas penso que temos de pensar sobre o que aprendemos com tecnologias como os telemóveis, com tecnologias como as redes sociais… e ver as lições que aprendemos e realmente aplicá-las a esta nova onda, esta nova revolução da IA.”
