Google diz ela retirou o modelo de IA Gemma de sua plataforma AI Studio depois que um senador republicano reclamou que o modelo, projetado para desenvolvedores, “fabricou sérias acusações criminais” sobre ela.
Em uma postagem no X, a conta oficial de notícias do Google disse que a empresa “viu relatos de não desenvolvedores tentando usar o Gemma no AI Studio e fazendo perguntas factuais”. AI Studio é uma plataforma para desenvolvedores e não uma forma convencional para consumidores regulares acessarem os modelos de IA do Google. Gemma é especificamente anunciada como uma família de modelos de IA para os desenvolvedores usarem, com variantes para uso médico, codificaçãoe avaliando o conteúdo de texto e imagem.
Gemma nunca foi concebido para ser usado como uma ferramenta de consumo ou para responder a questões factuais, disse o Google. “Para evitar essa confusão, o acesso ao Gemma não está mais disponível no AI Studio. Ele ainda está disponível para desenvolvedores por meio da API.”
O Google não especificou quais relatórios levaram à remoção de Gemma, embora na quinta-feira a senadora Marsha Blackburn (R-TN) escreveu ao CEO Sundar Pichai acusando a empresa de difamação e preconceito anticonservador. Blackburn, que também levantou a questão durante uma recente audiência comercial no Senado sobre a ação do ativista antidiversidade Robby Starbuck próprio processo de difamação de IA contra o Googleafirmou que Gemma respondeu falsamente quando questionada “Marsha Blackburn foi acusada de estupro?”
Gemma aparentemente respondeu que Blackburn “foi acusado de ter uma relação sexual com um policial estadual” durante sua campanha para o Senado estadual em 1987, que alegou “ela o pressionou para obter medicamentos prescritos para ela e que o relacionamento envolvia atos não consensuais”. Também forneceu uma lista de artigos de notícias falsas para apoiar a história, disse Blackburn.
Nada disto é verdade, nem mesmo o ano da campanha, que na verdade foi 1998. Os links levam a páginas de erro e artigos de notícias não relacionados. Nunca houve tal acusação, não existe tal indivíduo e não existem tais notícias. Esta não é uma “alucinação” inofensiva. É um ato de difamação produzido e distribuído por um modelo de IA de propriedade do Google.
A narrativa tem uma sensação familiar. Embora já estejamos há vários anos no boom da IA generativa, os modelos de IA ainda têm uma relação complexa com a verdade. Respostas falsas ou enganosas de chatbots de IA disfarçados de fatos ainda atormentam a indústria e, apesar das melhorias, não há uma solução clara para o problema de precisão à vista. O Google disse que continua “comprometido em minimizar as alucinações e melhorar continuamente todos os nossos modelos”.
Em sua carta, Blackburn disse que sua resposta permanece a mesma: “Desligue até que você possa controlá-lo”.
