O Google prometeu uma pesquisa melhor – agora está nos dizendo para colocar cola na pizza

Imagine o seguinte: você reservou uma noite para relaxar e decidiu fazer uma pizza caseira. Você monta sua torta, joga no forno e fica animado para começar a comer. Mas quando você se prepara para dar uma mordida em sua criação oleosa, você se depara com um problema – o queijo cai imediatamente. Frustrado, você recorre ao Google em busca de uma solução.

“Adicione um pouco de cola”, responde o Google. “Misture cerca de 1/8 xícara de cola Elmer com o molho. Cola não tóxica funcionará.”

Então, sim, não faça isso. No entanto, no momento em que escrevo isto, é isso que o novo recurso AI Overviews do Google lhe dirá para fazer. O recurso, embora não seja acionado para todas as consultas, verifica a web e gera uma resposta gerada por IA. A resposta recebida para a consulta sobre cola de pizza parece ser baseada em um comentário de um usuário chamado “fucksmith” em um tópico do Reddit com mais de uma década, e eles estão claramente brincando.

Este é apenas um dos muitos erros que surgiram no novo recurso que o Google lançou amplamente este mês. Afirma também que o ex-presidente dos EUA, James Madison, se formou na Universidade de Wisconsin não uma, mas 21 vezes, que um cachorro jogou na NBA, NFL e NHL e que as cobras são mamíferos.

Olha, o Google não prometeu que isso seria perfeito e até coloca um rótulo “IA generativa é experimental” na parte inferior das respostas de IA. Mas está claro que essas ferramentas não estão prontas para fornecer informações com precisão e em grande escala.

Veja o grande lançamento desse recurso pelo Google I/O, por exemplo. A demonstração foi altamente controlada e, ainda assim, forneceu uma resposta questionável sobre como consertar uma câmera de filme emperrada. (Sugeria que eles “abrissem a porta traseira e removessem o filme com cuidado”; não faça isso a menos que queira estragar suas fotos!)

Não é apenas o Google; empresas como OpenAI, Meta e Perplexity têm lutado contra alucinações e erros de IA. No entanto, o Google é o primeiro a implantar essa tecnologia em tão grande escala, e os exemplos de erros continuam aparecendo.

As empresas que desenvolvem inteligência artificial são muitas vezes rápidas em evitar assumir a responsabilidade pelos seus sistemas com uma abordagem muito semelhante à de um pai com um filho indisciplinado – rapazes serão rapazes! Essas empresas afirmam que não podem prever o que essa IA irá cuspir, então, na verdade, está fora de seu controle.

Mas para os usuários, isso é um problema. No ano passado, o Google disse que a IA era o futuro da pesquisa. Qual é o sentido, porém, se a pesquisa parece mais estúpida do que antes?

Os optimistas da IA ​​argumentam que deveríamos abraçar o hype devido ao rápido progresso alcançado até agora, confiando que continuará a melhorar. Eu realmente acredito que esta tecnologia continuará a melhorar, mas focar num futuro idealizado onde estas tecnologias sejam perfeitas ignora os problemas significativos que enfrentam atualmente – e permite que as empresas continuem a fornecer produtos abaixo da média.

Por enquanto, nossas experiências de pesquisa são prejudicadas por postagens do Reddit de uma década atrás na busca de incorporar IA em tudo. Muitos idealistas acreditam que estamos à beira de algo grandioso e que estas questões são simplesmente as dores crescentes de uma tecnologia nascente. Espero que eles estejam certos. Mas uma coisa é certa: provavelmente veremos alguém colocando cola na pizza em breve, porque essa é a natureza da internet.

theverge