Google admite que a função “AI Overview” tem problemas de “alucinação”

O novo recurso “AI Overviews” do Google tem sido criticado por fornecer informações imprecisas e bizarros. CEO da Google admite problemas não resolvidos.

Google AI Overviews: O Resumo mais Preciso que Você Jamais Viu!

AI Overview: Mais que Informação, Diversão!

Ah, a inteligência artificial, sempre a surpreender-nos com as suas habilidades peculiares. Recentemente, o Google lançou o recurso “AI Overviews”, que promete fornecer resumos concisos no topo dos resultados de pesquisa. Parece incrível, não é? Mas parece que a festa está a ser estragada por algumas “alucinações” nos modelos de IA que alimentam este recurso. O CEO do Google, Sundar Pichai, admitiu em uma entrevista ao The Verge que essas “alucinações” são um problema não resolvido. É emocionante descobrir o que a IA tem guardada para nós, não é?

Google admite que a função "AI Overview" tem problemas de "alucinação" 1

AI Overview: Informação Enganosa e Perigosa

Alguns utilizadores têm relatado inúmeras instâncias em que o recurso “AI Overview” fornece respostas enganosas e até mesmo informações perigosas. Por exemplo, sugerir o uso de cola para evitar que o queijo escorregue da pizza e atribuir informações falsas a especialistas e profissionais. A IA também tem tido dificuldade em distinguir fatos de piadas ou sátiras, levando a respostas sem sentido. É como se a IA estivesse a tentar fazer-nos rir, mas sem sucesso.

Reconhecimento do Problema por Pichai

Na entrevista, Pichai admitiu que as “alucinações” produzidas pelo recurso “AI Summary” são “falhas inerentes” nos grandes modelos de linguagem (LLMs) que formam o núcleo desta tecnologia. Ele afirmou que este problema ainda não foi resolvido, apesar dos esforços contínuos dos engenheiros do Google para lidar com as diversas respostas estranhas e incorretas geradas pelo recurso. Parece que até a IA precisa de um pouco mais de café antes de começar a trabalhar.

Vai gostar de saber:  Huawei e SMIC desafiam sanções dos EUA com plano para chips de 3nm

Google admite que a função "AI Overview" tem problemas de "alucinação" 2

A Visão de Especialistas

A consultora de IA e especialista em SEO, Britney Mueller, comentou sobre as expectativas dos utilizadores em relação à precisão da IA. Ela destacou os riscos que o Google enfrenta ao implantar essa tecnologia prematuramente. Parece que até mesmo os especialistas estão perguntar-se, se a IA está pronta para o palco principal ou se ainda precisa de mais ensaios.

Conclusão

Apesar dos problemas, Pichai permanece otimista sobre a utilidade do recurso “AI Summary”, afirmando que há um bom progresso. No entanto, a ocorrência contínua de erros destaca a necessidade de mais melhorias e os desafios inerentes ao desenvolvimento de sistemas de IA confiáveis. Enquanto o Google e outras gigantes da tecnologia correm para incorporar a IA em vários aspectos de nossas vidas, é crucial encontrar um equilíbrio entre inovação e confiança do utilizador. Garantir a precisão e confiabilidade dessas tecnologias deve ser uma prioridade máxima para evitar a propagação de desinformação e manter a confiança dos utilizadores nos serviços que oferecem.

Fonte

Leiam as últimas notícias do mundo da tecnologia no Google News , Facebook  e Twitter e também no nosso Grupo de Telegram
Todos os dias vos trazemos dezenas de notícias sobre o mundo Android em Português. Sigam-nos no Google Notícias. Cliquem aqui e depois em Seguir. Obrigado!