Pesquisa da Google baseada em IA já começou a promover malware e sites maliciosos

A IA da Google terá aplicação em muitos dos seus serviços e a Pesquisa será um dos principais. Esta será uma ajuda importante e a que os utilizadores vão ter de ser habituar em breve a ter presente. Agora que começa a mostrar como pode ser usada, a Pesquisa da Google baseada em IA já começou a promover malware e sites maliciosos.

IA da Google continua a dar problemas

A Google lançou a sua nova Search Generative Experience (SGE) no início deste mês, introduzindo resultados de pesquisa gerados por IA em algumas páginas. Infelizmente, parece que este novo recurso já apresenta alguns problemas sérios, havendo relatos que indicam que pode estar a promover sites fraudulentos e outros que enviam malware nas respostas geradas.

Este não é um com começo para os resultados de pesquisa de IA da Google, especialmente porque há muitas dúvidas sobre o quão viável é esta nova proposta. Apesar dessas preocupações, a Google continua a avançar nos seus esforços de IA e parece que os erros não param de surgir.

OH GOOD.

SGE WILL EVEN RECOMMEND THE SPAM SITES AS PART OF THE ANSWER. pic.twitter.com/wqgFFXqbMB

— Lily Ray 😏 (@lilyraynyc) March 22, 2024

Pesquisa encaminha para sites com malware

Os resultados de pesquisa da Google parecem estar a recomendar sites maliciosos e com spam nas suas diversas respostas. Isso torna muito mais fácil para os utilizadores caírem em golpes, especialmente se a Google levar isso a um público mais amplo, com vários níveis de familiaridade com IA.

As pesquisas feitas rapidamente devolveram com respostas geradas por IA que direcionavam os utilizadores para sites de spam que poderiam estar repletos de malware. Ao clicar em qualquer dos links apresentados, estes eram redirecionados até chegar a sites fraudulentos.

Had to see it for myself

This site being surfaced is a German .de domain. First time I clicked it I got an Amazon gift card spam. Second time I got straight up porn. Nice 😬 pic.twitter.com/c1QC4tDBHQ

— Simon Panting (@PantingYO) March 22, 2024

Tenta enganar os utilizadores com notificações

Estes sites maliciosos propostos nestes resultados das pesquisas imitam as notificações do YouTube, para fazer com que as estas sejam aceites. Rapidamente foram transformadas e mostram mensagens com spam para anúncios de suporte técnico e páginas falsas de ofertas.

A Google afirmou já várias vezes que atualiza constantemente os seus sistemas e algoritmos de classificação para proteção contra spam. A empresa, entretanto, já terá removido esses resultados do SGE desde que foram destacados, evitando assim mostrar sites com malware e com tentativas de enganar os utilizadores.