Wow… IA pode obter a sua localização através das fotografias. Devemos preocupar-nos?

8 meses atrás 126

Vamos sentir-nos escandalizados com a evolução da inteligência artificial (IA), isso é uma certeza. A privacidade estará em causa com o poder computacional que valida e analisa milhares de milhões de dados em segundos para obter uma localização exata através das suas fotografias. Não, a IA não precisa dos metadados das imagens, basta a foto. E isso preocupa muito os especialistas em privacidade. Venha conhecer o perigoso PIGEON.

Ferramenta ainda está "presa por perigo da ordem pública"

A ferramenta ainda não está disponível porque os próprios criadores e os especialistas alertam para os riscos de privacidade. A IA é ótima a identificar rostos, objetos ou animais. Estas capacidades têm sido tradicionalmente aproveitadas em áreas quotidianas, como a gestão de fotografias com o Google Fotos ou o Apple Fotografias, mas também em áreas muito mais perturbadoras, como a vigilância em massa, que, por exemplo, foi regulamentada na Europa.

Agora, os investigadores descobriram uma aplicação que também tem utilização prática incrível - e preocupante.

Tudo começou numa aula. Três estudantes da Universidade de Stanford começaram a frequentar a disciplina "Computer Science 330: Deep Multi-task and Meta Learning". Precisavam de um projeto para trabalhar, pelo que estes investigadores, Michael Skreta, Silas Alberti e Lukas Haas, perceberam que podiam aplicar os seus novos conhecimentos à sua paixão por um jogo online único, o GeoGuessr.

Este jogo online, que já existe há alguns anos, tornou-se um sucesso singular que já deixou obcecado um bom número dos seus jogadores. A ideia é simples: é-nos apresentada uma fotografia de um local e temos de tentar deduzir onde foi tirada, apontando-a no Google Maps a partir dos detalhes da própria fotografia.

O jogo tem 50 milhões de jogadores em todo o mundo e todos competem entre si, entre os quais já se encontram celebridades do YouTube, TikTok ou do Twitch, tendo começado a surgir alguns jogadores verdadeiramente excecionais.

Estes alunos queriam descobrir se conseguiam criar um sistema de IA capaz de superar os humanos no GeoGuessr. Começaram por utilizar uma plataforma OpenAI chamada CLIP, que consegue "aprender" a introduzir dados de imagem a partir do texto que existe por cima.

Treinar a IA com o Google Street View

Como referem na NPR, para treinar o seu modelo de IA começaram a "alimentá-lo" com dados do Google Street View.

Criámos o nosso próprio conjunto de dados com cerca de 500.000 imagens do Google Street View. Não são muitos dados e, mesmo assim, conseguimos obter um desempenho espetacular.

Disse Alberti.

O projeto, conhecido como Predicting Image Geolocations (PIGEON), acabou por ser o resultado deste esforço. O modelo de IA consegue identificar a localização de uma imagem do Google Street View de qualquer local. A sua precisão é espantosa: acerta no país com 95% de exatidão e, normalmente, coloca a imagem a 25 km do local onde foi realmente tirada.

Para avaliar o seu desempenho, os investigadores contactaram Trevor Rainbolt, que se tornou uma lenda na comunidade GeoGuessr. Apesar da sua destreza no jogo, acabou por perder várias rondas contra o PIGEON. Como Alberti salientou, "não fomos a primeira IA a jogar contra Rainbolt. Fomos simplesmente a primeira IA a ganhar contra ele".

Os responsáveis pelo projeto foram mais longe e criaram também o PIGEOTTO, uma versão mais ambiciosa que foi treinada com mais de quatro milhões de imagens do Flickr e da Wikipédia, o que permite aumentar ainda mais a capacidade e o desempenho do sistema.

Não divulgaram o desenvolvimento, que não pode ser testado, mas publicaram o estudo com detalhes e conclusões do projeto.

Ler artigo completo