Contar segredos a chatbots de IA é "extremamente imprudente", alerta especialista

8 meses atrás 109

Partilhar informações pessoais, reclamar das chefias ou expor preferências políticas com chatbots de IA, como o ChatGPT, é “extremamente imprudente”, dado que toda a informação partilhada é usada para treinar versões futuras destes programas.

O alerta é de Mike Wooldridge, professor de Inteligência Artificial na Universidade de Oxford, que irá discutir este tema nas palestras de Natal da Royal Institute, uma organização dedicada à educação e investigação científicas, situada em Londres.

Em declarações ao Daily Mail, o professor britânico diz que estas ferramentas de IA não devem ser vistas como confidentes de confiança e avisa os utilizadores que não devem esperar respostas proporcionais às suas questões, uma vez que estes chatbots apenas dizem “o que querem ouvir”.

Os seres humanos foram programados para procurar consciência, mas atribuem isso “com muita frequência”, diz Wooldridge.

“A tecnologia é basicamente projetada para tentar dizer o que vocês querem ouvir – isso é literalmente tudo o que ela faz”, explica.

“Vocês devem presumir que qualquer coisa que digitem no ChatGPT será inserida diretamente em versões futuras do ChatGPT”, alertou.

O professor de IA alerta ainda que é praticamente impossível recuperar os dados pessoais depois de estes terem sido inseridos nos sistemas.

Ao longo destas palestras, Wooldridge irá analisar “as grandes questões enfrentadas pela investigação em IA e desvendará os mitos sobre como esta tecnologia inovadora realmente funciona”.

Nos últimos meses, têm aumentado os alertas de vários especialistas em relação aos riscos da Inteligência Artificial.

No início de dezembro, a União Europeia alcançou o primeiro acordo provisório para regulamentar a IA. O acordo “visa garantir que os sistemas de IA implementados e utilizados na UE são seguros e respeitam os direitos fundamentais e os valores europeus”.
O acordo, que requer ainda uma provação final, constituirá a primeira regulação direcionada para a IA, apesar de os criadores e os responsáveis pelo desenvolvimento desta tecnologia estarem já sujeitos à legislação europeia em matéria de direitos fundamentais, de proteção dos consumidores e de regras em matéria de segurança.

Ler artigo completo