Especialistas alertam para riscos de IAs Generativas

“Padrinho da IA”, Geoffrey Hinton, veio à público falar sobre suas preocupações quanto ao estado de desenvolvimento das Inteligências Artificiais Generativas, alertando para a imprevisibilidade de maus usos dessa tecnologia.

O pesquisador também afirmou se arrepender do seu trabalho no desenvolvimento das ferramentas. Atuando nesse campo há 50 anos, em 2012, ele dois de seus alunos desenvolveram o sistema matemático de redes neurais. O que lhe rendeu o título de “Padrinho da Inteligência Artificial”.

Depois desse feito, ele e seu time foram contratados pela Google. Nesta semana, ele saiu da empresa. Em sua conta no Twitter, negou que sua saída foi para criticá-la, afirmando que a Google trabalha de maneira responsável com o desenvolvimento dessas IAs.

Anteriormente, no dia 29 de abril, especialistas assinaram uma carta pública pedindo a pausa no desenvolvimento de IAs desse tipo. O motivo foi a preocupação com o mau uso que pode ser feito com tecnologias como essas ferramentas, como os registros que já se acompanham na internet quanto ao ChatGPT e o Midjourney, duas das mais famosas.

Tal preocupação também é partilhada pelas empresas desenvolvedoras, sendo um dos riscos o uso das ferramentas para criação e propagação de notícias falsas. Inclusive, com a possibilidade de criar imagens que parecem fotos e enganar usuários incautos.

Ainda não existe uma forma segura, fácil e rápida de identificar um texto gerado por uma IA e um humano. As estratégias variam de confirmar as informações apresentadas a avaliar erros na estruturação.

No caso de imagens geradas por Ias, uma das estratégias que usuários utilizam para identificar fotos falsas é olhar para os dedos das mãos, pois as ferramentas ainda possuem dificuldade para gerar mãos com os cinco dedos humanos, gerando combinações onde, por exemplo, a mão só tem indicadores ou não possui dedões.