“Não aguento a novela ridícula à volta de Sam Altman: o poder transformador da IA não devia depender dos caprichos de pessoas”

Gry Hasselbalch é autora de vários livros, incluindo “Data Ethics of Power: A Human Approach in the Big Data and AI Era”, cofundadora e diretora de pesquisa da DataEthics.eu e uma das especialistas do Grupo de Peritos de Alto Nível sobre IA nas Nações Unidas. O seu próximo livro, “Human Power – A Technology Politics for Humanity”, debruça-se sobre a crise existencial que a Humanidade está a enfrentar por causa da IA e combate a ideia de que os seres humanos serão apenas software obsoleto perante uma cultura artificial que nos ultrapassará

Gry Hasselbalch, autora de “Data Ethics of Power: A Human Approach in the Big Data and AI Era”

Uma das maiores especialistas europeias em ética de dados e Inteligência Artificial, Gry Hasselbalch é a especialista sénior da InTouchAI.eu, o projeto de sensibilização internacional para a IA centrada no ser humano da Comissão Europeia. Quando a OpenAI lançou o ChatGPT, em novembro de 2022, criticou a forma como o sistema foi lançado para utilização do público – sem cautelas nem transparência quanto às fontes e ao treino do algoritmo.

Dezoito meses depois, não tem uma visão catastrofista dos perigos da Inteligência Artificial, mas avisa para a necessidade de implementar salvaguardas e aponta a manipulação dos eleitores e a fragilização da democracia como grandes riscos.

Autora de vários livros, incluindo “Data Ethics of Power: A Human Approach in the Big Data and AI Era”, Hasselbalch é cofundadora e diretora de pesquisa da DataEthics.eu e uma das especialistas do Grupo de Peritos de Alto Nível sobre IA nas Nações Unidas. O seu próximo livro, “Human Power – A Technology Politics for Humanity”, debruça-se sobre a crise existencial que a Humanidade está a enfrentar por causa da IA e combate a ideia de que os seres humanos serão apenas software obsoleto perante uma cultura artificial que nos ultrapassará.

Mais de um ano depois da explosão da IA generativa, como analisa a evolução da tecnologia? Mantém os receios que tinha?

Sim, tenho os mesmo receios. O que aconteceu, de certa forma, comprovou ou enfatizou os receios que eu já tinha. Um dos pontos-chaves do meu trabalho é o foco nas dinâmicas de poder. Creio que se tornaram mais óbvias com o lançamento destes grandes serviços, como o ChatGPT e outros. A única coisa que me surpreendeu foi a rapidez com que isto foi adotado e a mudança súbita do discurso público. Para alguém como eu, que estava a trabalhar numa coisa algo obscura, nós sentíamos que tínhamos uma coisa muito importante com um grande impacto social ao nível quotidiano – não numa vertente de ficção científica em que há robôs por todo o lado, mas com implicações éticas e sociais em todas as esferas do quotidiano. No entanto, era difícil conseguir que o discurso público se focasse nisto e nas políticas, porque era um desenvolvimento tão invisível. Nós conseguíamos vê-lo e muitos de nós estavam a trabalhar na questão da captura de dados, big data, a sua influência nos escândalos de vigilância.

Tínhamos noção das implicações de uma tal concentração de poder. Mas só agora, quando começaram a usar estes serviços todos os dias, é que as pessoas perceberam que isto ia mudar as suas vidas. Quer sejam professores, artistas ou cineastas, toda a gente já experimentou e viu o potencial. E agora também conseguem ver muitas das implicações e dos riscos. Foi isso que mais me surpreendeu, a mudança quase imediata no debate. E vejo isso como algo positivo.

Para ler este artigo na íntegra clique aqui