Um número muito importante de investigadores, financiadores e pensadores sobre inteligência artificial (IA) acaba de lançar uma carta aberta onde faz um apelo surpreendente e inesperado para que se faça uma pausa imediata na investigação em sistemas de IA pós ChatGTP-4:
“we call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4. This pause should be public and verifiable, and include all key actors. If such a pause cannot be enacted quickly, governments should step in and institute a moratorium.”
O texto destaca os riscos profundos que os sistemas de IA com capacidade humana representam para a sociedade e para a humanidade. Consideram os signatários que a falta de planeamento e de gestão adequados para lidar com tais sistemas pode levar a uma perda de controle da civilização. Os riscos apontados prendem-se com a possibilidade de as máquinas inundarem os canais de informação com propaganda e mentiras, assim como a automatização de todos os empregos, arriscando a perda de controle sobre a nossa própria civilização.
O texto defende ainda que o desenvolvimento de sistemas de IA poderosos deve ser feito apenas quando se tem a certeza de que os seus efeitos serão positivos e seus riscos podem ser geridos. Defende-se, assim, que é preciso fazer uma pausa imediata no desenvolvimento de sistemas de IA mais poderosos do que o GPT-4, por pelo menos 6 meses, a fim de que seja possível desenvolver e implementar protocolos de segurança compartilhados para o design e desenvolvimento avançado de IA, além de acelerar o desenvolvimento de sistemas de governação robustos para a IA.
O objetivo é garantir que os sistemas de IA sejam seguros e confiáveis, além de minimizar os potenciais riscos e impactos negativos na sociedade.
A chegada do ChatGPT em Novembro de 2022 suscitou inúmeras reações e inquietações, particularmente no meio académico, e com o lançamento da versão GTP-4, que gera texto a partir de um modelo multimodal em grande escala que aceita entradas de imagem e de texto, o espanto foi ainda maior.
O relatório técnico publicado há apenas duas semanas é verdadeiramente inquietante. Não se trata apenas da espantosa capacidade de processamento de informação e da geração de texto, mas a capacidade de propor linhas de ação, e de executar uma boa parte delas, para um determinado fim sem um adequado questionamento e filtro ético.
Alguns dos principais signatários são:
Yoshua Bengio, Founder and Scientific Director at Mila, Turing Prize winner and professor at University of Montreal
Stuart Russell, Berkeley, Professor of Computer Science, director of the Center for Intelligent Systems, and co-author of the standard textbook “Artificial Intelligence: a Modern Approach”
Elon Musk, CEO of SpaceX, Tesla & Twitter
Steve Wozniak, Co-founder, Apple
Yuval Noah Harari, Author and Professor, Hebrew University of Jerusalem.
Andrew Yang, Forward Party, Co-Chair, Presidential Candidate 2020, NYT Bestselling Author, Presidential Ambassador of Global Entrepreneurship
Connor Leahy, CEO, Conjecture
Jaan Tallinn, Co-Founder of Skype, Centre for the Study of Existential Risk, Future of Life Institute
Evan Sharp, Co-Founder, Pinterest
Chris Larsen, Co-Founder, Ripple
Emad Mostaque, CEO, Stability AI
Valerie Pisano, President & CEO, MILA
John J Hopfield, Princeton University, Professor Emeritus, inventor of associative neural networks
Rachel Bronson, President, Bulletin of the Atomic Scientists
Max Tegmark, MIT Center for Artificial Intelligence & Fundamental Interactions, Professor of Physics, president of Future of Life Institute
Anthony Aguirre, University of California, Santa Cruz, Executive Director of Future of Life Institute, Professor of Physics
Victoria Krakovna, DeepMind, Research Scientist, co-founder of Future of Life Institute
Emilia Javorsky, Physician-Scientist & Director, Future of Life Institute
Sean O’Heigeartaigh, Executive Director, Cambridge Centre for the Study of Existential Risk
Tristan Harris, Executive Director, Center for Humane Technology
Pedro M Teixeira 