Elon Musk e mil especialistas pedem uma pausa no desenvolvimento da IA para proteger a humanidade
À medida que o chatbot ChatGPT continua a evoluir e ser falado, centenas de especialistas na área de inteligência artificial expressam preocupação em uma carta aberta e pedem uma pausa de seis meses na pesquisa de ferramentas mais poderosas que o ChatGPT4. Eles afirmam que alguns sistemas de IA são potencialmente uma séria ameaça à sociedade e à humanidade, especialmente pela imprevisibilidade dessas ferramentas, mesmo para seus criadores, e pelos riscos para os trabalhadores.
Nos últimos anos, a inteligência artificial se desenvolveu em um ritmo vertiginoso e perturbador, aproximando-se perigosamente dos riscos destacados nas obras de ficção científica. Elon Musk, cofundador e ex-diretor da OpenAI, empresa que posteriormente criou o ChatGPT, alertou no dia 3 de dezembro para os riscos do protótipo. Em mensagem no Twitter, oo bilionário escreveu :
"ChatGPT é aterrorizante. Não estamos longe de uma IA perigosamente poderosa."
Menos poderoso que seu sucessor que surgiu logo depois, em 14 de março. Nesse dia, a OpenAI lançou sua última versão do agente, o ChatGPT4, que tem mais precisão, segundo a empresa, e é capaz de interpretar imagens. A empresa propôs-o afirmando que o agente "está mais criativo e colaborativo do que nunca. Ele pode gerar, editar e interagir com usuários em tarefas de redação criativa e técnica, como composição de músicas, roteiros ou aprendizado do estilo de escrita do usuário".
Na Cúpula do Governo Mundial em Dubai em fevereiro passado, Musk ligou desenvolver "regras ou regulamentos para controlar o desenvolvimento da IA", fazendo uma analogia com transporte ou segurança médica.
Em a carta de 28 de março aberto para assinatura e publicado no site do Future of Life Institute, o fundador da Tesla e da SpaceX, é uma das centenas de vozes que pedem uma pausa na pesquisa de IA. A escolha da mídia não é insignificante, Musk é um dos consultores do instituto que faz profissão de denunciar os riscos existenciais que a IA representa para a humanidade e pede para "liderar a tecnologia transformadora em benefício da vida e longe dos riscos extremos em larga escala" .
Se muitos dos signatários da carta têm um conflito de interesses nas suas críticas ao ChatGPT, trabalhando nomeadamente em empresas concorrentes da OpenAI e da Microsoft cuja liderança é monstruosa, as suas críticas não deixam de ser legítimas e preocupantes.
Os signatários dizem acreditar que "a humanidade pode desfrutar de um futuro próspero por meio da IA" e falam em "desfrutar de um verão de IA" com sistemas projetados "para o maior benefício de todos" e desejam dar à "sociedade" uma chance de se adaptar". só possível sob a condição de agir como quando "a sociedade interrompeu outras tecnologias com efeitos potencialmente catastróficos para ela".
Concluindo a metáfora, eles pedem uma pausa com base no princípio da precaução:
"Vamos aproveitar um longo verão de IA e não correr despreparados para o outono."
Um risco para a humanidade: a ausência de controle e reflexão
Essa queda pode ser precipitada pelo fato de não haver possibilidade atual de controlar totalmente os desenvolvimentos da IA. Os autores da carta afirmam que os sistemas de IA que competem com os humanos provavelmente representam uma profunda ameaça à sociedade e à humanidade. Eles apontam a pesquisa exaustiva "reconhecida pelos principais laboratórios de IA" como prova disso.
Tendo em conta os princípios desenvolvidos em 2017 na conferência de Asilomar sobre inteligência artificiale (coordenado pelo Future of Life Institute), eles dizem, "a IA avançada pode representar uma mudança profunda na história da vida na Terra e deve ser planejada e gerenciada com os cuidados e recursos necessários".
Apesar destes princípios, “não existe este nível de planeamento e gestão”. Eles apontam que, nos últimos meses, os laboratórios se trancaram “em uma corrida descontrolada para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém – nem mesmo seus criadores – pode entender, prever ou controlar com segurança”.
Tais riscos são referidos em obras de ficção científica que têm frequentemente o mérito de suscitar questões éticas, nomeadamente no que diz respeito à relação entre tecnologia e poder político, mas também por pensadores como Jacques Ellul ou Georges Bernanos. O primeiro, historiador, sociólogo e teólogo protestante, ficou encantado com as contribuições da tecnologia que permite, por exemplo, viajar e “receber imagens de todo o mundo”:
"Então você tem um universo livre à sua frente."
Mas o autor das obras "The Technician System" ou "The technician bluff", estimou que o automóvel levou três milhões de parisienses, por exemplo, a ir de férias todos os anos para as margens do Mediterrâneo, como uma massa sem pensar em seu movimento:
"É muito difícil em uma sociedade [técnica] como a nossa que um homem seja responsável."
Ellul menciona as justificativas dadas pelo diretor do campo nazista de Bergen-Belsen, durante os julgamentos de Nuremberg, segundo as quais não tinha tempo para pensar nas pessoas que morriam, pois estava preocupado com as preocupações técnicas dos fornos. Ferramentas tecnológicas cada vez mais eficientes significam que, apesar de suas vantagens, o próprio homem se torna o instrumento do que deveria ter sido um meio.
O escritor católico Georges Bernanos não adverte menos em seu premonitório "França contra os robôs", publicado em 1947, declarando que o principal perigo é a ausência de reflexão sobre a técnica, em particular com estas palavras que se tornaram relativamente famosas:
"O perigo não está na multiplicação das máquinas, mas no número cada vez maior de homens acostumados, desde a infância, a desejar apenas o que as máquinas podem dar."
Alerta com bastante antecedência sobre o surgimento da IA, e de tal poder reduzindo o homem a segundo plano, até mesmo à condição de inútil.
Um risco para a informação e o mercado de trabalho
Bernanos opôs "a civilização das máquinas [que] é a da quantidade" à "da qualidade".
Uma preocupação expressa pelos signatários da carta que observam o fato de que “os sistemas de IA contemporâneos estão hoje se tornando competitivos em nível humano para tarefas gerais”. Eles colocam a questão fundamental para o futuro da sociedade democrática:
"Devemos deixar que as máquinas inundem nossos canais de informação com propaganda e mentiras? Devemos automatizar todos os trabalhos, inclusive os mais gratificantes?"
Trata-se de um sinal de alerta que se assemelha, de forma muito atual, ao que Paulo VI já denunciou em sua encíclica Populorum Progressio em 1967, lembrando que a tecnologia deve estar a serviço do homem.
No ponto 20 da encíclica, o Papa sublinhou que "se a busca do desenvolvimento requer cada vez mais técnicos, requer ainda mais sábios de profunda reflexão, em busca de um novo humanismo, que permita ao homem moderno reencontrar-se, assumindo os valores mais elevados de amor, amizade, oração e contemplação."
Uma preocupação que, face à dificuldade que os designers têm em dominar na perfeição as suas mais poderosas ferramentas de IA, assume um significado particular. Os técnicos são numerosos, mas a reflexão moral foi demasiado esquecida, levando a uma continuação do desenvolvimento mal enquadrado.
Entre as consequências, a IA ameaça o homem enquanto o "programa feito para aumentar a produção", diz Paulo VI no ponto 20 de sua carta, deveria existir para "libertar o homem de suas servidãos [no plano du travail], tornando-o capaz de ser ele mesmo o agente responsável por seu bem-estar material, por seu progresso moral”.
A encíclica alertava com estas palavras sobre a tecnicização que deveria enriquecer a sociedade:
"Dizer: desenvolvimento é, de fato, preocupar-se tanto com o progresso social quanto com o crescimento econômico. Não basta aumentar a riqueza comum para que ela seja distribuída equitativamente. Não basta promover a tecnologia para que a terra seja mais humana habitar."
A afirmação é corroborada pelo recente estudo do Goldman Sachs, publicado em 26 de março, que indica que 300 milhões de empregos podem ser perdidos em todo o mundo devido ao uso de IA, ou seja, 18% da massa.
Preocupações compartilhadas pelos autores da carta que saúdam Declaração da Open AI de 24 de fevereiro de que "Em algum momento, uma revisão independente pode ser necessária antes de começar a treinar sistemas futuros." Tirando sua conclusão desta declaração, eles ouvem que permanece apenas uma vaga promessa e escrevem:
"Portanto, pedimos a todos os laboratórios de IA que suspendam imediatamente, por pelo menos seis meses, o treinamento de sistemas de IA mais poderosos que o GPT-4. Essa pausa deve ser pública e verificável e incluir todos os principais participantes. Se tal pausa não puder seja implementado rapidamente, os governos devem intervir e instituir uma moratória."
Jean Sarpedon
