ChatGPT: tecnologia inovadora ou simples burburinho?

Embora o impacto da inteligência artificial (IA) no mundo do trabalho ou em termos de informação errada derramou muita tinta, líderes da indústria, incluindo Elon Musk, estão pedindo desacelerar. Uma inteligência artificial ultradivulgada desempenhou um papel importante na abertura desses debates: o ChatGPT. Mas ela realmente criou uma pausa?

Não há nenhuma novidade técnica real no ChatGPT. Seu ancestral, Eliza, data de 1966. A técnica de codificação, por mais sofisticada que seja, faz parte de uma continuidade das concepções de linguagem de programação. Além disso, em uma abordagem sociológica, lembre-se de que somos uma humanidade digital, uma sociedade artefato (já que evoluímos pelo progresso técnico), em que toda inovação faz parte de uma continuidade.

Podemos então realmente falar de inovação revolucionária para o ChatGPT?

E se finalmente foi necessário aproveitar este maremoto da mídia entender a fulgurância de seu desdobramento, e mais ainda, entender onde estamos nós, usuários, em nossas representações, entre fantasias e realidades, da inteligência artificial?

Esses softwares de inteligência conversacional nos remetem a duas grandes tendências relacionadas à tecnicização da sociedade. Em primeiro lugar o do servitização, ou seja, uma padronização do atendimento personalizado no dia a dia. Essa tendência chegou com a transição de uma economia baseada na lógica de massa para outra baseada na lógica individual.

A segunda alavanca principal é a plataformaização : criado dentro de impérios digitais (entre outros GAFAM), este software foi projetado para ser infundido em todo o ecossistema. É o caso, por exemplo, do ChatGPT, trazido para investir no Bing, Outlook e outros serviços da Microsoft.

E por um bom motivo, o desagradável "GPT" em sua versão francesa refere-se a "tecnologias de uso geral". É, portanto, por natureza, uma ferramenta projetada para ser facilmente transposta e utilizada em diferentes campos. Diferente de um buscador, ele responde a perguntas complexas e busca entender a intenção.

Como explicar a apropriação tão rápida do ChatGPT pelos usuários?

O impacto da mídia se deve aos seus usuários. Como aponta o antropólogo Lionel Obadia, é difícil falar em invenção. No entanto, a difusão e apropriação notavelmente rápidas fazem do ChatGPT uma inovação notável. Pode ser usado por qualquer pessoa, iniciado ou não, gratuitamente online e, portanto, leva a tantos novos usos, contournements, tantos negócios em potencial.

Pedi ao chatGPT para escrever uma música para o Yannick Noah e ele fez na perfeição 👌 pic.twitter.com/q2AF1WDK7C

— Maud Estfashion 🇺🇦 #womanlifefreedom (@elnabernina) 2 de março de 2023

Três forças explicam a rápida integração e apropriação social do software.

Em primeiro lugar, o ChatGPT é muito acessível: o que permite que ele seja dimensionado, ou seja, muito rápido de implantar. A acessibilidade da ferramenta e a sua apropriação generalizada massificam a utilização, mas também o interesse pelo que parece “novo”, até “divertido”.

Então o ChatGPT se parece conosco. O processo de aprendizado de máquina torna uma ferramenta para o auto-enriquecimento contínuo, como os humanos. O diálogo permite, por exemplo, melhorar suas respostas com uma linguagem natural. Portanto, quanto mais ele é usado, melhor ele funciona. Em outras palavras, "educamos" uns aos outros.

Por fim, o ChatGPT é um campo de possibilidades: sugere novos cenários. Nós, como usuários, somos a condição para a implantação bem-sucedida dessas inovações digitais. Feito para ChatGPT que agora tem mais de 100 milhões de usuários. Começamos a tomar consciência do “depois” e do surgimento de outras inovações decorrentes do modelo deste software.

A filósofa Marie Robert relata sua experiência quando a mídia Brut se oferece para corrigir uma cópia escrita pelo software:

"Foi com certo arrepio que peguei minha caneta vermelha para tentar entender o raciocínio elaborado por uma máquina. Apesar da ausência de aspas, de uma cruel falta de nuances e de uma estrutura rígida demais, minha primeira observação foi " não é tão ruim" [...] Assim foi com um misto de fascínio e pavor que terminei o exercício, imaginando sinceramente o que faríamos para o mundo vindouro, para essas gerações que não terão que saber do esforço ."

Profissões de cognição condenadas a desaparecer?

O que realmente difere das evoluções anteriores relacionadas à inovação é que o ChatGPT toca o profissões cognitivas, bastante poupado até agora. Também é interessante lembrar que um dos softwares mais (tecnologicamente) complexos, Piloto Automático da Tesla, foi 85% feito por inteligência artificial. A dinâmica de hibridação entre profissões e inteligência artificial está cada vez mais forte. No entanto, seria fantasioso falar de um "grande substituto".

A autonomia da inteligência conversacional não é total. Por exemplo, o ChatGPT desenvolvido pela Open AI foi construído a partir de 175 bilhões de parâmetros e conta com um gigantesco conjunto de dados. Gigantesco certamente, mas selecionado, portanto falível.

Recentemente, intercâmbios e leituras sobre a arte da codificação me permitiu lançar ainda mais luz sobre os limites do mito da autonomia da inteligência artificial. Isto é particularmente através da dimensão de rotulagem em redes neurais. Nesse processo, é dados da etiqueta, ou seja, associar um rótulo (um valor predefinido) a um conteúdo (imagem, texto, forma, etc.). O objetivo é trazer um modelo de aprendizagem para as máquinas. Esta prática recorda a necessidade de configuração e supervisão na interpretação dos dados, realidade a (re)descobrir na minissérie documental Os trabalhadores do clique por Antonio Casilli. A IA aberta tem diferentes contratos com trabalhadores no Quênia para este trabalho de moderação.

Vemos, portanto, os limites de uma fantasia em torno de uma inteligência artificial perfeitamente autônoma.

Embora a inteligência artificial não entenda o que está dizendo, essas implicações humanas na supervisão do aprendizado de máquina nos mostram que os dados que alimentam essa inteligência não são neutros. Eles reproduzem e amplificam os preconceitos de quem os supervisiona, carregando um lote potencial de estereótipos, desinformação, conteúdo sugado de fontes invisíveis, censura ou mesmo conspiração (Meta experimentou isso com o Blender bot 3).

A questão central é, portanto: quem define os parâmetros? O professor de direito Lawrence Lessig enfatiza isso em seu clarividente "Código é lei" : a pessoa que estabelece é a pessoa que tem a possibilidade de orientar um sistema de pensamento. Uma ferramenta como o ChatGPT é projetada principalmente por e para um alvo norte-americano. A sua rápida implantação, reforçada pela sua dimensão lúdica, conduz à uniformização da sua utilização. Uma padronização não sem efeito, pois reforça a impressão de um objeto politicamente neutro entre os usuários.

No entanto, isso está longe de ser o caso, pelas razões acima mencionadas, mas também porque a IA é acima de tudo um questão de domínio tanto entre os impérios digitais quanto no esfera geopolítica.

Marion Trommenschlager, Pesquisador em ciências da informação e comunicação, laboratório PREFics, Rennes 2 University

Este artigo foi republicado a partir de A Conversação sob licença Creative Commons. Leia oartigo original.

Crédito da imagem: Shutterstock/ Rokas Tenys