AI: o objetivo se tornou o meio?
Em seu trabalho,Inteligência artificial não é uma questão de tecnologia"(Éditions de l'Aube), Laurent Bibard, Chefe de Gestão e Filosofia da ESSEC, e Nicolas Sabouret, Professor da Universidade de Paris-Saclay onde dirige a escola de pós-graduação em Ciência da Computação e Ciências Digitais, enfatizam que "há não há problema com a inteligência artificial, existe apenas o problema das nossas expectativas sobre o que nós mesmos criamos". Demonstração com trecho que repassamos no The Conversation France.
Mesmo que tenhamos dificuldade em admiti-lo, a tendência é bastante tecnológica na nossa sociedade. Apesar de certas resistências expressas através da exigência de “menos tecnologia” e de “mais gente”, a tendência geral é que a sociedade se torne cada vez mais “tecnologizada”, sem necessariamente reflectir colectivamente sobre as razões que o levaram a tal facto. E isso leva-nos a este tipo de situação em que renovamos as máquinas com muita frequência e onde calculamos a todo custo, portanto em gerando muita poluição. [...]
É preciso distinguir, nestas ferramentas de cálculo que são muito caras e que poluem, por um lado, os cálculos que são feitos com um objectivo colectivo de progresso para a sociedade - seja por investigadores, seja por empresas que tentam trabalhar para o bem comum bom –, por outro lado, os usos individuais que às vezes podem estar sujeitos a esta escravidão moderna.
Moda e difusão de fotos de gatinhos no redes sociais são muito dispendiosos do ponto de vista ecológico, com um ganho económico que se baseia exclusivamente nas receitas publicitárias. Pelo contrário, durante a pandemia de Covid-19, os centros de informática permitiram simular e compreender os modos de disseminação da doença, para acompanhar a evolução das variantes, de forma inegavelmente eficiente.
Em ambos os casos (publicidade e pesquisa sobre a Covid-19), tudo isso é possível graças aos algoritmos dointeligência artificial (IA). São, portanto, também estes algoritmos, cuja utilização criticamos nas redes sociais, que nos permitiram sair da pandemia em dois anos, com um número de vítimas que, apesar de tudo, continua limitado – dez vezes menos, por exemplo, do que a gripe espanhola de início do dia XNUMXe século. Graças à tecnologia, conseguimos controlar relativamente bem uma situação potencialmente catastrófica. Isso foi feito com esses mesmos centros de computação tão poluentes […].
Devemos, portanto, fazer a diferença entre a foto de um gatinho que vamos colocar na Internet e a tecnologias disponibilizados no interesse coletivo do bem comum, para problematizar a questão da relação com as tecnologias diretamente no nível da filosofia moral e política. Isto mostra mais uma vez que, por si só, as tecnologias não representam um problema. É a relação que temos com eles que coloca um problema, em relação às nossas expectativas, em relação à conformação aos grupos, em relação à moda, e assim por diante.
Funcionalismo
Podemos, como acabámos de ver, problematizar a questão ao nível da filosofia moral e política, mas também podemos problematizá-la ao nível que podemos qualificar como "epistemológico", isto é, dizer que diz respeito à solidez da nossa conhecimento. Há uma reflexão muito fundamental sobre este assunto feita por um filósofo pouco conhecido chamado Jacob Klein. Ele observa que desde o Renascimento o desenvolvimento da física matemática com base na álgebra leva as ciências a inevitavelmente tomam seus próprios métodos como objetivo. Ele escreve algo assim:
"Os antigos nunca teriam tomado o método como objetivo."
Com isto ele quer dizer que o desenvolvimento das ciências modernas tem como base subjacente a ideia de que o método é um objetivo. A ideia de que o modo de funcionamento é objetivo, de alguma forma, da pesquisa. E se há alguma verdade no que ele diz, é essencial saber fugir dela para usar a investigação apenas como meio para um fim diferente da própria investigação, que não é feita para servir a si mesma, mas antes para servir a vida em sociedade, o bem comum.
Isto se traduz em nossas vidas concretas, na vida social, através do que na sociologia é chamado de funcionalismo. O funcionalismo é uma forma de abordar as organizações que identifica de forma muito convincente que uma organização sempre corre o risco de se assumir pelo seu próprio propósito.
O grande desempoderamento
Há um exemplo notável disso logo no início do filme Voo sobre um ninho de cuco de Miloš Forman, com Jack Nicholson. A cena mostrada por Forman no início do filme é indicativa da dificuldade que enfrentamos aqui. Acontece num momento em que os pacientes de um hospital psiquiátrico deveriam estar descansando. E a gente vê que a equipe assistencial, muito sutilmente, em vez de acalmar os pacientes, irrita eles. Assim, os cuidadores voltam a ser úteis: os maqueiros são até chamados para colocar Nicholson na camisa de força.
Rimos disso porque é um filme, mas isso infelizmente é tragicamente verdade, e acontece com mais frequência em todos os contextos: em vez de facilitarem o funcionamento da estrutura, de se colocarem ao serviço dos utilizadores, os actores actuam de tal forma de forma a permanecerem úteis, ou seja, o seu funcionamento é confirmado na sua relevância. Em outras palavras, mantemos o problema, porque somos a resposta para ele. E pode ser que o problema que estamos discutindo tenha perdido relevância, ou mesmo se tornado obsoleto, não tenha sentido, ou mesmo nunca tenha tido...
Distorções sistêmicas desta ordem são um problema real em nosso mundo. E as tecnologias são uma engrenagem cada vez mais central na roda. Tornam-se um fim em si mesmos para melhorar as capacidades computacionais dos computadores, da IA, etc., independentemente do interesse que isso possa trazer ao homem, à sociedade, ao bem comum.
Estamos, portanto, mais uma vez diante de um problema fundamentalmente humano. Uma das formas interessantes de colocar a questão é dizer que quando nos refugiamos nas teorias dos sistemas, ao não admitirmos que existe uma responsabilidade dos indivíduos e, portanto, ao pressupormos que os humanos e os indivíduos estão afogados nos sistemas, todos ficam isentos de responsabilidade. , jogando de facto o jogo de uma humanidade afogada nos sistemas, em qualquer sistema.
Teorias que insistem apenas no aspecto sistémico do funcionamento contribuem para as nossas alienações, para o facto de nos tornarmos engrenagens de máquinas. Tornamo-nos meios das máquinas porque imaginamos que somos dominados pelos sistemas.
Laurent Bibard, Professor de Administração, titular da Cátedra Edgar Morin em Complexidade, ESSEC et Nicolas Sabouret, professor de informática, Universidade Paris-Saclay
Este artigo foi republicado a partir de A Conversação sob licença Creative Commons. Leia oartigo original.
