Debate: a inteligência artificial pode apoiar pessoas em luto?

O debate sobre ChatGPT e AIs generativas continua a recuperar, através das novas aplicações que gera apenas alguns meses após o seu lançamento. Um documentário recente do Special Envoy on France 2 (27 de abril de 2023) apresentou um aplicativo que usa GPT-3 e permite ao usuário recriar um diálogo com pessoas desaparecidas.

"Projeto Dezembro (Simule os Mortos)" é sem dúvida um caso extremo de utilização de um agente conversacional do GPT-3 mas muito nos diz sobre a falta de referenciais das sociedades ditas ocidentais para facilitar o luto de forma coletiva e enquadrado no tempo como o fizeram as civilizações que nos precederam.

Bate-papo com nossos queridos falecidos

O "Projeto Dezembro" permite que qualquer pessoa, por 10 dólares, abra uma conta e converse com um programa de inteligência artificial (patenteado) que simula as palavras de uma pessoa falecida por no máximo cem trocas e duração de uma hora.

Para fazer isso, você deve preencher um longo questionário que contém duas seções principais: identidade da pessoa (nome, apelido, datas, lugares, profissões e até o nome do cachorro, se necessário), traços de personalidade (descritos de forma muito forma binária: ex: seguro/confiante/estável vs preocupado/nervoso/perturbado) ao qual é adicionado um extrato de texto produzido por essas pessoas falecidas.

O relatório deCorrespondente assim mostra um homem que acaba de perder a mãe e que todos os dias faz perguntas ao seu avatar sintético, perguntas que não tinha podido fazer antes de sua morte.

Para efeito da reportagem, o criador do aplicativo também organiza, na companhia do jornalista, um diálogo com o agente conversador sobre o túmulo do filósofo, poeta e naturalista americano Henry David Thoreau usando uma de suas frases mais famosas: "o melhor governo é aquele que menos governa", mantendo sua ideologia libertária de sempre defender "menos governo" - ideologia que é também a do Vale do Silício.

Questionado artificialmente via aplicativo sobre os possíveis usos tóxicos da ferramenta "Projeto Dezembro", o avatar simulado de Thoreau responde que toda a responsabilidade é do usuário, como no caso de uma montadora de automóveis que não pode ser responsabilizada pelo comportamento de maus motoristas.

Um desrespeito pelo processo de luto?

Le solucionismo tecnológico assim chamado pelo pesquisador Evgeny Morozov, em seu ímpeto disruptivo, parece varrer qualquer pensamento que seja minimamente discutido sobre as consequências psíquicas ou culturais de tal tratamento da relação com os mortos.

Ele despreza as questões antropológicas de processo de luto e todo o conhecimento sobre esse processo desenvolvido tanto pela psicologia quanto pelo estudo das tradições.

Se a psicanálise considera o luto como um processo psíquico pelo qual uma pessoa consegue se desvincular da pessoa desaparecida e dar sentido a essa perda, as festas dos mortos nas tradições antigas contribuem para um processo semelhante, para devolver o sentido à vida.

Tomemos o exemplo do Dia dos Mortos no México: dura dois dias, e consiste em visitar o túmulo onde descansam os defuntos da família, fazendo uma refeição ao seu redor, ao som de música. Dependendo do caso, é organizada uma vigília durante toda a noite. Nesta ocasião, os cemitérios estão repletos de famílias, grande quantidade de flores de laranjeira e velas. Tudo isso cria uma atmosfera particularmente animada. As famílias também montam temporariamente um altar em casa com os retratos dos falecidos, flores, comida, velas, etc.

Três dimensões sociais e psíquicas emergem desses rituais:

1. a festa dos mortos – luto – é um convite coletivo,

2. o contato procurado com o falecido não tem nada de espírita, não fazemos perguntas específicas

3. a festa dos mortos tem duração bem definida.

Esses três aspectos ajudam a compreender o cuidado dispensado à saúde mental individual e coletiva das sociedades. A memória dos mortos realiza-se num quadro de encontros sociais e protocolos que ajudam a ancorar na vida.

Um luto sem intermediário

Em nossas sociedades ocidentais, o cristianismo e as terapias se encarregaram desse processo de luto de formas já enfraquecidas. Os rituais cristãos tendem esgotar – em 2018, 48% dos franceses desejam uma cerimônia religiosa quando morrem – embora o padre continue a desempenhar um papel intermediário fundamental, mesmo para os não crentes. Os terapeutas fazem esse trabalho por remuneração, enquanto a equipe médica se vê em posição de administrar esses momentos de luto muito além de suas funções.

Por outro lado, o aplicativo "Project December" não parece assumir qualquer responsabilidade por colocar as pessoas em um relacionamento solitário com conversas que simulam os pensamentos do falecido. Se existe de fato uma forma de mediação – no caso, a da inteligência artificial – ela extrapola qualquer quadro coletivo, correndo o risco de ampliar o espaço das fantasias.

Cada um fica entregue ao seu sofrimento, aos seus medos, que o agente da conversa deve bloquear ou estimular com respostas, sempre muito banais. O usuário testemunhando no relatório deCorrespondente fala sobre sua vida cotidiana ou expressa seus sentimentos para sua mãe. Ele fala com ela como se ela não tivesse morrido, fazendo com que seus filhos temam que ele continue preso a esse "relacionamento".

No entanto, nesses ritos de passagem, as palavras devem ser escolhidas com cuidado para ajudar a encontrar um lugar, o seu e o do falecido. É por esta razão que os intermediários são mobilizados em todas as tradições. Mesmo que o usuário não se deixe enganar e o aplicativo o incentive a se expressar, ele tende a eliminar os mediadores humanos, sem rede de segurança: uma forma arriscada de "uberizar" padres, xamãs e terapeutas...

O necessário tempo de silêncio

Em ritos ou terapia de luto, momentos de silêncio são essenciais. Os rituais estabelecem um tempo específico para o luto ou comemoração do falecido, libertando o quotidiano desta relação. A IA baseada em GPT-3 nunca deixa o usuário em silêncio, é um falador impenitente, uma secretária eletrônica. Não consegue acompanhar numa escuta profunda, mas vira-se, mesmo em loop, para compensar a ausência, o vazio insuportável que é no fundo o maior drama do luto.

O confinamento solitário em um diálogo simulado, baseado em algumas pistas realistas usando modelos estatísticos probabilísticos de linguagem, tem algo de obsceno: amplifica ainda mais nossas tendências comercialmente encorajadas a viver em um mundo "falso", baseado em estruturas narrativas articuladas com publicidade códigos.

Mais uma vez, são os artefactos (interfaces e algoritmos) que devem colmatar uma gritante falta de intersubjectividade, laço social, dinâmica de trocas autênticas. Esses objetos substitutos, no entanto, tornam-se críticos em casos de luto e não devem ser manuseados descuidadamente. No entanto, os agentes de conversação do tipo GPT prosperam na incapacidade de nossas chamadas sociedades racionais de fornecer orientação sobre uma questão tão fundamental para a alma humana. como o antropólogo Benedict Anderson apontou.

Aplicativos como o Project December refletem uma atitude laissez-faire anti-institucional encontrada em todas as empresas do Vale do Silício por meio de seu slogan "Rough Consensus and Running Code", uma expressão de John Perry Barlow em seu manifesto pela independência do ciberespaço de 1996.

De acordo com essa doutrina, as decisões de desenvolvimento de aplicativos, padrões, serviços são baseadas em um vago consenso entre as partes interessadas e a produção de código nunca deve parar, facilitando inovações disruptivas que não antecipam suas consequências sociais e culturais.

Este desencaixe da IA ​​face aos princípios sociais e organizacionais e a sua pretensão de tudo refundar com base no poder dos seus cálculos probabilísticos que tudo otimizam, encontram-se aqui neste jogo com o espírito dos mortos. Fazemos malabarismos com os relacionamentos com os mortos como fazemos malabarismos com as palavras.

Como regular esse "código em execução" irresponsável, já que é tão fácil de reproduzir e as fronteiras dos estados não são suficientes para coibir sua adoção imediata em todos os países, sem respeito por qualquer legislação existente?

Só os grandes grupos institucionais que são também grandes mercados como a Europa têm o poder necessário para obrigar todas estas IA e as suas candidaturas a solicitar "autorização prévia de colocação no mercado", como se faz para a maioria dos produtos da indústria, desde alimentos a medicina, incluindo o automóvel. EU'Lei de IA sendo validado na Europa, bem como a administração Biden devemos tomar a medida dessas questões antropológicas em suas tentativas de regulamentação, já que até mesmo nossas relações com os mortos podem ser afetadas por elas, enquanto elas são constitutivas de nossa sensibilidade humana.

Dominique Boullier, Professor Universitário Emérito de Sociologia. Investigadora do Centro de Estudos Europeus e Política Comparada, Sciences Po et Rebeca Afonso Romero, doutoranda em geografia cultural, Sorbonne University

Este artigo foi republicado a partir de A Conversação sob licença Creative Commons. Leia oartigo original.

Crédito da imagem: Shutterstock/Sheri Armstrong