Uma IA substituirá seu psiquiatra em breve?

" Olá senhor. Por favor, sente-se. Então... como você tem estado desde a última vez? E se, em alguns anos, essa sentença inócua não fosse mais pronunciada por um psiquiatra em carne e osso, mas por uma IA, uma inteligência artificial? Com o recente ressurgimento da psiquiatria no debate público, especialmente devido à crise sanitária, ressurgiu a ideia de propor sistemas de monitoramento de saúde mental integrando IAs.

É, sejamos honestos, longe de ser novo, pois encontramos o primeiro vestígio de um chatbot (programa de diálogo) dedicado à psiquiatria, denominado ELIZA, de 1966. Nas últimas décadas, os avanços na inteligência artificial permitiram o surgimento de chatbots, “robôs terapeutas” ou outros sistemas de detecção de saúde baseados em voz.

Existe hoje mais de vinte robôs-terapeutas validado por estudos científicos em psiquiatria. Vários desses trabalhos sugerem que os pacientes podem desenvolver relações terapêuticas reais com essas tecnologias, mesmo que alguns deles se sentissem mais à vontade com um chatbot do que com um psiquiatra humano.

As ambições são, portanto, altas... Especialmente porque, ao contrário de seus homólogos humanos, esses “profissionais” digitais prometem decisões objetivas, replicáveis ​​e sem julgamento – e estar disponíveis em todos os momentos.

Página de diálogo de ELIZA, com trecho de uma troca sobre o namorado do interlocutor da robótica terapeuta
O primeiro software de diálogo ou chatbot é o ELIZA, projetado em 1966 para simular um psicoterapeuta.
DR

Deve-se notar, no entanto, que enquanto o nome “robô terapeuta” evoca a imagem de um robô físico, a maioria são baseados em texto, possivelmente vídeos animados. Além dessa ausência de presença física, importante para a maioria dos pacientes, muitos não reconhecem todas as dificuldades vivenciadas pelas pessoas com quem conversam. Como, então, fornecer respostas apropriadas, como encaminhamento para um help desk dedicado?

Diagnóstico e modelo interno no psiquiatra

O psiquiatra, em sua entrevista com seu paciente, é capaz de perceber sinais importantes que denunciam a existência de pensamentos suicidas ou violência doméstica, que os chatbots atuais podem perder.

Por que o psiquiatra ainda supera sua versão eletrônica? Quando este especialista anuncia "Você tem transtorno de déficit de atenção", ou "Sua filha tem anorexia nervosa", o processo que o levou a fazer esses diagnósticos depende de seu "modelo interno": um conjunto de processos mentais, explícitos ou implícitos, que lhe permitem fazer seu diagnóstico.

Assim como oengenharia se inspira na natureza para projetar sistemas de alto desempenho, pode ser relevante analisar o que se passa na cabeça de um psiquiatra (a forma como ele desenha e usa seu modelo interno) quando faz seu diagnóstico para depois treinar melhor a IA encarregada do imitado… até que ponto um “modelo interno” humano e o de um programa são semelhantes?

Isto é o que nos perguntamos em nosso artigo publicado recentemente na revista Fronteiras na psiquiatria.

Comparação Homem-Máquina

Ao confiar em Estudos anteriores sobre raciocínio diagnóstico em psiquiatria, estabelecemos uma comparação entre o modelo interno do psiquiatra e o dos RNs. A formulação de um diagnóstico passa por três etapas principais:

Coleta e organização de informações. Durante sua entrevista com um paciente, o psiquiatra reúne muitas informações (de seu prontuário, seu comportamento, o que é dito etc.), que ele seleciona de acordo com sua relevância. Esta informação pode então ser associada a perfis pré-existentes com características semelhantes.

Os sistemas de IA fazem o mesmo: com base nos dados com os quais foram treinados, extraem características de sua troca com o paciente. características) que selecionam e organizam de acordo com sua importância (seleção de recursos). Eles podem então agrupá-los em perfis e, assim, fazer um diagnóstico.

A construção do modelo. Durante seus estudos médicos, depois ao longo de sua carreira (prática clínica, leitura de relatórios de casos, etc.), os psiquiatras formulam diagnósticos dos quais conhecem o resultado. Esta formação contínua reforça, no seu modelo, as associações entre as decisões que tomam e as suas consequências.

Aqui, novamente, os modelos de IA são treinados da mesma forma: seja durante o treinamento inicial ou durante o aprendizado, eles reforçam constantemente, em seu modelo interno, as relações entre os descritores extraídos de seus bancos de dados e o resultado do diagnóstico. Esses bancos de dados podem ser muito grandes, mesmo contendo mais casos do que um clínico verá em sua carreira.

Uso do modelo. Ao final das duas etapas anteriores, o modelo interno do psiquiatra está pronto para ser usado para assumir novos pacientes. Vários fatores externos podem influenciar como ele fará isso, como seu salário ou sua carga de trabalho – que encontram seus equivalentes no custo do equipamento e no tempo necessário para treinar ou usar uma IA.

Como indicado acima, muitas vezes é tentador pensar que o psiquiatra é influenciado em sua prática profissional por todo um conjunto de fatores subjetivos, flutuantes e incertos: a qualidade de sua formação, seu estado emocional, o café da manhã etc. E que uma IA, sendo uma "máquina", se livraria de todos esses caprichos humanos... Isso é um erro! Porque a IA também inclui uma parte importante da subjetividade; é simplesmente menos imediatamente perceptível.

[Quase 70 leitores confiam no boletim The Conversation para entender melhor os principais problemas do mundo. Inscreva-se hoje]

AI, realmente neutra e objetiva?

De fato, toda IA ​​foi projetada por um engenheiro humano. Assim, se alguém quiser comparar os processos de pensamento do psiquiatra (e, portanto, o design e uso de seu modelo interno) e os da IA, deve-se considerar a influência do codificador que o criou. Este tem um modelo interno próprio, neste caso não para associar dados clínicos e diagnósticos mas sim tipo de IA e problema a automatizar. E aí também muitas escolhas técnicas, mas baseadas no humano, entram em conta (qual sistema, qual algoritmo de classificação, etc.)

O modelo interno desse codificador é necessariamente influenciado pelos mesmos fatores do psiquiatra: sua experiência, a qualidade de sua formação, seu salário, o tempo de trabalho para escrever seu código, seu café da manhã etc. Tudo afetará os parâmetros de design da IA ​​e, portanto, indiretamente, na tomada de decisão da IA, ou seja, nos diagnósticos que ela fará.

A outra subjetividade que influencia o modelo interno das IAs é aquela associada às bases de dados nas quais ela é treinada. Essas bases de dados são de fato desenhadas, coletadas e anotadas por uma ou mais outras pessoas com subjetividades próprias – subjetividade que vai jogar na escolha dos tipos de dados coletados, do material envolvido, da medida escolhida para anotar a base de dados. , etc.

Enquanto as IAs são apresentadas como objetivas, eles realmente reproduzem os vieses presentes nos bancos de dados nos quais são treinados.

Diagrama de síntese onde fatores subjetivos atuam no estabelecimento de um diagnóstico: no psiquiatra, mas também nos codificadores, engenheiros, etc.
A subjetividade ocorre não apenas com o psiquiatra humano, mas também com as IAs terapêuticas por meio das escolhas feitas pelos engenheiros, codificadores etc. que as projetaram.
Vicente Martin, Autor fornecida

Os limites da IA ​​na psiquiatria

Destas comparações emerge que a IA não está isenta de fatores subjetivos e, por esta razão em particular, ainda não está pronta para substituir um psiquiatra “real”. Este último tem outras qualidades relacionais e empáticas para adaptar o uso de seu modelo à realidade que encontra… o que a IA ainda está lutando para fazer.

O psiquiatra é assim capaz de flexibilidade na coleta de informações durante sua entrevista clínica, o que lhe permite acessar informações temporais muito diferentes: ele pode, por exemplo, questionar o paciente sobre um sintoma que ocorreu semanas antes ou evoluir sua troca em tempo real de acordo com as respostas obtidas. Atualmente, as IAs estão limitadas a um esquema pré-estabelecido e, portanto, rígido.

Outra forte limitação das IAs é a falta de corporeidade, fator muito importante na psiquiatria. De fato, qualquer situação clínica é baseada em um encontro entre duas pessoas – e esse encontro envolve fala e comunicação não verbal: gestos, posição dos corpos no espaço, leitura de emoções no rosto ou reconhecimento de sinais sociais não verbais. explícito… Em outras palavras, a presença física de um psiquiatra constitui uma parte importante da relação paciente-cuidador, que por si só constitui uma parte importante do cuidado.

Qualquer progresso de IAs nesta área depende dos avanços da robótica, onde o modelo interno do psiquiatra já está incorporado nele.

Isso significa que devemos esquecer a ideia de um psiquiatra virtual? A comparação entre o raciocínio do psiquiatra e o da IA ​​é, no entanto, interessante do ponto de vista da pedagogia cruzada. De fato, uma boa compreensão do modo como os psiquiatras raciocinam permitirá melhor levar em conta os fatores envolvidos na construção e uso das IAs na prática clínica. Essa comparação também esclarece o fato de que o codificador também traz sua parcela de subjetividade para os algoritmos de IA… que, portanto, não são capazes de cumprir as promessas que lhes são atribuídas.

É somente por meio desse tipo de análise que uma verdadeira prática interdisciplinar, que permita hibridizar IA e medicina, poderá se desenvolver no futuro em benefício do maior número.

Vicente Martin, Doutor em Ciência da Computação, Université de Bordeaux et Christopher Gauld, psiquiatra infantil e médico do sono, Universidade Paris 1 Panthéon-Sorbonne

Este artigo foi republicado a partir de A Conversação sob licença Creative Commons. Leia oartigo original.

© Info Chrétienne - Reprodução parcial autorizada seguida de um link "Leia mais" para esta página.

APOIE A INFORMAÇÃO CRISTÃ

Info Chrétienne por ser um serviço de imprensa online reconhecido pelo Ministério da Cultura, a sua doação é dedutível no imposto de renda em até 66%.