Uma IA substituirá seu psiquiatra em breve?

" Olá senhor. Por favor, sente-se. Então... como você tem estado desde a última vez? E se, em alguns anos, essa sentença inócua não fosse mais pronunciada por um psiquiatra em carne e osso, mas por uma IA, uma inteligência artificial? Com o recente ressurgimento da psiquiatria no debate público, especialmente devido à crise sanitária, ressurgiu a ideia de propor sistemas de monitoramento de saúde mental integrando IAs.

É, sejamos honestos, longe de ser novo, pois encontramos o primeiro vestígio de um chatbot (programa de diálogo) dedicado à psiquiatria, denominado ELIZA, de 1966. Nas últimas décadas, os avanços na inteligência artificial permitiram o surgimento de chatbots, “robôs terapeutas” ou outros sistemas de detecção de saúde baseados em voz.

Existe hoje mais de vinte robôs-terapeutas validado por estudos científicos em psiquiatria. Vários desses trabalhos sugerem que os pacientes podem desenvolver relações terapêuticas reais com essas tecnologias, mesmo que alguns deles se sentissem mais à vontade com um chatbot do que com um psiquiatra humano.

As ambições são, portanto, altas... Especialmente porque, ao contrário de seus homólogos humanos, esses “profissionais” digitais prometem decisões objetivas, replicáveis ​​e sem julgamento – e estar disponíveis em todos os momentos.

Deve-se notar, no entanto, que enquanto o nome “robô terapeuta” evoca a imagem de um robô físico, a maioria são baseados em texto, possivelmente vídeos animados. Além dessa ausência de presença física, importante para a maioria dos pacientes, muitos não reconhecem todas as dificuldades vivenciadas pelas pessoas com quem conversam. Como, então, fornecer respostas apropriadas, como encaminhamento para um help desk dedicado?

Diagnóstico e modelo interno no psiquiatra

O psiquiatra, em sua entrevista com seu paciente, é capaz de perceber sinais importantes que denunciam a existência de pensamentos suicidas ou violência doméstica, que os chatbots atuais podem perder.

Por que o psiquiatra ainda supera sua versão eletrônica? Quando este especialista anuncia "Você tem transtorno de déficit de atenção", ou "Sua filha tem anorexia nervosa", o processo que o levou a fazer esses diagnósticos depende de seu "modelo interno": um conjunto de processos mentais, explícitos ou implícitos, que lhe permitem fazer seu diagnóstico.

Assim como oengenharia se inspira na natureza para projetar sistemas de alto desempenho, pode ser relevante analisar o que se passa na cabeça de um psiquiatra (a forma como ele desenha e usa seu modelo interno) quando faz seu diagnóstico para depois treinar melhor a IA encarregada do imitado… até que ponto um “modelo interno” humano e o de um programa são semelhantes?

Isto é o que nos perguntamos em nosso artigo publicado recentemente na revista Fronteiras na psiquiatria.

Comparação Homem-Máquina

Ao confiar em Estudos anteriores sobre raciocínio diagnóstico em psiquiatria, estabelecemos uma comparação entre o modelo interno do psiquiatra e o dos RNs. A formulação de um diagnóstico passa por três etapas principais:

● Coleta e organização de informações. Durante sua entrevista com um paciente, o psiquiatra reúne muitas informações (de seu prontuário, seu comportamento, o que é dito etc.), que ele seleciona de acordo com sua relevância. Esta informação pode então ser associada a perfis pré-existentes com características semelhantes.

Os sistemas de IA fazem o mesmo: com base nos dados com os quais foram treinados, extraem características de sua troca com o paciente. características) que selecionam e organizam de acordo com sua importância (seleção de recursos). Eles podem então agrupá-los em perfis e, assim, fazer um diagnóstico.

● A construção do modelo. Durante seus estudos médicos, depois ao longo de sua carreira (prática clínica, leitura de relatórios de casos, etc.), os psiquiatras formulam diagnósticos dos quais conhecem o resultado. Esta formação contínua reforça, no seu modelo, as associações entre as decisões que tomam e as suas consequências.

Aqui, novamente, os modelos de IA são treinados da mesma forma: seja durante o treinamento inicial ou durante o aprendizado, eles reforçam constantemente, em seu modelo interno, as relações entre os descritores extraídos de seus bancos de dados e o resultado do diagnóstico. Esses bancos de dados podem ser muito grandes, mesmo contendo mais casos do que um clínico verá em sua carreira.

● Uso do modelo. Ao final das duas etapas anteriores, o modelo interno do psiquiatra está pronto para ser usado para assumir novos pacientes. Vários fatores externos podem influenciar como ele fará isso, como seu salário ou sua carga de trabalho – que encontram seus equivalentes no custo do equipamento e no tempo necessário para treinar ou usar uma IA.

Como indicado acima, muitas vezes é tentador pensar que o psiquiatra é influenciado em sua prática profissional por todo um conjunto de fatores subjetivos, flutuantes e incertos: a qualidade de sua formação, seu estado emocional, o café da manhã etc. E que uma IA, sendo uma "máquina", se livraria de todos esses caprichos humanos... Isso é um erro! Porque a IA também inclui uma parte importante da subjetividade; é simplesmente menos imediatamente perceptível.

AI, realmente neutra e objetiva?

De fato, toda IA ​​foi projetada por um engenheiro humano. Assim, se alguém quiser comparar os processos de pensamento do psiquiatra (e, portanto, o design e uso de seu modelo interno) e os da IA, deve-se considerar a influência do codificador que o criou. Este tem um modelo interno próprio, neste caso não para associar dados clínicos e diagnósticos mas sim tipo de IA e problema a automatizar. E aí também muitas escolhas técnicas, mas baseadas no humano, entram em conta (qual sistema, qual algoritmo de classificação, etc.)

O modelo interno desse codificador é necessariamente influenciado pelos mesmos fatores do psiquiatra: sua experiência, a qualidade de sua formação, seu salário, o tempo de trabalho para escrever seu código, seu café da manhã etc. Tudo afetará os parâmetros de design da IA ​​e, portanto, indiretamente, na tomada de decisão da IA, ou seja, nos diagnósticos que ela fará.

A outra subjetividade que influencia o modelo interno das IAs é aquela associada às bases de dados nas quais ela é treinada. Essas bases de dados são de fato desenhadas, coletadas e anotadas por uma ou mais outras pessoas com subjetividades próprias – subjetividade que vai jogar na escolha dos tipos de dados coletados, do material envolvido, da medida escolhida para anotar a base de dados. , etc.

Enquanto as IAs são apresentadas como objetivas, eles realmente reproduzem os vieses presentes nos bancos de dados nos quais são treinados.

Os limites da IA ​​na psiquiatria

Destas comparações emerge que a IA não está isenta de fatores subjetivos e, por esta razão em particular, ainda não está pronta para substituir um psiquiatra “real”. Este último tem outras qualidades relacionais e empáticas para adaptar o uso de seu modelo à realidade que encontra… o que a IA ainda está lutando para fazer.

O psiquiatra é assim capaz de flexibilidade na coleta de informações durante sua entrevista clínica, o que lhe permite acessar informações temporais muito diferentes: ele pode, por exemplo, questionar o paciente sobre um sintoma que ocorreu semanas antes ou evoluir sua troca em tempo real de acordo com as respostas obtidas. Atualmente, as IAs estão limitadas a um esquema pré-estabelecido e, portanto, rígido.

Outra forte limitação das IAs é a falta de corporeidade, fator muito importante na psiquiatria. De fato, qualquer situação clínica é baseada em um encontro entre duas pessoas – e esse encontro envolve fala e comunicação não verbal: gestos, posição dos corpos no espaço, leitura de emoções no rosto ou reconhecimento de sinais sociais não verbais. explícito… Em outras palavras, a presença física de um psiquiatra constitui uma parte importante da relação paciente-cuidador, que por si só constitui uma parte importante do cuidado.

Qualquer progresso de IAs nesta área depende dos avanços da robótica, onde o modelo interno do psiquiatra já está incorporado nele.

Isso significa que devemos esquecer a ideia de um psiquiatra virtual? A comparação entre o raciocínio do psiquiatra e o da IA ​​é, no entanto, interessante do ponto de vista da pedagogia cruzada. De fato, uma boa compreensão do modo como os psiquiatras raciocinam permitirá melhor levar em conta os fatores envolvidos na construção e uso das IAs na prática clínica. Essa comparação também esclarece o fato de que o codificador também traz sua parcela de subjetividade para os algoritmos de IA… que, portanto, não são capazes de cumprir as promessas que lhes são atribuídas.

É somente por meio desse tipo de análise que uma verdadeira prática interdisciplinar, que permita hibridizar IA e medicina, poderá se desenvolver no futuro em benefício do maior número.

Vicente Martin, Doutor em Ciência da Computação, Université de Bordeaux et Christopher Gauld, psiquiatra infantil e médico do sono, Universidade Paris 1 Panthéon-Sorbonne

Este artigo foi republicado a partir de A Conversação sob licença Creative Commons. Leia oartigo original.