ChatGPT: enfrentando os artifícios da IA, como a educação para a mídia pode ajudar os alunos

Quem nunca ouviu falar ChatGPT, essa inteligência artificial generativa, capaz de responder com textos complexos às consultas lançadas pelos internautas? O lançamento em dezembro de 2022 deste software desenhado pela empresa OpenAI provocou uma infinidade de artigos, entre visões de catástrofe e utopia, produzindo um pânico mediático, como ilustra o carta aberta de março de 2023 pedindo uma moratória no desenvolvimento deste tipo de sistemas, assinado por mil pesquisadores.

Como mostrado por um estudo do Revisão de jornalismo de Columbia, o pânico não começou em dezembro de 2022 com o evento lançado pela OpenAI, mas em fevereiro de 2023 com os anúncios da Microsoft e do Google, cada um indo para lá de seu chatbot integrado ao seu mecanismo de busca (Bing Chat e Bard, respectivamente). A cobertura da mídia confunde as informações, concentrando-se mais na substituição potencial de humanos do que na concentração real da propriedade da IA ​​nas mãos de algumas empresas.

Como qualquer pânico da mídia (sendo os mais recentes aqueles no Realidade virtuelle e o metaverso), seu propósito e efeito é criar um debate público que permita a outros atores que não os da mídia e do digital aproveitá-lo. Para a alfabetização midiática e informacional (MIL), as apostas são altas em termos de interações sociais e escolares, mesmo que ainda seja muito cedo para mensurar as consequências no ensino desses modelos de linguagem, gerando automaticamente textos e imagens e disponibilizando-os para o público público geral.

Em paralelo com ações de política regulatória, o EMI permite ao cidadão proteger-se dos riscos associados à utilização destas ferramentas, desenvolvendo o seu espírito crítico e adotando estratégias de utilização adequadas e responsáveis. Algo-alfabetização, esse subcampo da MIL que considera o que os dados fazem com a mídia, possibilita a aplicação dessas chaves de leitura à IA. Aqui estão quatro direções nas quais a MIL pode nos ajudar a navegar nessas cadeias de interações algorítmicas, desde suas produções até seus públicos.

Leve em consideração a geopolítica da IA

São as empresas que controlam os mecanismos de busca e, portanto, o acesso à informação, Google e Microsoft, que mais têm a ganhar com o desenvolvimento da IA ​​generativa. Eles são organizados, ao estilo americano, como um duopólio, com um (falso) desafiante, OpenAI LP. Na verdade, é o braço comercial do laboratório OpenAI inicialmente sem fins lucrativos (amplamente financiado pela Microsoft).

Outra história pode ser contada, principalmente pela mídia, a da incrível concentração de poder e dinheiro por um número muito pequeno de empresas no Vale do Silício. Atribuem-se o monopólio do acesso à informação e de todas as produções dela decorrentes. Eles alimentam a competição direta entre os Estados Unidos e a China no assunto. A estratégia do Google e da Microsoft visa, sim, puxar o tapete debaixo dos pés do governo chinês, que não esconde suas ambições para o desenvolvimento da IA.

A opção pela pausa ou moratória é uma quimera, perante o que equivale a uma corrida armamentista. Os próprios inventores, como aprendizes de feiticeiros arrependidos, incluindo Sam Altman, gerente geral da OpenAI, propostos em maio de 2023 “Governança de IA”. Mas não seria na esperança de não sofrer o peso total da regulamentação do governo que os iludiria e prejudicaria suas intenções comerciais? A União Europeia antecipou-se ao preparar um regulação de IA regular os usos desta nova evolução digital.

Questione a qualidade dos textos e imagens fornecidos

Nem tudo o que é plausível é necessariamente significativo. A IA que comanda o software ChatGPT faz sugestões com base nas consultas e elas aparecem rapidamente… em uma linguagem bastante estilosa e bem cuidada! Mas isso pode gerar erros, como percebeu, para seu desgosto, um advogado nova-iorquino que havia montado uma arquivo cheio de opiniões legais falsas e falsas citações legais.

Portanto, tenha cuidado com a pseudociência gerada pela IA. O conteúdo oferecido pode ter vieses porque vem da exploração de enormes bancos de dados. Isso inclui conjuntos de dados com fontes de todos os tipos... incluindo mídias sociais! A versão gratuita mais recente do ChatGPT é baseada em dados que param no início de 2022, portanto, não estão realmente atualizados sobre os eventos atuais.

Muitos desses bancos de dados vêm de países de língua inglesa, com os vieses algorítmicos associados. Na verdade, o ChatGPT corre o risco de criar desinformação e de se prestar a utilizações maliciosas ou de amplificar as crenças de quem o utiliza.

Portanto, deve ser usado como qualquer outro instrumento, como um dicionário para fazer pesquisas, elaborar um rascunho... sem lhe confiar segredos e dados pessoais. Pedir para ele produzir suas fontes é um bom conselho, mas nem isso garante a ausência de filtros, o chatbot tende a produzir uma lista de fontes que parecem citações, mas nem todas são referências reais.

Além disso, não devemos esquecer o questões de direitos autorais que em breve entrará em ação.

Cuidado com os imaginários em torno da IA

O termointeligência artificial não é apropriado para o que vem sob um processamento de dados pré-treinado (o significado da sigla GPT para transformador pré-treinado generativo).

Esse antropomorfismo, que nos leva a atribuir pensamento, criatividade e sentimentos a um agente não humano, é negativo em dois aspectos. Faz-nos lembrar todos os mitos angustiantes que alertam para a inviabilidade de qualquer porosidade entre o vivo e o não-vivo, do Golem ao Frankenstein, com receios da extinção da raça humana. Serve para a compreensão serena da real utilidade desses transformadores de grande porte. A ficção científica não ajuda a entender a ciência. E, portanto, formular referenciais éticos, econômicos e políticos.

Esses imaginários, por mais ativos que sejam, devem ser desmistificados. A chamada “caixa preta” da IA ​​generativa é bastante simples em princípio. Modelos de linguagem em larga escala são algoritmos treinados para reproduzir os códigos da linguagem escrita (ou visual). Eles rastreiam milhares de textos na Internet e convertem uma entrada (uma sequência de letras, por exemplo) em uma saída (sua previsão para a próxima letra).

O que o algoritmo gera, em altíssima velocidade, é uma série de probabilidades, que você pode verificar fazendo a mesma consulta novamente e vendo que seus resultados não são os mesmos. Não há mágica ali, nem sensibilidade, mesmo que o usuário tenha a sensação de estar “conversando”, outra palavra do vocabulário humano.

E pode ser divertido, pois o BabyGPT AI criado pelo New York Times, trabalhando em pequenos corpora fechados, para mostrar como escrever como Jane Austen, William Shakespeare ou JK Rowling. Nem mesmo o ChatGPT se deixa enganar: quando questionado sobre como se sente, ele responde, sem rodeios, que não foi programado para isso.

Varie as ferramentas

O público de IA, especialmente na escola, deve, portanto, desenvolver conhecimentos e habilidades em torno dos riscos e oportunidades desse tipo de chamado robô de conversação. Além de entender os mecanismos de processamento automático de informações e desinformações, outros cuidados se prestam à educação:

• cuidado com o monopólio da consulta online, visado pelo Bing Chat e pelo Google Bard, por competirem entre si, pelo que recorrendo regularmente a vários motores de busca;

• exigir rótulos, códigos de cores e outros marcadores para indicar que um documento foi produzido por uma IA ou com sua ajuda também é senso comum e alguns meios de comunicação já anteciparam isso;

• solicitar que os produtores façam engenharia reversa para produzir IAs que monitoram a IA. que já é o caso GPTZero ;

• iniciar um processo judicial, caso de ChatGPT "alucinação"- - mais um termo antropomorfizado para marcar um erro no sistema!

• E lembre-se que quanto mais você usa o ChatGPT, em sua versão gratuita e paga, mais você o ajuda a melhorar.

No campo educacional, as soluções de marketing da EdTech divulgam os benefícios da IA ​​para personalizar o aprendizado, facilitar a análise de dados, aumentar a eficiência administrativa etc.

Por mais inteligente que se diga, a IA não pode substituir a necessidade de os alunos desenvolverem seu pensamento crítico e sua própria criatividade, de se treinarem e se informarem por meio do domínio de suas fontes e recursos. Enquanto a EdTech, principalmente nos Estados Unidos, corre para introduzir a IA nas salas de aula, desde o ensino fundamental até o ensino superior, a vigilância dos professores e tomadores de decisão continua sendo essencial para preservar as missões centrais das escolas e escolas. A inteligência coletiva pode, assim, assumir a inteligência artificial.

Divina Frau-Meigs, Professora de Ciências da Informação e Comunicação, Autores históricos The Conversation France

Este artigo foi republicado a partir de A Conversação sob licença Creative Commons. Leia oartigo original.

Crédito da imagem: Shutterstock / caçador de pixels