ChatGPT pode gerar “atrofia cognitiva”

O uso da Inteligência Artificial auxilia diversas tarefas, inclusive a redação de textos, mas pode gerar uma espécie de “atrofia cognitiva” no usuário

Shutterstock

O uso da Inteligência Artificial auxilia diversas tarefas, inclusive a redação de textos, mas pode gerar uma espécie de “atrofia cognitiva” no usuário, especialmente os jovens, devido ao risco de dependência excessiva nas soluções baseadas em ferramentas como o ChatGPT. A conclusão é de um amplo estudo realizado por oito pesquisadores de instituições norte-americanas e publicado no site da Cornell University, de Nova York.

O objetivo do trabalho foi descobrir o “custo cognitivo” do uso de LLMs (Large Language Models, ou Modelos de Linguagem de Grande Escala), como o ChatGPT, da OpenAI, no contexto educacional da escrita. A redação foi escolhida como centro da pesquisa por tratar-se de uma tarefa complexa, que envolve múltiplos processos mentais, sendo usada como meio comum de avaliação das habilidades dos alunos em escolas, por exemplo.

Trabalho envolveu eletroencefalografia

A pesquisa envolveu 54 participantes, acompanhados durante quatro meses. Foi usada eletroencefalografia (EEG) para avaliar a carga cognitiva durante a escrita dos ensaios, e empregados princípios de programação neurolinguística (PNL). O trabalho, que foi assistido por professores humanos e um juiz de IA, explorou as consequências neurais e comportamentais da escrita com emprego de LLM, como a eventual “atrofia cognitiva”.

Os participantes foram divididos em três grupos: “LLM”; “Mecanismo de Busca”; e “Somente Cérebro” (trabalho mental sem o uso de ferramentas externas). O EEG revelou diferenças significativas na conectividade cerebral: os participantes do grupo “Somente Cérebro” exibiram as redes mais fortes; os usuários de “Mecanismos de Busca” mostraram engajamento moderado; e os que usaram LLM exibiram a conectividade mais fraca. A conclusão é de que houve redução da atividade cognitiva nos que empregaram ferramentas externas, o que poderia levar à chamada “atrofia cognitiva”.

Pesquisas mais longas são necessárias

“Embora os LLMs ofereçam conveniência imediata, nossas descobertas destacam potenciais custos cognitivos. Os usuários do LLM apresentaram desempenho consistentemente inferior nos níveis neural, linguístico e comportamental. Isso levanta preocupações sobre as implicações educacionais da dependência da IA. Acreditamos que pesquisas mais profundas são necessárias para compreender o impacto em longo prazo da IA no cérebro, antes que os LLMs sejam reconhecidos como algo positivo para os humanos”, afirmaram os pesquisadores.

Análises anteriores apontaram que há uma forte correlação negativa entre o uso de ferramentas de IA e as habilidades de pensamento crítico, com usuários mais jovens apresentando maior dependência da IA e, consequentemente, menores pontuações de desempenho cognitivo. O uso acentuado das ferramentas de LLM também pode levar à diminuição do engajamento em processos analíticos profundos.

“Ao contrário dos mecanismos de busca convencionais, que apresentam pontos de vista diversos para a avaliação do usuário, os LLMs fornecem respostas sintetizadas que podem desencorajar o julgamento independente. Essa mudança da busca ativa de informações para o consumo passivo de conteúdo gerado por IA pode ter implicações profundas na forma como as gerações atuais e futuras processam as informações”, advertiram os estudiosos. “A conclusão é que a integração de LLMs em ambientes de aprendizagem apresenta uma dualidade complexa: embora melhorem a acessibilidade à educação, podem contribuir para a atrofia cognitiva por meio da dependência excessiva de soluções baseadas em IA”, acrescentaram.

Maior satisfação com os resultados

Em paralelo aos riscos de “atrofia cognitiva”, outro aspecto interessante levantado pelo estudo é em relação às chamadas “considerações éticas”: os participantes do grupo Somente Cérebro relataram maior satisfação e demonstraram maior conectividade cerebral em relação ao trabalho, em comparação com os outros grupos. Por isso, as redações escritas com o auxílio de LLM, que envolveram menos tempo para serem escritas, tiveram menor significado ou valor para os participantes.

A pesquisa, denominada “Seu Cérebro no ChatGPT: Acúmulo de Custo Cognitivo ao Usar um Assistente de IA para Tarefas de Redação de Ensaios”, foi conduzida por Nataliya Kosmyna, Eugene Hauptmann, Jessica Situ, Ashly Vivian Beresnitzky, Iris Braunstein e Pattie Maes, todos do MIT (Massachusetts Institute of Technology); Ye Tong Yuan, do Wellesley College; e Xian-Hao Liao, do Mass. College of Art and Design (MassArt).