Por Jill Barshay/The Hechinger Report

Os entusiastas da tecnologia podem estar deslumbrados com a promessa da inteligência artificial, mas dois novos estudos bem elaborados — um na China e um por uma empresa líder em IA — sinalizam problemas à frente. 

Os dois estudos foram conduzidos por uma equipe de pesquisadores internacionais que analisaram como estudantes chineses estavam usando o ChatGPT para auxiliar na escrita em inglês, e por pesquisadores da Anthropic, a empresa por trás do chatbot de IA Claude. Ambos chegaram a uma conclusão semelhante: muitos estudantes estão deixando a IA realizar um trabalho cerebral importante para eles.

O primeiro estudo foi publicado online no British Journal of Education Technology em dezembro de 2024, com o provocativo título “Cuidado com a preguiça metacognitiva: Efeitos da inteligência artificial generativa na motivação, nos processos e no desempenho da aprendizagem“. Pesquisadores na China e na Austrália realizaram um experimento de laboratório no verão de 2023, no qual 117 estudantes chineses foram convidados a ler diversos textos, escrever uma redação sobre eles e, em seguida, revisá-la. Todo o trabalho foi feito em inglês, que não era a língua nativa dos alunos.  

Os alunos foram aleatoriamente designados para uma de quatro condições durante a realização do trabalho. Um grupo pôde usar o ChatGPT. O segundo grupo pôde consultar um orientador de escrita. Um terceiro grupo recebeu um kit de ferramentas de escrita com listas de verificação de itens para revisão. Um quarto grupo não teve ajuda extra e teve que concluir a tarefa sozinho. Além de escrever redações, todos os alunos fizeram provas para medir o quanto aprenderam e preencheram questionários sobre suas emoções.

Opinião | Inexistência de regras para IA sobrecarrega o docente

Para a surpresa dos pesquisadores, os alunos do grupo ChatGPT foram os que mais melhoraram suas redações — até mais do que o grupo com professores humanos de redação. Mas o grupo ChatGPT não aprendeu mais sobre o tema que leu e escreveu, nem se sentiu mais motivado a escrever e aprender do que os alunos dos outros três grupos. De fato, houve indícios de que os alunos que mais gostaram da tarefa e mantiveram o interesse foram aqueles que apenas receberam a lista de verificação de redação, mas concluíram a tarefa sem IA ou auxílio humano.

Ao analisarem como os alunos concluíam seus trabalhos em computadores, os pesquisadores notaram que os alunos que tinham acesso à IA ou a um humano eram menos propensos a consultar os materiais de leitura. Esses dois grupos revisaram suas redações principalmente interagindo com o ChatGPT ou conversando com o humano. Aqueles que tinham apenas a lista de verificação passaram mais tempo revisando suas redações. 

O grupo de IA passou menos tempo avaliando suas redações e se certificando de que entendiam o que a tarefa exigia. O grupo de IA também era propenso a copiar e colar o texto gerado pelo bot, mesmo que os pesquisadores tivessem solicitado que o bot não escrevesse diretamente para os alunos (aparentemente, foi fácil para os alunos contornar essa barreira, mesmo no laboratório controlado.) Os pesquisadores mapearam todos os processos cognitivos envolvidos na escrita e observaram que os alunos de IA estavam mais focados em interagir com o ChatGPT. 

“Isso destaca uma questão crucial na interação entre humanos e IA”, escreveram os pesquisadores. “Potencial preguiça metacognitiva.” Com isso, eles se referem à dependência da assistência da IA, transferindo os processos de pensamento para o robô e não se envolvendo diretamente com as tarefas necessárias para sintetizar, analisar e explicar.

EUA: Universidades falam de um “plano de resposta Trump”

“Os alunos podem se tornar excessivamente dependentes do ChatGPT, usando-o para concluir facilmente tarefas específicas de aprendizagem sem se envolver totalmente na aprendizagem”, escreveram os autores.

O segundo estudo, da Anthropic, foi divulgado em abril durante a conferência de investidores em educação da ASU+GSV, em San Diego. Neste estudo, pesquisadores internos da Anthropic estudaram como estudantes universitários interagem com seu bot de IA, chamado Claude, um concorrente do ChatGPT. Essa metodologia representa uma grande melhoria em relação a pesquisas com estudantes que podem não se lembrar exatamente de como usaram a IA.

Os pesquisadores começaram coletando todas as conversas ao longo de um período de 18 dias com pessoas que criaram contas no Claude usando seus endereços universitários (a descrição do estudo diz que as conversas foram anonimizadas para proteger a privacidade dos alunos). Em seguida, os pesquisadores filtraram essas conversas em busca de sinais de que a pessoa provavelmente era um estudante, buscando ajuda com atividades acadêmicas, trabalhos escolares, estudando, aprendendo um novo conceito ou pesquisa acadêmica. Os pesquisadores acabaram com 574.740 conversas para analisar. 

Os resultados? Os alunos usaram Claude principalmente para criar coisas (40% das conversas), como criar um projeto de codificação, e para analisar (30% das conversas), como analisar conceitos jurídicos.

Criar e analisar são as tarefas mais populares que os estudantes universitários pedem para Claude fazer por eles.

Os pesquisadores da Anthropic notaram que essas eram funções cognitivas de ordem superior, não básicas, de acordo com uma hierarquia de habilidades, conhecida como Taxonomia de Bloom.

Leia também: O papel das taxonomias de Bloom e Marzano no desenvolvimento holístico dos estudantes

“Isso levanta questões sobre como garantir que os alunos não transfiram tarefas cognitivas cruciais para sistemas de IA”, escreveram os pesquisadores da Anthropic. “Há preocupações legítimas de que os sistemas de IA possam servir de apoio aos alunos, sufocando o desenvolvimento de habilidades fundamentais necessárias para apoiar o pensamento de ordem superior.”

Os pesquisadores da Anthropic também notaram que os alunos pediam respostas diretas a Claude quase metade das vezes, com um engajamento mínimo de idas e vindas. Os pesquisadores descreveram como, mesmo quando os alunos interagiam colaborativamente com Claude, as conversas podiam não estar ajudando os alunos a aprender mais. Por exemplo, um aluno pedia a Claude para “resolver problemas de probabilidade e estatística com explicações”. Isso podia desencadear “múltiplas conversas entre a IA e o aluno, mas ainda assim transferia um pensamento significativo para a IA.”

A Anthropic hesitou em afirmar ter visto evidências diretas de trapaça. Pesquisadores escreveram sobre um exemplo de alunos que pediram respostas diretas a questões de múltipla escolha, mas a Anthropic não tinha como saber se era uma prova para levar para casa ou um teste prático. Os pesquisadores também encontraram exemplos de alunos pedindo a Claude que reescrevesse textos para evitar a detecção de plágio.

A esperança é que a IA possa melhorar a aprendizagem por meio de feedback imediato e instruções personalizadas para cada aluno. Mas esses estudos mostram que a IA também está facilitando a não aprendizagem dos alunos.

Leia também: ChatGPT melhora a escrita dos estudantes

Os defensores da IA ​​afirmam que os educadores precisam reformular as tarefas para que os alunos não consigam concluí-las pedindo à IA para fazê-las por eles, e educar os alunos sobre como usar a IA de maneiras que maximizem o aprendizado. Para mim, isso parece uma ilusão. Aprender de verdade é difícil e, se existem atalhos, é da natureza humana segui-los.

Elizabeth Wardle, diretora do Howe Center for Writing Excellence da Universidade de Miami, está preocupada tanto com a escrita quanto com a criatividade humana. “Escrever não é estar correto ou evitar erros”, ela postou no LinkedIn .“Escrever não é apenas um produto. O ato de escrever é uma forma de pensar e aprender.” 

Wardle alertou sobre os efeitos a longo prazo da dependência excessiva da IA: “Quando as pessoas usam IA para tudo, elas não estão pensando nem aprendendo”, disse ela. “E depois? Quem construirá, criará e inventará quando dependemos apenas da IA ​​para fazer tudo?”

É um aviso que todos devemos prestar atenção.

Autor

Ensino Superior