Inovação

Colunista

Marina Feferbaum

Coordenadora do CEPI e da área de metodologia de ensino da FGV Direito SP

O AI Act vem ai. E nossas escolas com isso?

É recomendável que a IES estabeleça uma política interna sobre o uso de Inteligência Artificial

IA na universidade Antes de tudo, é indispensável mapear o uso de IA na sala de aula

Aplicações de inteligência artificial (IA) para a educação são abundantes: reconhecimento facial para controle de presença, avaliação de risco de evasão ou reprovação, correção automatizada de texto e redações, identificação de plágio e de conteúdo gerado por máquina, tradução de materiais e síntese de textos e por aí vai. Do gestor ao discente, da docência à pesquisa, todas as áreas da educação contam com algum tipo de aplicação que lhes seja útil. Ainda que a IES não utilize institucionalmente aplicações de IA, há grandes chances de que ela seja ou será utilizada por membros da sua comunidade. E daí?

Com 523 votos a favor e 46 contrários, o Parlamento Europeu aprovou em 13 de março deste ano a Lei da União Europeia sobre Inteligência Artificial (EU AI Act). Trata-se da primeira regulação geral para IA, que deve, em breve, inaugurar a era da IA regulada, em prol do desenvolvimento de sistemas de IA confiáveis. Trata-se de uma tendência mundial, com novas responsabilidades jurídicas que alcançarão a todos.

 

Leia: Os pilares de uma universidade inovadora

 

A lei, que regula as aplicações de inteligência artificial no âmbito da União Europeia, estabelece um paradigma regulatório baseado em risco, o qual deve influenciar um futuro modelo brasileiro, seja pelo PL 2.338/23, seja por meio de iniciativas legislativas similares. Por essa forma de regulação, a avaliação e gestão do risco cabe aos particulares, que devem cumprir com as exigências estabelecidas para o respectivo grau de risco. E como isso afetaria a sala de aula?

Por si só, a regulação exigiria das IES conformidade aos seus termos, conformidade essa mais conhecida nos corredores corporativos como “compliance”. Para que haja conformidade (ou “compliance”), teria a IES de cumprir com seus deveres legais definidos na legislação, o que, no mínimo, exigiria algum tipo de controle acerca do uso de sistemas de IA na instituição. Fosse a lei vigente produzida nos termos do PL 2.338/23, teria a IES enquanto agente de IA (i.e. fornecedores e operadores de sistema de IA) de avaliar o risco de seus sistemas (art. 14). Havendo sistemas de alto risco, teria também de estabelecer medidas de prevenção e contenção de danos (arts. 20 e 21), avaliação de impacto (arts. 22 a 26), entre outros.

 

Leia: 5 pontos de atenção na relação entre IA e meio ambiente

 

Há, ainda, um detalhe particularmente relevante, referente ao art. 17 do PL 2.338/23, que estabelece os casos que se consideram de alto risco. Dentre esses, o dispositivo considera de alto risco os sistemas de IA utilizados para “II – educação e formação profissional, incluindo sistemas de determinação de acesso a instituições de ensino ou de formação profissional ou para avaliação e monitoramento de estudantes”. Ou seja, perante uma lei produzida nos termos do PL 2.338/23, os sistemas de IA para educação se submeteriam a um regime rigoroso de controle e segurança (arts. 20 a 26), operados por estruturas de governança e processos internos estabelecidos especificamente para esse fim (art. 19).

O caminho da governança corporativa digital – com estrutura organizacional, normas e procedimentos internos e conformidade às normas jurídicas pertinentes (“compliance”) – é provável, quiçá inevitável. A contingência está no tempo, seja da adoção do PL 2.338/23, de um substitutivo, ou de outra proposta legislativa sobre o tema, somado a um eventual prazo de vacância para que a sociedade tenha tempo para se preparar adequadamente.

Para uma IES, os impactos de uma regulação da IA seriam particularmente profundos, pois alcançariam o programa, repercutindo sobre a metodologia de ensino dos cursos. Como a regulação de IA no Brasil já se mostra como uma realidade iminente, vale a pena se preparar desde já.

 

Mas o que fazer a respeito?

Antes de tudo, é indispensável mapear o uso de IA na sala de aula, não como um levantamento pontual, mas como rotina continuada. Saber sobre o uso da IA na IES já não se considera uma atividade estratégica de negócios e/ou pedagógica, mas, antes de tudo, dever regulatório. É recomendável que a IES estabeleça uma política interna sobre o uso de IA. Afinal, coordenar a atuação da comunidade conforme o entendimento da IES requer algum tipo de diretriz.

É útil preparar toda a comunidade acadêmica. Ora, para fomentar o uso responsável de IA não basta boa vontade: é preciso empoderar os membros da comunidade acadêmica com instrumentos que facilitem a avaliação ética e aplicação metodológica pertinente da tecnologia digital. Especificamente para o corpo docente, além de um letramento qualificado em IA, é fundamental desenvolver uma base sólida em transformadores generativos pré-treinados, os GPTs, cuja capacidade de produção de conteúdo e suas aplicações devam ser bem compreendidas, seja na seara da metodologia de ensino-aprendizagem, seja na das políticas institucionais de produção acadêmica.

 

E como fazer?

Já há iniciativas em algumas universidades a esse respeito. Stanford, por exemplo, criou um curso denominado Guia de ensino de IA (em tradução livre de “Artificial Intelligence Teaching Guide”), disponível online1. O curso, um passo a passo para o docente incorporar a IA, parte das angústias e medos do docente quanto ao uso de IA. O Massachusetts Institute of Technology (MIT), por sua vez, desenvolveu o MIT Teaching and Learning Lab, no qual o professor é convidado a “redefinir seus objetivos, definir quais são os usos aceitáveis, revisitar suas atividades e formas de avaliação até como pensar nas questões de privacidade, acesso e equidade”2 . Em Singapura, a National University of Singapore (NUS) nos mostra uma iniciativa de trocas de experiência pedagógica com o uso de IA3.

Iniciativas do tipo não apenas antecipam as exigências de uma regulação futura, como também promovem uma reflexão sobre o uso da IA no programa, o que, no fim de contas, ajuda no desenvolvimento de metodologias de ensino adequadas à IA. Ao final, o dever regulatório também pode servir para impulsionar uma estratégia pedagógica.

 

Referências

1 – Artificial Intelligence Teaching Guide, da Stanford
https://teachingcommons.stanford.edu/teaching-guides/artificialintelligence-teaching-guide

2 – MIT Teaching and Learning Lab
https://tll.mit.edu/teachingresources/course-design/gen-ai-your-course

3 – Publicação da National University of Singapore (NUS)
https://cit.nus.edu.sg/aicommunity-of-practice

 

_ _ _

 

Baixe o e-book

O FIM DAS UNIVERSIDADES E-BOOKO fim das universidades como as conhecemos é resultado do diálogo da colunista Marina Feferbaum com especialistas da área de ensino e inovação com o foco na transformação do ensino superior face aos desafios contemporâneos, como a diversificação do corpo estudantil e as demandas por formas de ensino que transcendam o modelo tradicional baseado apenas na transmissão de conhecimento em sala de aula. A obra explora a necessidade de inovação nas universidades, que devem se adaptar para continuar relevantes, atendendo às necessidades de aprendizado ao longo da vida e à integração de diferentes disciplinas para enfrentar problemas complexos do mundo real. Além disso, o livro propõe práticas pedagógicas, com muitas dicas para incentivar a autonomia dos estudantes e o uso de tecnologias para criar um ambiente de aprendizagem mais inclusivo, motivador e significativo.

Faça o download gratuito.

Por: Marina Feferbaum | 26/06/2024


Leia mais

Como diminuir a competição entre professores

Como desenvolver docência apoiadora e diminuir a competição

+ Mais Informações
A Teoria da Prática em gestão universitária

A Teoria da Prática em gestão universitária

+ Mais Informações
Comunidades de aprendizagem

O papel das comunidades de aprendizagem na transformação do ensino...

+ Mais Informações
Lato sensu

Conheça a preferência dos alunos para o Lato Sensu

+ Mais Informações

Mapa do Site