A técnica das redes neurais profundas, base da inteligência artificial, foi apresentada à academia e ao mercado em 2012 e suas implementações começaram em larga escala a partir de 2015. A IA generativa, uma forma de organização dessa mesma técnica, teve sua primeira arquitetura proposta em 2014. E em novembro de 2022, o ChatGPT deixou o mundo boquiaberto.

Provocou sensações díspares, de entusiasmo a assombro, e trouxe necessidade de reflexão. A experimentação da novidade acabou por arrefecer as reações mais extremas. Os gestores já perceberam que terão de se ater aos fundamentos da IA para aproveitá-la ao máximo, diminuir riscos e não realizar investimentos desnecessários. Tão importante quanto saber a amplitude e os limites da IA é pontuar a ética na sua utilização. “Defendo veementemente que as IES criem uma governança de IA e um comitê de ética”, afirma Dora Kaufman, economista, escritora, professora da PUCSP e pesquisadora dos impactos éticos e sociais da IA. Entre os livros já escritos e publicados estão Empresas e consumidores em rede: Um estudo das práticas colaborativas no Brasil e Desmistificando a inteligência artificial”, ambos de 2022.

A IA é considerada tecnologia de propósito geral, ou seja, uma tecnologia que muda a lógica de funcionamento da economia, portanto, é abrangente e transforma a sociedade. “As três últimas tecnologias consideradas como de propósito geral foram o carvão, que iniciou a revolução industrial no século 18, em seguida a eletricidade, que iniciou a segunda fase da revolução industrial, a computação e agora a IA.”

Marina Feferbaum: IA generativa tumultua ambiente acadêmico

Dora pesquisou as definições de IA e conta que não há uma convergência universal nessas definições, mas muita confusão quanto à própria utilização. É comum que as pessoas confundam processos de automação com sistemas que utilizam IA. “Essa é a confusão em primeiro nível, a mais primária.” Um exemplo de automação é a linha de fabricação da indústria automobilística. “Cada vez mais as tarefas estão sendo automatizadas, com vários sistemas de programação, como árvores de decisões, mas são sistemas simples quando comparados à IA”, explica. Outra confusão, num segundo nível, é entre modelos estatísticos avançados e modelos estatísticos habilitados por IA. “A linha é tênue em alguns momentos e as pessoas confundem uma coisa com a outra.” A diferenciação mais importante é que os modelos estatísticos habilitados por IA têm capacidade de lidar com grande volume de dados.

“As organizações fazem previsões a partir das informações disponíveis. Essa é a lógica de funcionamento da economia, da sociedade, das pessoas.” Quanto mais importante é a decisão, mais informação é necessária. “Funcionamos assim há décadas e cada vez mais esses modelos de previsão com base em informação evoluíram, e hoje temos modelos estatísticos bastante avançados.”

Agora, a transformação acontece pelo fato de a sociedade hiperconectada gerar dados o tempo todo. A novidade é o big data, mas esses modelos estatísticos tradicionais não conseguem lidar com o número extraordinário de dados. A técnica na base da IA são as redes neurais profundas, ou deep learning, um modelo estatístico de probabilidade, o único capaz dessa tarefa.

Para Dora, a grande disseminação da IA está justamente vinculada a esse volume de dados que ela é capaz de envolver, afinal, “acessar um conjunto extraordinário de dados aumenta a possibilidade de ter decisões mais assertivas”. Essa é a característica que torna a IA estratégica.

Governança de IA

As IES, e as empresas em geral, precisam criar a governança de IA para auxiliar o gestor a fazer as perguntas certas, diz a pesquisadora. O ecossistema educacional não desenvolve as ferramentas tecnológicas, que serão, portanto, adquiridas de startups e empresas de tecnologia. “É preciso criar diretrizes acerca do que é preciso verificar na hora da compra, o que perguntar ao fornecedor, como monitorar riscos, o que é cada tecnologia oferecida e de onde podem vir danos para os alunos, professores, e para a reputação da instituição”, detalha.

Não se trata da aquisição de uma cadeira, um computador, mas de um sistema complexo. Em geral, afirma Dora, até nas grandes empresas o gestor tem quase nenhum conhecimento sobre essa tecnologia e não sabe avaliar os problemas. “É aí que mora o perigo.”

O profissional de TI ou fornecedor agrega valor à sua atuação ou à sua marca quando oferece um sistema de IA. “São várias as motivações para se usar a IA, mas, na minha opinião, o uso só se justifica quando de fato envolve grandes volumes de dados. Se não for o caso, é mais econômico e rápido usar modelos estatísticos sem IA.”

Ética by design e um comitê

Na universidade, o comitê de ética especificamente para a IA também é importante. “Na tecnologia, o conceito de eficiência é diferente daquele sob o olhar das ciências humanas e sociais. O termo está relacionado ao propósito pelo qual o sistema foi desenvolvido e se ele cumpre ou não a tarefa. A eficiência é associada ao funcionamento, não leva em conta impactos éticos e sociais.” A incorporação das questões éticas ainda na fase de desenvolvimento de sistemas é chamada de “ética by design”, preconizada para o desenvolvimento de sistemas de IA que serão comercializados, para projetos desenvolvidos nas universidades, em cursos de TI, e pode também ser um norte para a criação do comitê de ética da IA na universidade.

Dora enfatiza que as equipes que pensam e desenvolvem sistemas de IA precisam de diversidade cognitiva, com pessoas de várias áreas, ou seja, devem ser equipes multidisciplinares. Essa característica reduzirá a possibilidade de questões éticas passarem despercebidas, afirma. Além de profissionais de TI e engenheiros, as equipes precisam de eticistas – especialistas em ética –, advogados e profissionais do domínio para o qual o sistema está sendo desenvolvido. “Eu não consigo imaginar o desenvolvimento de um sistema para a área médica sem a presença, na equipe, de um médico, mas, em geral, isso não acontece.”

Alexandre Gracioso: A aceleração da IA e a ética individual

A diversidade racial e de gênero, necessária em todas as instâncias das organizações, também o é em torno da IA. “Por exemplo, um sistema com base de dados que tenha grande concentração de homens brancos. Se houver na equipe uma mulher negra, aumenta a possibilidade de atenção a essa questão. É assim que funciona.” Dora conta que comitês de ética para IA, com essa configuração, foram criados na Universidade Stanford, no semestre passado. Os projetos de IA passam por esses comitês para aprovação e também para obter financiamento.

Um exemplo das consequências dos descuidos com os impactos éticos e sociais ocorreu em 2020, com os sistemas de reconhecimento facial da Microsoft, Amazon e IBM, utilizados por quatro mil departamentos de polícia nos EUA. Foram todos descontinuados quando se averiguou que os três foram treinados em bases de dados totalmente enviesadas, “é claro que teria problema de viés discriminatório”, fala a pesquisadora.

Nesse caso, acredita Dora, a averiguação se deu sob pressão, por conta do ambiente de grande movimentação antirracista que ocorria à época, que fez repercutir casos de erro de identificação que incorreram na prisão injusta de homens negros. “Mas eram apenas três sistemas, seria fácil auditar antes. Isso foi um escândalo.” Dora afirma que depois que o produto vem ao mercado é mais difícil identificar o problema e corrigir. Qualquer produto – carro, brinquedo, prédios – tem que passar por aprovação. “Os sistemas de IA não passam por aprovação de nenhum órgão regulatório, vêm ao mercado sem controle, sem avaliação de qualidade e atingem milhões de pessoas”, finaliza.

*Esta reportagem sobre os impactos éticos e sociais da IA faz parte da edição 278 da Revista Ensino Superior. Assine e tenha acesso à edição completa.

Autor

Sandra Seabra Moreira