O uso da inteligência artificial (IA) já faz parte do cotidiano de crianças e adolescentes, seja por meio de assistentes virtuais, aplicativos, redes sociais ou ferramentas de IA generativa. Por isso, discutir como essas tecnologias funcionam, seus impactos sociais e os dilemas éticos que envolvem seu uso tornou-se uma oportunidade para trabalhar o pensamento crítico e a cidadania digital na escola.

O assunto pode ser discutido por meio de filmes e séries, conforme aponta o professor do Departamento de Comunicações e Artes (ECA) da Universidade de São Paulo (USP), na área de Tecnologias da Comunicação e IA, Leonardo Foletto.

“A orientação, porém, é não usar as produções audiovisuais como ilustração de um futuro inevitável. O ganho pedagógico não está em ‘prever’ a IA, mas em abrir a discussão sobre quem decide, quem lucra e quem é afetado por ela”, destaca.

O professor também orienta que os docentes fiquem atentos a algumas características das narrativas ficcionais, como atribuir características, emoções ou comportamentos humanos à IA ou jogar o problema para um futuro distante.

“Isso desloca a atenção do que importa agora: o trabalho humano precarizado que sustenta a IA, como o de moderadores e anotadores de dados, a concentração dessa infraestrutura em pouquíssimas empresas do Norte Global e os vieses que já estão em operação. Além disso, vale sempre questionar o que o filme deixa de fora da narrativa”, adiciona.

Quais dilemas debater?

Foletto indica começar por aqueles que os alunos já vivenciam, como privacidade, recomendações dos algoritmos e desinformação, levando a discussão para além do enquadramento individual e priorizando questões coletivas e estruturais.

“Pode-se discutir o viés algorítmico e o racismo algorítmico, o trabalho invisível por trás da IA, a extração de dados como uma forma de colonialismo (colonialismo de dados ou colonialismo digital), o custo ambiental do processamento e a questão de quem controla os modelos e a infraestrutura”, lista.

“A pergunta ética pode se deslocar de ‘a máquina vai nos dominar?’ para ‘quem é dono da máquina que supostamente nos dominaria, a serviço de quem e para quê?’”, contrapõe Foletto.

A coordenadora do Programa de Pós-Graduação em Educação do Instituto Federal de Educação, Ciência e Tecnologia de Goiás (IFG), Joana Peixoto, indica discutir com a classe a disseminação da desinformação. “É um dos principais riscos da inteligência artificial generativa, já que não há garantia de confiabilidade das informações produzidas pelas ferramentas”, afirma.

O doutor em Arte e Cultura Visual Júlio César dos Santos indica como tema a dependência de tecnologias desenvolvidas por outros países. “Isso compromete a soberania digital brasileira e coloca em debate questões de autonomia econômica e segurança nacional”, explica.

Por sua vez, a mestra em Educação Tamara Ferreira Dantas aponta o trabalho invisível de quem está por trás da IA. “Ao utilizar inteligências artificiais generativas, as pessoas fornecem dados que treinam algoritmos gratuitamente, enquanto o funcionamento dessas plataformas depende do trabalho invisível e precário de milhares de trabalhadores responsáveis por filtrar conteúdos sensíveis”, destaca.

Já o doutor em Educação Jefferson do Carmo Andrade Santos recomenda discutir com a turma que o conteúdo gerado por meio de inteligência artificial não é neutro, uma vez que captura e trabalha dados disponibilizados na internet. “Sendo assim, é necessário observar se os conteúdos gerados por meio de inteligência artificial reforçam posturas e linguagens racistas, misóginas ou preconceituosas”, diz Santos.

O lucro das empresas com a venda de dados de seus usuários é outro aspecto que merece atenção. “Para completar, as questões ambientais decorrentes do uso de recursos naturais pelos centros de dados também têm gerado preocupação”, adiciona.

Santos sugere abrir espaço para questionamentos após a exibição do filme. “Por exemplo: quem está em posição de poder? Quais personagens são protagonistas e por quê? Quais identidades representam o poder e a fraqueza? Como a inteligência artificial é representada?”.

Olhar interdisciplinar

Debater questões sociais e éticas que envolvem a IA por meio de filmes pode ainda ser associado a conteúdos curriculares do ensino fundamental e médio.

Em história, Foletto recomenda discutir a Revolução Industrial, o trabalho, o colonialismo e como a extração de dados hoje reproduz lógicas coloniais. Em sociologia e filosofia, aborda temas como ética, poder e autonomia. “

“Em língua portuguesa e artes, favorece reflexões sobre narrativa, retórica e produção de mídia. Em geografia, possibilita analisar onde estão os data centers e de onde vêm recursos como energia e lítio. Já em matemática, abre espaço para compreender conceitos como modelos estatísticos e viés amostral”, assinala.

Na hora de propor atividades, Foletto recomenda partir da experiência dos estudantes com feed e algoritmos de TikTok e Instagram e cruzar a ficção apresentada com casos brasileiros reais e documentados de, por exemplo, discriminação algorítmica.

“E, sobretudo, deslocar a aprendizagem da recepção para a produção: fazer os alunos criarem, remixarem, fazerem suas próprias imagens sobre a tecnologia.”

“Que tal sugerir que eles trabalhem essa síntese do filme de forma visual, por meio de desenhos e gravuras, ou em formato de áudio? Os alunos podem ser convidados a reescrever a narrativa das cenas, mudar os desfechos dos núcleos e personagens”, propõe Santos.

Segundo ainda Santos, vale também o professor entender as diversas vertentes da inteligência artificial como, por exemplo, a robótica, o aprendizado profundo, a inteligência artificial preditiva, entre outros.

A seguir, confira 11 filmes que ajudam a pautar discussões sobre inteligência artificial e dilemas sociais com a turma.

Metropolis (1927)

Em uma cidade futurista dividida entre uma elite privilegiada e trabalhadores explorados, um inventor cria um robô humanoide capaz de manipular a população. O filme aborda desigualdade social e tecnologia. Classificação: 14 anos.

2001: Uma Odisseia no Espaço (1968)

Desde a pré-história, um misterioso monólito negro parece influenciar a evolução da humanidade. Milhões de anos depois, uma missão espacial é enviada a Júpiter para investigar sua origem. Durante a viagem, o computador que controla a nave passa a agir de forma inesperada e coloca em risco a vida da tripulação. Classificação: livre.

Blade Runner (1982)

Em um futuro distópico, um policial é encarregado de caçar androides conhecidos como replicantes. A obra questiona o que significa ser humano, explorando temas como consciência, memória e inteligência artificial. Classificação: 14 anos.

O Exterminador do Futuro (1984)

No futuro, uma inteligência artificial domina o planeta e envia um ciborgue ao passado para impedir o nascimento do líder da resistência humana. O filme reflete sobre os riscos do avanço tecnológico sem controle. Classificação: 14 anos.

Matrix (1999)

Um jovem programador descobre que a realidade em que vive é uma simulação criada por máquinas inteligentes para controlar a humanidade. A obra levanta reflexões sobre inteligência artificial, liberdade e manipulação tecnológica. Classificação: 14 anos.

A.I. – Inteligência Artificial (2001)

Um menino-robô programado para amar busca se tornar humano na esperança de ser aceito por sua família. O filme aborda emoções artificiais, identidade e os limites entre humanos e máquinas. Classificação: livre.

Eu, Robô (2004)

Em um futuro em que robôs fazem parte do cotidiano, um policial investiga um crime que pode ter sido cometido por uma máquina, desafiando as famosas leis da robótica. Classificação: 12 anos.

WALL-E (2008)

Em um planeta Terra abandonado devido ao excesso de lixo, um pequeno robô continua sua missão de limpar o planeta até conhecer uma robô exploradora. O filme trata de automação, consumo, sustentabilidade e da relação entre humanos e tecnologia. Classificação: livre.

Ex Machina: Instinto Artificial (2014)

Um programador é convidado a testar uma avançada inteligência artificial em forma de robô humanoide. Durante a convivência, surgem questionamentos sobre consciência, manipulação e ética no desenvolvimento da IA. Classificação: 14 anos.

Coded Bias – Codificando Preconceitos (2020)

O documentário acompanha pesquisas que revelam como sistemas de inteligência artificial podem reproduzir preconceitos raciais e sociais presentes nos dados utilizados para treiná-los. Classificação: 14 anos.

Black Mirror, episódio “Queda Livre” (2016)

Em uma sociedade em que todas as interações são avaliadas por notas dadas pelas pessoas, uma mulher vê sua vida desmoronar após perder prestígio social. O episódio promove reflexões sobre algoritmos, vigilância e os impactos da tecnologia nas relações humanas. Classificação: 16 anos.

Veja mais:

Alunos desenvolvem habilidades analíticas a partir do ChatGPT

Inteligência artificial na escola: confira 6 materiais para apoiar e orientar o uso

Crédito da imagem: J Studios – Getty Images