Com o avanço exponencial da tecnologia, popularizando e facilitando o uso de Inteligências Artificiais Generativas (IAGs) entre usuários de todas as idades, iniciam-se preocupações das instituições de ensino e do próprio estado de São Paulo em relação a estes sistemas. Por outro lado, pesquisas indicam que seu uso adequado e responsável pode trazer benefícios. Em fevereiro de 2025, a Secretaria de Governo Digital, juntamente com o Serpro, publicou uma cartilha de inteligência artificial generativa, com o intuito de explicar e abordar os riscos desta nova tecnologia. O texto, produzido em colaboração com diferentes órgãos públicos, traz como um dos riscos a “Criatividade Sintética”, resposta gerada a partir de invenções da IA por falta de informações sobre o tópico.
A avaliação dialoga com a preocupação de Paulo Edson, professor de sociologia e coordenador pedagógico da Escola Nossa Senhora das Graças, popularmente conhecida como “Gracinha”, localizada no Itaim, que alerta: “a IA ainda inventa informações, inclusive referências que não existem. Ela ainda não tem este código de ética”.
Para Edson, estes sistemas estão para a nossa sociedade como outras ferramentas tecnológicas estão para a história da humanidade, como instrumentos de auxílio. No entanto, seu uso deve ser embasado. “Ela pode facilitar os trabalhos, mas se você não tiver repertório, você não consegue formular prompts”, aponta. Sobre seu uso na didática escolar, o professor conclui: “Ela tem potencial, mas ela tem que ser avaliada, por cientistas e comitês de ética universitários”.
De acordo com pesquisa realizada em 2023 pela Associação Brasileira de Mantenedoras do Ensino Superior (ABMES), em parceria com a empresa Educa Insights, cerca de 74% das instituições de ensino consideram muito importante o investimento em ferramentas de IA para a educação. Para o coordenador, a união entre escola e IA deve vir acoplada de investimentos em uma educação que valoriza o repertório e o pensamento crítico. “Existe o risco de perder processos importantes do pensamento, como o esforço de interpretação e criação”, afirma.
Outros desafios na introdução do uso destes sistemas também foram apresentados no estudo da ABMES, tais como a falta de participação humana nas pesquisas e a possível dependência em tecnologias que podem falhar ou se tornarem ultrapassadas rapidamente. Diante desta avaliação, a cartilha do governo problematiza esta obsolescência e afirma que o impacto são decisões baseadas em informações incorretas ou desatualizadas.
Edson também colocou como medidas educacionais no Gracinha o aumento de exercícios manuscritos, leitura e por fim ensinar os alunos a usar o prompt (caixa de pergunta ou instrução enviada para IAG). Segundo ele, muitas vezes os estudantes têm dificuldade em fazer os pedidos de forma correta o que resultam em respostas que não solucionam as dúvidas. Apesar dos riscos apontados, os resultados do estudo da ABMES mostram que mais da metade das instituições consultadas consideram que a IA pode apresentar benefícios na rotina dos alunos. Dentre estes, são citadas a versatilidade de aprender a qualquer hora ou lugar; o acesso diversificado a informações e a melhor eficiência na resolução de dúvidas e problemas.
Paulo Rota, coordenador do ensino médio no Gracinha e mestre em tecnologias na inteligência e design digital, em entrevista à AGEMT, acredita que ainda não alcançamos um uso satisfatório da inteligência artificial na educação, e acha que alguns professores ainda demonstram resistência em seu uso. Essa confiança das instituições está relacionada ao avanço contínuo da inteligência artificial generativa (IAG) no apoio aos estudos. A cada ano surgem sistemas mais refinados, práticos e eficazes, que auxiliam em processos de pesquisa e aprendizagem, o que amplia sua adoção como ferramenta educacional pelas escolas. Rota diz que não consegue pensar no ser humano sem dispositivos, mas ressalta: “tem uma contradição na IA e nas redes sociais. É uma coisa privatizada, e o controle da inteligência artificial e das big techs está na mão de algumas poucas empresas”.
Para Rota, a IA pode ser vista como ferramenta de auxílio externo ao estudante, e não deve ser ignorada. O coordenador do ensino médio ainda compara a visão diante da nova tecnologia com os princípios filosóficos de Aristóteles. “Para ele, o ser humano não podia ler livros. Deveríamos construir nossa opinião somente com base em nossa razão. Alguns professores que rejeitam a IA estão sendo aristotélico”, afirma. Ele ainda segue, ao afirmar que usar estas tecnologias é nossa natureza. “Somos como a aranha, e a IA é como nossa teia. Algo criado pelo ser humano, alheio, mas que devemos usar”.
Com base na progressão do uso das IAGs entre estudantes e, a Secretaria de Gestão da Informação, Inovação e Avaliação de Políticas Educacionais (SEGAPE) produziu o “Referencial para Desenvolvimento e Uso Responsável de Inteligência Artificial”, em fevereiro deste ano. O documento trabalha através de princípios, diretrizes e recomendações que busquem orientar instituições de ensino à como utilizar sistemas de IA na educação. Assinado pelo Ministério da Educação, o referencial reúne diversos pontos que auxiliam a compreensão sobre como se pode usar a tecnologia como ferramenta para um aprendizado com inclusão e equidade, mantendo a ética e responsabilidade.
Dentre os tópicos, são destacados: a supervisão humana no acesso às IAGs pelos alunos, que devem ser orientados e acompanhados pelos professores; o combate às desigualdades, utilizando das ferramentas como promoção de um acesso à informação justo e não discriminatório; e a transparência diante dos dados apresentados, sempre esclarecendo a origem das informações e a checagem dos fatos. A conclusão do referencial afirma que o uso de IAGs e de pesquisa são uma possibilidade de auxílio no processo de aprendizado, contanto que o rigor de ensino, de checagem e presença do professor ao longo do uso se mantenham. “Ao reafirmar a centralidade do projeto pedagógico, a indispensabilidade da supervisão humana e a salvaguarda dos direitos fundamentais, busca-se promover o uso da inteligência artificial como instrumento de qualificação dos processos educacionais”, afirma o documento.