Como Reduzir Alucinações em IA Generativa: Impactos na Mentalidade e Aprendizado dos Estudantes
INTRODUÇÃO
A frase "o Brasil se digitalizou antes de se alfabetizar” pode parecer muito forte e radical, mas cada vez mais tem se provado verdadeira. Em um país com uma desigualdade social ainda bastante evidente, o uso indiscriminado de inteligência artificial generativa tem aumentado ainda mais o abismo de conhecimento entre a classe mais desfavorecida e os mais abastados. Segundo a pesquisa TIC Educação 2024, 7 em cada 10 estudantes do ensino médio brasileiro faz uso de ferramentas de IA Generativa como ChatGPT por exemplo, isso não seria problemático se o uso fosse feito de maneira consciente e sensata, porém na prática não é dessa forma que funciona.
Muitos viam na IA a chance de aumentar o ritmo e a gama de aprendizado, no entanto as alucinações de IA — respostas confiantes, mas factualmente incorretas, que podem moldar profundamente a forma como os jovens pensam, aprendem e se relacionam com o conhecimento se tornaram um desafio e até mesmo um problema na busca por essa aprendizagem mais democrática, rápida e abrangente.
ALUCINAÇÕES DE IA
“As alucinações de IA são resultados incorretos ou enganosos gerados pelos modelos de IA. Esses erros podem ser causados por diversos fatores, incluindo dados de treinamento insuficientes, suposições incorretas feitas pelo modelo ou vieses nos dados usados para treinar o modelo. As alucinações de IA podem ser um problema para sistemas de IA usados na tomada de decisões importantes, como diagnósticos médicos ou negociação financeira.”, de acordo com o próprio Google.
Essas alucinações, em sua maioria, são facilmente detectadas, porém cabe ao usuário ter o conhecimento necessário para desacreditar e entender que as IA’s não são a prova de falhas e que podem não fornecer informações corretas sempre.
Uma vez que o país se digitalizou antes de se alfabetizar, muitas informações simples são desconhecidas pela maior parte da população e aliado a isso a crença de que as IA’s são modelos extremamente inteligente faz com que os usuários com menor nível de conhecimento, e até mesmo pessoas mais cultas, confiem piamente em tudo o que ela diz e a propagação de informações incorretas só aumenta.
Por mais inteligente e bem treinada que uma IA possa ser ela, ainda assim, não tem entendimento do que é realidade e não é capaz de discernir a realidade da ficção e no meio digital, tudo é possível.
A NOVA REALIDADE NAS ESCOLAS BRASILEIRAS
Os números são alarmantes e reveladores. De acordo com o levantamento global realizado pelo Digital Education Council Global AI Student Survey 2024, 86% dos estudantes já utilizam IA em seus estudos, onde 54% fazem um uso semanal e 24% diário. No Brasil, considerando todos os alunos do ensino fundamental e médio, a proporção chega a 37%.
Apesar da oferta de acesso à internet e às IA’s, apenas 32% do total recebeu orientações sobre o uso correto dessa tecnologia. A realidade é composta por pessoas que usam a inteligência artificial de maneira massiva, mas que não tem as ferramentas necessárias para discernir informações reais das falsas e fazer o uso consciente e adequado de uma inteligência artificial.
A proibição dos celulares na escola, Lei nº 15.100/2025 , foi um passo super importante para tentar reverter essa realidade, uma vez que o acesso ficou mais limitado.
Diminuir o acesso às IA’s durante o período que o discente passa na escola faz com que seja necessário o uso da própria inteligência na resolução de problemas e assim, talvez, seja possível recuperar um pouco do que se perdeu, entre a popularização das inteligências artificiais e a proibição dos celulares, no que diz respeito a aprendizagem real dos estudantes.
IMPACTOS NA MENTALIDADE: A EROSÃO DO PENSAMENTO CRÍTICO
O Brasil é um país que historicamente não incentiva o ato de estudar (nas classes mais baixas) uma vez que as pessoas estão preocupadas demais em sobreviver que sobra pouco tempo para se dedicar a algo que não seja o trabalho. Portanto não é incomum ver nas salas de aula, discentes provenientes de famílias pouco estruturadas tendo que conciliar a vida escolar com jornadas pesadas de trabalho, tornando exaustiva a rotina diária. Ao ter que optar entre a escola e o trabalho para se dedicar, o trabalho acaba vencendo dada as necessidades do indivíduo e da família.
Ainda dentro desse contexto podemos destacar alguns pontos como:
1. DEPENDÊNCIA COGNITIVA E PREGUIÇA INTELECTUAL
De uma maneira geral, o ser humano, tende a querer seguir a rota mais fácil para obter o resultado esperado. Diversos fatores tem contribuído para que os discentes busquem respostas instantâneas, mesmo que potencialmente incorretas, para questões fundamentais que eles deveriam aprender para usar na vida cotidiana ou na vida escolar.
Ao buscar meios mais fáceis de obter respostas, o aprendizado é comprometido e se torna cada vez mais ineficientes. Memória e aprendizado são complexos, demandam processos complexos e pré determinados para ocorrerem de maneira correta e ao buscar atalhos ocorre a quebra ou não realização desses processos resultando em não aprendizado ou não memorização do conteúdo estudado. O esforço de leitura, anotação e engajamento ativo com o conteúdo são componentes essenciais da formação cognitiva que a IA não substitui ao ser usada da forma que geralmente ocorre.
2. VULNERABILIDADE À DESINFORMAÇÃO
As alucinações podem propagar informações incorretas que parecem credíveis para leigos no assunto e contribuem para a desinformação em larga escala. Estudantes que ainda estão desenvolvendo capacidade de análise crítica e que estão em processo de aprender a pensar (crianças e adolescentes) são mais suscetíveis a esse fato, isso representa um risco significativo para toda a sociedade a médio e longo prazo.
O uso indiscriminado de algoritmos leva o estudante a percorrer sempre o mesmo caminho e pode restringir seu campo de busca e o nível de conhecimento, criando assim um efeito rebote, perda de possibilidade de conhecimento ao invés do aumento que era esperado ao ser implementadas as inteligências artificiais.
3. CRISE DE INTEGRIDADE ACADÊMICA
Uma experiência na Universidade Estadual do Arizona revelou que, dada a oportunidade, 43 mil de seus 68 mil estudantes utilizaram o ChatGPT durante o período de avaliações e isso gerou um desafio ao tentar garantir a integridade acadêmica.
E o problema vai além de burlar os sistemas de avaliações com as colas, chega ao ponto em que as respostas imediatas se tornam mais desejadas do que o aprendizado tradicional, considerado pela maioria como lento e ultrapassado, mas que funciona a séculos.
IMPACTOS NO APRENDIZADO: OPORTUNIDADES E ARMADILHAS
Apesar dos desafios, nem tudo é ruim quando se trata de inteligência artificial generativa, quando usada corretamente e com parcimônia, ela se torna uma ferramenta de ensino excepcional dada a capacidade de gerar e adaptar as informações para qualquer pessoa de acordo com suas necessidades. Com um número cada vez mais crescente de estudantes com diversas necessidades especiais inseridos em uma mesma sala com poucos ou nenhum profissional preparado para atendê-los, professores e até mesmo os discentes, quando bem instruídos, podem fazer uso da ferramenta.
Quando usadas corretamente, as inteligências artificiais serão indispensáveis para nivelar as oportunidades de conhecimento dentro das escolas. Nem todo mundo pode ter um tutor dedicado e presencial, mas com a IA generativa, qualquer pessoa pode ter esse tipo de experiência incorporada em um sistema de aprendizado digital. A partir do momento que o discente for corretamente estimulado a buscar ampliar seus conhecimentos, um agente de IA pode se tornar um professor particular muito eficiente.
Mas antes de chegar a essa utopia de uso consciente e correto das inteligências artificias precisa-se transpor os obstáculos estruturais que um país de dimensões continentais, como o Brasil, apresenta.
A implementação não é equitativa. Entre 2022 e 2024, a presença de ao menos um computador para uso dos alunos nas escolas rurais diminuiu, passando de 46% para 33% e geralmente é o público de áreas que rurais que tem menos acesso à internet e computadores em casa, sendo por muitas vezes a escola, o único lugar onde é possível se conectar. A desigualdade digital se aprofunda quando falamos de IA na educação.
Mais preocupante ainda: se em 2021, cerca de 65% dos professores diziam ter feito algum curso de formação sobre tecnologia digital, em 2024 esse número caiu para 54%. A queda foi ainda maior entre os professores da rede pública municipal, que passou de 62% em 2021 para apenas 43%. Desde a pandemia é possível observar o quão deficiente é o conhecimento tecnológico por parte dos professores da rede pública principalmente, muitos “fazem” os cursos apenas por fazer ou para cumprir demandas da escola, mas na prática são poucos os que dominam a tecnologia de maneira satisfatória, tornando-os incapazes de ensinar aos próprios discentes algo que nem mesmo os docentes dominam corretamente.
COMO REDUZIR ALUCINAÇÕES: ESTRATÉGIAS PRÁTICAS
É possível reduzir o impacto das alucinações de maneira drástica, podendo até mesmo zerar esse impacto, basta a cada um dos envolvidos ter ciência de como fazê-lo.
ESTUDANTES: A primeira — e talvez mais importante — ação é cruzar as informações geradas pela IA com fontes confiáveis. Essa deve ser a primeira linha de defesa contra a desinformação; usar comando precisos e diretos a fim de que a inteligência artificial não possa “devanear” sobre o assunto e aqui é crucial que os discentes sejam ensinados sobre como usar corretamente os prompts; solicitar fontes força a IA a buscar informações em locais mais confiáveis e evita de que ela invente informações só para responder sua dúvida; sempre duvidar, não é por que foi uma IA que afirmou tal coisa que aquilo se torna imediatamente correto, por mais que seja afirmado com extrema convicção sempre é possível que haja um pouco de desinformação, portanto um pouco de ceticismo, nesse caso, é saudável e recomendado.
EDUCADORES: Mais de 80% dos brasileiros acreditam que estudantes e professores devem aprender a usar a IA de forma consciente e responsável, e que a tecnologia pode apoiar diretamente o aprendizado, cabendo à escola ser o agente intermediador nesse relacionamento. Mais do que simplesmente aprender a usar os estudantes, educadores e a sociedade em geral, precisam entender como essa tecnologia funciona para tirar o melhor proveito possível no seu uso. A UNESCO recomenda que seja considerado o uso supervisionado para alunos mais jovens e que sejam desenvolvidas regulamentações para garantir que essas ferramentas não sejam utilizadas de forma inadequada, essa regulamentação pode restringir o uso e diminuir as alucinações tornando o uso mais eficaz na aprendizagem.
INSTITUIÇÕES: A rede de Nova York não apenas permite o uso de inteligência artificial na educação, como também é pioneira na criação de políticas para regulamentar uma implementação que faça sentido dentro do contexto dos 1 milhão de estudantes da região. Foi criado um "laboratório de políticas públicas", envolvendo estudantes, professores e familiares para garantir alinhamento entre tecnologia e objetivos pedagógicos. É possível adaptar o uso para cada região, estado, cidade, escola, turma, sala, aluno tornando o uso superpersonalizado. A criação de agentes individuais permitiria até mesmo o monitoramento do uso, rastreando comportamentos inadequados, práticas exitosas e o perfil de aprendizado e comportamental de cada aluno.
A SUPERVISÃO HUMANA É INSUBSTITUÍVEL
Com professores bem formados para a supervisão humana, em escolas que possuam redes com infraestrutura e suporte adequados, a IA pode apoiar diversos processos educacionais, desburocratizando tarefas repetitivas reduzindo o tempo gasto nas mesmas, sem retirar os vínculos, a mediação e atenção individualizada contribuindo até mesmo para o aumento do tempo destinado a essas tarefas que as vezes acabam sendo suprimidas em detrimento de demandas legais que podem ser terceirizadas.
A verificação dos resultados gerados pela IA em relação a fontes confiáveis ou ao conhecimento estabelecido permite aos revisores humanos detectarem erros, corrigir imprecisões e evitar consequências potencialmente prejudiciais. Ao realizar essas revisões o conhecimento dos indivíduos atingirá uma dimensão muito maior e a correção de um problema irá contribuir muito positivamente em outras questões.
EDUCAÇÃO MIDIÁTICA: O ANTÍDOTO NECESSÁRIO
A Unesco, em seu Marco Referencial de Competências em IA para Estudantes sistematiza a necessidade de incluir valores éticos, compreensão dos impactos sociais e capacidade de uso responsável no uso das inteligências artificiais. Já atingiu o patamar internacional e é consenso de que a aprendizagem em IA deve ultrapassar o domínio técnico.
Para diminuir consideravelmente os riscos das alucinações é necessário investir na educação, somente pessoas bem-informadas e com conhecimento verídico serão capazes de diferenciar o que é real daquilo que não é. Enquanto não houver um investimento pesado a fim de capacitar os usuários de todos os setores sobre a digitalização do conhecimento, a sociedade estará à mercê das falsas notícias e elas podem atingir níveis catastróficos com consequências que podem gerar prejuízos por anos.
É preciso blindar o que é verídico daquilo que não é, implementar maneiras de assegurar a veracidade e a integridade de informações sérias.
Cada dia mais se torna mais fácil gerar artigos, textos e até mesmo vídeos com absolutamente qualquer informação e que podem apresentar uma aparência deveras verdadeira e para um usuário comum, desacreditar de uma fonte que foi criada para ser confiável pode ser uma atitude antinatural.
É necessário políticas públicas focadas em educação midiática e informacional que desenvolvam a capacidade de lidar criticamente com produções digitais e fortaleçam a habilidade de avaliar a credibilidade das informações, que sejam distribuídas de maneira igualitária a todos os setores da sociedade e com imparcialidade total.
CONCLUSÃO
A IA, assim como qualquer ferramenta, exige sabedoria, conhecimento e consciência em seu uso para que não se torne vilã. O uso correto das inteligências artificiais promove um aprendizado mais amplo e personalizado para cada pessoa, não poderá substituir os docentes uma, somente destaca o quão importante é a intervenção humana no processo de aprendizado, é preciso aprender a aprender antes de se lançar às ferramentas de aprendizado passíveis de erros.
A sociedade vai enfrentar o desafio de continuar pensando criticamente e buscando manter as formas de aprendizado que funcionam em detrimento das respostas imediatas, a inteligência artificial precisa ser um meio de amplificar o conhecimento humano ao invés de torná-lo obsoleto. Caso contrário, enfrentaremos o risco de enfrentar um aumento na desigualdade e a criação de novas formas de exclusão entre quem sabe usar a IA a seu favor e aqueles que somente absorvem, sem pensamento crítico, tudo que lhes é apresentado.
O futuro da educação não será definido pela tecnologia que usamos, mas pela sabedoria com que a integramos ao processo de formação humana integral. E essa sabedoria começa com o reconhecimento de que, por mais sofisticada que seja a IA, ela não substitui o pensamento crítico, a curiosidade genuína e a capacidade humana de fazer as perguntas certas.
Referências
CENTRO DE ESTUDOS SOBRE TECNOLOGIAS DA INFORMAÇÃO E DA COMUNICAÇÃO. Pesquisa sobre o Uso das Tecnologias de Informação e Comunicação nas Escolas Brasileiras: TIC Educação 2024. São Paulo: Cetic.br/NIC.br, 2025. Disponível em: https://cetic.br/pt/pesquisa/educacao/indicadores/. Acesso em: 07 nov. 2025.
DATACAMP. Alucinações de IA: Um guia com exemplos. [S. l.], jan. 2025. Disponível em: https://www.datacamp.com/blog/ai-hallucinations-guide. Acesso em: 08 nov. 2025.
DIGITAL EDUCATION COUNCIL. Global AI Student Survey 2024. [S. l.]: Digital Education Council, 2024.
FUNDAÇÃO TELEFÔNICA VIVO. Tecnologia na Educação: Resultados 2024 das Escolas Brasileiras. São Paulo, 16 set. 2025. Disponível em: https://www.fundacaotelefonicavivo.org.br/notas-tecnicas/tecnologia-na-educacao-2024/. Acesso em: 07 nov. 2025.
GOOGLE CLOUD. O que são alucinações de IA?. Disponível em: https://cloud.google.com/discover/what-are-ai-hallucinations?hl=pt-BR . Acesso em: 09 nov. 2025.
IBM. What Are AI Hallucinations? IBM Think Topics, [S. l.], out. 2025. Disponível em: https://www.ibm.com/think/topics/ai-hallucinations. Acesso em: 10 nov. 2025.
IBM. Smarter Memory Could Help AI Stop Hallucinating. IBM Think, [S. l.], 28 maio 2025. Disponível em: https://www.ibm.com/think/news/llm-hallucination-human-cognition. Acesso em: 07 nov. 2025.
PROFUTURO. Preparando alunos e professores para um futuro com IA. [S. l.], 27 set. 2024. Disponível em: https://profuturo.education/pt-br/observatorio/competencias-xxi/preparando-alunos-e-professores-para-um-futuro-com-ia/. Acesso em: 08 nov. 2025.
TODOS PELA EDUCAÇÃO. Anuário Brasileiro da Educação Básica 2025: IA na Educação. São Paulo: Moderna, 2025.
UNESCO. AI Competency Framework for Students. Paris: UNESCO, 2024. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000394281. Acesso em: 08 nov. 2025.
UNESCO. AI Competency Framework for Teachers. Paris: UNESCO, 2024. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000390241. Acesso em: 10 nov. 2025.
