Será que dá pra confiar? Os perigos das IA Overviews na escrita acadêmica e no ENEM

O avanço das tecnologias de inteligência artificial (IA) tem transformado significativamente a maneira como as pessoas acessam e produzem informações. Entre essas inovações, destaca-se o AI Overviews, ferramenta desenvolvida pelo Google com o objetivo de gerar resumos automáticos a partir de conteúdos disponíveis na internet, esse recurso apresenta respostas rápidas e resumidas nos resultados de busca, o que tem atraído o interesse de estudantes e pesquisadores. Apesar de parecer uma solução prática, o uso da ferramenta em contextos educacionais apresenta riscos relevantes. Nas produções acadêmicas e nos estudos para a redação do Exame Nacional do Ensino Médio (ENEM), o uso indiscriminado dessas ferramentas pode comprometer a precisão, a originalidade e a confiabilidade do conhecimento produzido. Assim, compreender as limitações e os impactos desse tipo de tecnologia é essencial para garantir uma aprendizagem crítica e ética.

Um dos principais riscos ao utilizar IA Overviews é a imprecisão das respostas. Por se basearem em modelos de linguagem treinados com grandes volumes de dados, essas ferramentas podem inventar ou distorcer informações, fenômeno conhecido como alucinação de IA. Em produções acadêmicas, esse tipo de erro é especialmente grave, pois compromete a argumentação e a validade científica do texto, quando as informações não são verificadas, há o risco de se construir um trabalho com dados incorretos ou desatualizados, prejudicando a credibilidade do autor. Esses tipo de modelo, não informa de forma clara as fontes utilizadas na geração de seu resumo, o que impossibilita a verificação da veracidade das informações apresentadas. Na pesquisa científica, toda afirmação deve ser respaldada por uma fonte confiável, conforme as normas da Associação Brasileira de Normas Técnicas (ABNT), e a ausência de referências torna o conteúdo impróprio para citações diretas ou indiretas, além de dificultar o cumprimento dos padrões acadêmicos exigidos em trabalhos escolares, universitários ou científicos. O uso de textos produzidos apartir deste meio sem a devida menção da fonte configura plágio, independentemente de o conteúdo ter sido gerado automaticamente. Ao copiar trechos de uma informação dada por IA, o estudante corre o risco de apresentar um trabalho sem autoria identificável, infringindo os princípios de honestidade intelectual e originalidade, além de ser uma prática antiética, o plágio pode gerar sanções acadêmicas, como a anulação de trabalhos e penalidades em avaliações institucionais.

Ao depender exclusivamente de textos prontos gerados por IA, o estudante deixa de exercitar habilidades cognitivas fundamentais, como análise, síntese e argumentação. A pesquisa acadêmica e o estudo para o ENEM exigem interpretação, comparação de ideias e elaboração própria processos substituídos pela passividade diante de respostas automáticas. Consequentemente, o aprendizado torna-se superficial e mecânico, o que prejudica tanto o desenvolvimento intelectual quanto o desempenho em avaliações que valorizam a capacidade crítica e reflexiva. O uso de ferramentas de IA, como as AI Overviews, para preparação e escrita de redações do ENEM tem se tornado cada vez mais comum, pois esse modelo de sistema oferece resumos de temas e sugestões de argumentos, aparentando ser uma forma prática de estudo, no entanto, essa prática pode comprometer o desempenho do candidato pois as respostas geradas podem apresentar erros conceituais ou falta de profundidade, o que compromete a coerência e a consistência argumentativa que são competências essenciais avaliadas na redação. Além disso, como a ferramenta não informa suas fontes, o estudante pode reproduzir dados incorretos ou descontextualizados, sem perceber. Outro ponto de risco é a perda da autoria textual, pois a redação do ENEM avalia a capacidade de o candidato formular ideias próprias e defender um ponto de vista, algo que se perde quando há forte dependência de textos automatizados. O uso excessivo dessas ferramentas leva à padronização de ideias, reduzindo a pontuação nas competências de coerência, coesão e repertório sociocultural.

Portanto, embora os modelos IA possam servir como apoio inicial na pesquisa de temas, o ideal é que o estudante as utilize apenas como referência, desenvolvendo sua própria análise e escrita. A tecnologia pode auxiliar o aprendizado, mas o diferencial da redação continua sendo a autenticidade e o pensamento crítico do autor. As IA Overviews representam um importante avanço tecnológico na busca e síntese de informações, mas seu uso em produções acadêmicas e na preparação para a redação do ENEM requer cautela e senso crítico, pois a praticidade e a velocidade não devem sobrepor-se à necessidade de precisão, originalidade e ética intelectual. Estudantes e pesquisadores precisam compreender que a inteligência artificial deve ser utilizada como ferramenta de apoio, e não como um substituto do processo de aprendizagem, afinal o verdadeiro valor do conhecimento acadêmico e da produção textual está na capacidade humana de refletir, interpretar e criar, aspectos que nenhuma tecnologia, por mais avançada que seja, é capaz de reproduzir integralmente.