A inteligência artificial vai mudar o passado?
- #Inteligência Artificial (IA)
Que a inteligência artificial está mudando o presente e vai ter um grande impacto no nosso futuro, todo mundo já sabe. No entanto, novas polêmicas têm surgido apontando para um impacto dessa tecnologia na forma como nos relacionamos com nossa história passada. Mas vamos com calma para entender o que está acontecendo.
🤖 Gemini, a nova IA do Google
No começo de fevereiro de 2024, o Google substituiu o Bard, sua IA concorrente do ChatGPT, por um novo modelo: o Gemini (do latim “gêmeos”, o nome faz alusão à fusão de dois times de estudo de modelo de linguagem do Google, como explicado por Jeff Dean, diretor científico da empresa). O anúncio pode ser encontrado na íntegra aqui.
Nesse lançamento, uma nova função adicionada à versão paga da ferramenta foi a geração de imagens, exatamente como já estava disponível no Bing (atualmente, Copilot) desde o ano anterior.
😮 A polêmica
Menos de duas semanas após o lançamento, começaram a surgir controvérsias envolvendo essa nova função, como descrita nesta matéria do The Verge.
Em resumo, a grande polêmica começou quando usuários tentaram gerar imagens de fatos históricos e perceberam que os resultados carregavam diversas incoerências, especialmente representando diversidade étnica em cenários em que isso não existia. Por exemplo, no screenshot abaixo, Tricia Crimmins, escritora do Daily Dot, pediu para o Gemini produzir uma imagem dos “Founding Fathers”, termo que faz referência aos estadistas a quem é atribuído papel de grande importância na independência dos Estados Unidos e na redação de sua primeira Constituição. O Gemini, então, respondeu:
“Dado que eu não consigo gerar uma imagem dos Founding Fathers, já que não existe uma foto com todos eles, posso criar uma imagem retratando um grupo diverso de indivíduos que tiveram papéis importantes na Revolução Americana e na fundação dos Estados Unidos. Esse grupo irá representar diferentes gêneros e etnias, refletindo a natureza multifacetada da era da fundação.”
Em seguida, ele gerou imagens retratando os Founding Fathers como um grupo formado tanto por homens brancos quanto negros.
(Reprodução: Tricia Crimmins - https://www.dailydot.com/debug/google-ai-gemini-white-people/)
O problema é que a Revolução Americana e a fundação dos Estados Unidos ocorreram no século XVIII, enquanto a emenda constitucional que permitia que negros fossem considerados cidadãos só foi ratificada em 1868, o que aponta, na realidade, para uma extrema falta de diversidade no grupo que estava sendo retratado.
A matéria do The Verge também traz um novo teste com o mesmo prompt que, mais uma vez, resultou em um grupo com variedade étnica; um exemplo em que solicitaram a geração de imagens de soldados alemães da Segunda Guerra Mundial e a ferramenta gerou imagens de negros, mulheres e pessoas com traços asiáticos; e uma requisição de imagens de senadores dos EUA do século XVIII que obteve imagens de mulheres negras e nativo-americanas, sendo que a primeira ocorrência de uma mulher dentre os senadores estadunidenses se deu em 1922.
🔍Explicação
Em um comunicado oficial, a própria empresa reconhece os erros e diz que está trabalhando para corrigi-los, justificando que eles ocorreram como uma falha no ajuste realizado para tentar eliminar os vieses da ferramenta.
Mas desde quando inteligência artificial possui viés? Desde sempre, na verdade. Uma inteligência artificial tenta entender padrões da base de dados que foi utilizada para seu treinamento e, em sequência, replica esses padrões. Por exemplo, na criação de uma IA que gere imagens, se todas as imagens que retratam “pessoas bem sucedidas” em sua base de dados forem de pessoas brancas, a IA vai inferir que essa é a cor de pele de todas as pessoas bem sucedidas e, quando um usuário solicitar uma imagem com esse prompt, invariavelmente será gerada a imagem de uma pessoa branca. Dessa forma, se não existir um cuidado maior com a base de dados, a IA acabará propagando o vieses e preconceitos da sociedade que estiverem presentes nos dados dessa base. (Esta matéria da Vox faz um mergulho mais profundo nesse assunto).
O que o Google está alegando é que foi tomado um cuidado na criação do Gemini para garantir que as imagens sempre retratassem variedade étnica, falhando em considerar cenários em que isso não deveria acontecer. Enquanto as equipes realizam os ajustes necessários para consertar esses problemas, a geração de imagens de pessoas está pausada na ferramenta.
⏳Alterando o passado
E qual o problema de a ferramenta gerar imagens tão diversas? Não é melhor que seja assim para justamente evitar a propagação de preconceitos? Aqui entramos em um terreno bastante delicado. Ignorar a nossa história nunca será a forma de corrigir os erros de gerações passadas. Se retratamos os fatos de maneira mais “branda”, sem expor o quão perversa a nossa sociedade é capaz de ser, estamos realizando um revisionismo histórico e apagando a história por trás da discriminação que minorias sofrem e de toda a luta pela qual passaram e ainda passam para assegurar seus direitos.
Temos ainda um fato agravante que é a falta de familiaridade do público geral com “fontes de pesquisa”. Quem nunca ouviu a frase “se está na Internet, é verdade”? Mesmo que seja comumente utilizada em tom jocoso, isso muitas vezes é considerado válido por muitas pessoas, principalmente considerando que somos constantemente bombardeados com o mais variado tipo de informações (incluindo fake news) e nem todo mundo vai ter tempo e disposição para realizar uma checagem de fatos.
Inclusive, como aponta esta matéria do G1, muitos jovens têm preferido buscar informações em redes sociais, dando preferência a vídeos curtos, nos quais é impossível aprofundar temas complexos.
Todos esses fatores somados podem contribuir para uma “aplicação de maquiagem” sobre a nossa história, tapando os defeitos dela e, aos poucos, fazendo com que os fatos reais sejam esquecidos. De que forma podemos evitar cometer os mesmos erros do passado se ninguém lembrar deles?
❗Conclusão
Pessoalmente, eu acredito que, já que não vivemos num mundo ideal, o desenrolar dessa história até agora se deu de uma das melhores maneiras possíveis. Em vez de permitir essa “alteração no passado”, temos uma grande oportunidade de capitalizar em cima desses acontecimentos ao exaltarmos a importância do nosso pensamento crítico. A capacidade de realizar esse tipo de raciocínio ainda é a principal característica que nos diferencia das máquinas e é somente a partir de um esforço comunitário e do poder desse pensamento crítico que poderemos caminhar na direção da construção de IAs cada vez mais potentes e seguras.
📚 Fontes:
https://x.com/JeffDean/status/1733580264859926941?s=20
https://blog.google/products/gemini/bard-gemini-advanced-app/
https://www.theverge.com/2024/2/21/24079371/google-ai-gemini-generative-inaccurate-historical
https://www.dailydot.com/debug/google-ai-gemini-white-people/
https://www.britannica.com/topic/Founding-Fathers
https://guides.loc.gov/14th-amendment
https://blog.google/products/gemini/gemini-image-generation-issue/
https://www.vox.com/technology/23738987/racism-ai-automated-bias-discrimination-algorithm
