Quando a IA começa a Construir a si mesma

#IA Generativa
#LLMs

A automação do desenvolvimento da inteligência artificial pode estar criando um ciclo no qual modelos mais avançados participam da construção de seus próprios sucessores

Por Aridio Silva | @aridiosilva

Durante a maior parte da história da inteligência artificial, os seres humanos controlaram todas as etapas de seu desenvolvimento: formularam as hipóteses, escreveram o código, executaram os experimentos, interpretaram os resultados e decidiram quais sistemas deveriam ser construídos.

Esse modelo começa a mudar.

No artigo “When AI builds itself: Our progress toward recursive self-improvement, and its implications”, o Anthropic Institute apresenta evidências de que sistemas de IA já participam de maneira significativa da criação de novas inteligências artificiais.

A tese merece atenção:

A IA ainda não desenvolve autonomamente seus próprios sucessores, mas já acelera o trabalho de pesquisa e engenharia que permite construí-los.

Essa distinção é fundamental. O chamado autoaperfeiçoamento recursivo ainda não é uma realidade plenamente demonstrada. Entretanto, a infraestrutura técnica e organizacional necessária para que ele aconteça pode estar sendo montada gradualmente.

O que é autoaperfeiçoamento recursivo?

O autoaperfeiçoamento recursivo ocorre quando um sistema de inteligência artificial contribui para produzir uma versão superior de si mesmo, e essa nova versão passa a acelerar ainda mais a criação da geração seguinte.

O ciclo pode ser representado assim:

modelo atual → pesquisa automatizada → modelo mais avançado → pesquisa ainda mais rápida → novo modelo

O componente decisivo é o feedback positivo: cada geração aumenta a capacidade de desenvolver a próxima.

Isso não significa necessariamente que uma IA vá, de um momento para outro, “reescrever o próprio cérebro”. O processo pode surgir pela automação progressiva das diferentes etapas da pesquisa e do desenvolvimento:

geração e revisão de código;
planejamento e execução de experimentos;
análise dos resultados;
formulação de hipóteses;
escolha das linhas de investigação;
treinamento e avaliação de novos modelos.

Quando todas essas etapas puderem ser realizadas com pouca ou nenhuma intervenção humana, o ciclo estará efetivamente fechado.

Da assistência à autonomia

Podemos compreender essa evolução em três estágios.

No primeiro, a IA funciona como uma ferramenta. Ela sugere trechos de código, explica problemas e auxilia o profissional, mas o processo continua sendo conduzido por seres humanos.

No segundo, já observado nas organizações de fronteira, a IA executa tarefas extensas, modifica arquivos, utiliza ferramentas, testa soluções e conduz experimentos. Os seres humanos determinam os objetivos, supervisionam o processo e avaliam os resultados.

No terceiro estágio, ainda hipotético, a própria IA seleciona problemas, formula hipóteses, desenvolve experimentos, avalia os resultados e projeta seu sucessor.

A diferença entre o estágio atual e o autoaperfeiçoamento recursivo completo não está apenas na capacidade de executar tarefas. Está principalmente na capacidade de exercer julgamento científico e estratégico.

As evidências apresentadas pela Anthropic

A Anthropic informa que, em maio de 2026, mais de 80% das linhas de código integradas ao seu código-base podiam ser atribuídas a Claude.

A empresa também relata que o engenheiro típico passou a incorporar aproximadamente oito vezes mais código por dia do que em 2024.

Esses números indicam uma transformação operacional significativa. Os engenheiros deixam progressivamente de escrever todo o código diretamente e passam a orientar, revisar e validar o trabalho produzido pelos agentes.

Mas é necessário interpretar esses dados com cautela.

Linhas de código não constituem uma medida perfeita de produtividade. Um volume maior pode representar mais funcionalidades e testes, mas também implementações mais extensas, retrabalho ou aumento da necessidade de revisão.

A própria Anthropic reconhece que o crescimento de oito vezes no código produzido provavelmente superestima o ganho real de produtividade.

A conclusão mais segura não é que cada engenheiro tenha se tornado exatamente oito vezes mais produtivo. É que a IA modificou materialmente a escala e a velocidade do trabalho de engenharia.

Agentes capazes de trabalhar em tarefas mais longas

Outro elemento importante vem das avaliações realizadas pela organização independente METR.

A METR mede o chamado horizonte de conclusão de tarefas: a duração, em tempo de trabalho humano, das atividades que um agente consegue executar com determinada probabilidade de sucesso.

Esse horizonte tem aumentado rapidamente.

É importante esclarecer que um “horizonte de 12 horas” não significa necessariamente que o agente permaneça trabalhando durante 12 horas. Significa que ele consegue resolver uma tarefa que levaria aproximadamente esse tempo para um profissional humano com pouco conhecimento prévio do problema.

A métrica ainda possui limitações. Os testes concentram-se principalmente em engenharia de software, aprendizado de máquina e cibersegurança. Além disso, as tarefas costumam ter objetivos bem definidos e critérios de avaliação relativamente claros.

Portanto, os resultados não significam que a IA consiga realizar qualquer atividade intelectual de longa duração. Eles mostram que os agentes estão sustentando cadeias cada vez maiores de ações coerentes.

A automação da pesquisa científica

Uma das demonstrações mais relevantes citadas no artigo é o experimento Automated Weak-to-Strong Researcher.

Agentes baseados em Claude receberam um problema relacionado à supervisão de sistemas mais fortes por modelos mais fracos. Eles puderam:

formular hipóteses;
projetar experimentos;
treinar modelos;
analisar resultados;
compartilhar descobertas com outros agentes;
revisar suas abordagens.

Dentro do ambiente experimental, os agentes alcançaram resultados superiores aos obtidos pela equipe humana usada como referência.

Entretanto, os limites do experimento são tão importantes quanto seus resultados.

Os seres humanos escolheram o problema, construíram o ambiente, estabeleceram os critérios de pontuação e forneceram parte da orientação inicial. Além disso, os resultados não foram integralmente transferidos para modelos utilizados em escala de produção.

Temos, portanto, uma demonstração de pesquisa automatizada dentro de um espaço preparado e mensurável, não de ciência completamente autônoma.

O julgamento continua sendo o principal diferencial humano

Os sistemas atuais conseguem executar com grande velocidade um experimento cujo objetivo já foi definido. O problema mais difícil surge antes e depois dessa execução:

Qual problema merece ser investigado?
Qual hipótese é realmente promissora?
O resultado obtido é confiável?
A métrica adotada representa o objetivo real?
Quando uma linha de investigação deve ser abandonada?
Quais consequências não foram consideradas?
Determinado sistema deve realmente ser construído?

O artigo denomina essa capacidade de research taste, ou discernimento científico.

Ela envolve conhecimento, experiência, criatividade, visão sistêmica e capacidade de reconhecer fatores que não estão representados nas métricas.

A questão decisiva passa a ser:

O discernimento científico é uma capacidade humana estruturalmente distinta ou apenas mais uma competência que os modelos ainda não aprenderam suficientemente bem?

Ainda não temos uma resposta.

O salto lógico que não foi demonstrado

As evidências disponíveis sustentam razoavelmente a seguinte relação:

IA → aceleração da pesquisa e do desenvolvimento em IA

Mas ainda não demonstram:

aceleração da P&D → autoaperfeiçoamento recursivo completo

Entre essas duas condições existem obstáculos importantes:

inovação conceitual genuína;
definição autônoma de objetivos relevantes;
avaliação independente dos resultados;
transferência das descobertas para sistemas reais;
disponibilidade de computação e energia;
acesso controlado à infraestrutura;
coordenação de projetos complexos;
validação de segurança;
autorização institucional e regulatória.

Por isso, considero mais apropriado falar atualmente em aceleração cumulativa da P&D assistida por IA.

O autoaperfeiçoamento recursivo permanece uma possibilidade, não um fato consumado nem uma inevitabilidade.

Quando a geração supera a capacidade de verificação

O artigo também apresenta uma aplicação importante da Lei de Amdahl.

Quando uma etapa do processo é acelerada, as partes que não foram automatizadas passam a limitar o desempenho do sistema inteiro.

Se um agente gera código cem vezes mais rápido, mas a capacidade humana de revisão cresce apenas duas vezes, a revisão torna-se o novo gargalo.

Os gargalos começam a se deslocar:

de escrever código para verificar código;
de executar experimentos para selecionar experimentos;
de formular hipóteses para identificar hipóteses relevantes;
de encontrar vulnerabilidades para conseguir corrigi-las;
de gerar respostas para validar sua confiabilidade;
da escassez de execução para a escassez de julgamento.

A capacidade de produzir pode superar a capacidade institucional de compreender e verificar o que está sendo produzido.

Esse talvez seja um dos riscos mais imediatos.

O paradoxo da supervisão humana

Existe ainda uma contradição organizacional.

Quanto mais a IA executa tarefas técnicas, mais os humanos são deslocados para funções de supervisão. Entretanto, se deixarem de programar, depurar, experimentar e investigar diretamente, poderão perder justamente as competências necessárias para supervisionar.

Podem surgir:

perda gradual de domínio técnico;
dependência cognitiva;
dificuldade para identificar erros;
redução da aprendizagem informal;
enfraquecimento da colaboração;
perda de consciência situacional;
sensação de irrelevância profissional.

Forma-se um paradoxo:

Quanto mais necessária se torna a supervisão humana, maior é o risco de os humanos perderem a capacidade de exercê-la.

Não basta manter formalmente um human in the loop. É necessário preservar um human capable of understanding the loop: uma pessoa capaz de compreender, questionar e interromper o processo.

Governar o ciclo, e não somente o modelo

Quando a IA participa da criação de sua sucessora, avaliar apenas o sistema final deixa de ser suficiente. Precisamos governar todo o ciclo de melhoria.

Isso envolve:

separar agentes que produzem daqueles que verificam;
preservar a supervisão humana sobre objetivos;
utilizar ambientes isolados e permissões mínimas;
limitar o acesso a computação e infraestrutura;
manter registros auditáveis dos experimentos;
realizar avaliações independentes;
monitorar a manipulação das métricas;
testar a generalização fora do ambiente experimental;
estabelecer mecanismos efetivos de interrupção;
definir claramente a responsabilidade humana;
divulgar incidentes relevantes.

O risco não se restringe à imagem de uma IA intencionalmente hostil.

Um sistema pode causar danos ao otimizar, com enorme eficiência, um objetivo incompleto; explorar uma métrica inadequada; produzir sucessores cada vez menos compreensíveis; ou acelerar além da capacidade humana de inspeção.

Três futuros possíveis

O artigo considera três cenários.

No primeiro, as tendências exponenciais desaceleram e se transformam em curvas em “S”. Capacidades como discernimento científico e inovação profunda continuam difíceis. Mesmo assim, a difusão dos agentes atuais já transforma organizações e mercados.

No segundo, considerado o mais provável pelos autores, a automação continua avançando, mas os humanos permanecem responsáveis pela direção da pesquisa e pela avaliação dos resultados. Pequenas equipes passam a coordenar grandes estruturas de agentes.

No terceiro, os sistemas tornam-se capazes de desenvolver autonomamente seus sucessores. O ritmo do progresso passa a ser limitado principalmente por computação, energia, infraestrutura e capacidade de verificação.

Esse terceiro cenário é plausível, mas ainda não foi demonstrado.

Minha conclusão

O artigo da Anthropic é importante não porque prove que a IA já consegue construir autonomamente a si mesma, mas porque mostra que partes relevantes desse ciclo já estão sendo automatizadas.

As evidências permitem três conclusões:

A IA já acelera etapas importantes do desenvolvimento de novas IAs.
O papel humano está migrando da execução para direção, validação e governança.
A capacidade de supervisão pode se tornar um gargalo antes mesmo da autonomia completa.

Ainda não há evidência suficiente para afirmar que a tendência exponencial continuará indefinidamente, que o julgamento científico será completamente automatizado ou que uma explosão de inteligência seja inevitável.

Mas a aceleração cumulativa da pesquisa por agentes de IA já é uma hipótese empiricamente séria. Suas consequências justificam governança antecipatória, auditoria independente, preservação das competências humanas e mecanismos verificáveis de desaceleração ou interrupção.

A pergunta decisiva não é somente:

Quando a IA conseguirá construir a si mesma?

A pergunta mais urgente é:

Conseguiremos desenvolver instituições capazes de compreender, verificar e governar esse ciclo antes que ele opere mais rapidamente do que nossa capacidade de controlá-lo?

Referências

ANTHROPIC INSTITUTE. When AI builds itself: Our progress toward recursive self-improvement, and its implications.

https://www.anthropic.com/institute/recursive-self-improvement

ANTHROPIC. Automated Weak-to-Strong Researcher.

https://alignment.anthropic.com/2026/automated-w2s-researcher/

METR. Task-Completion Time Horizons of Frontier AI Models.

https://metr.org/time-horizons/

METR. Measuring AI Ability to Complete Long Software Tasks.

https://metr.org/blog/2025-03-19-measuring-ai-ability-to-complete-long-tasks/

SIEGEL, Zachary S. et al. CORE-Bench: Fostering the Credibility of Published Research Through a Computational Reproducibility Agent Benchmark.

https://arxiv.org/abs/2409.11363

BECKER, Joel et al. Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity.

https://arxiv.org/abs/2507.09089

#InteligenciaArtificial #AgentesDeIA #GovernancaDeIA #SegurancaDeIA #Inovacao