ESTATUS JURÍDICO DA IA E A REDISTRIBUIÇÃO DO JULGAMENTO VERSÃO TRILIÍNGÛE
Introdução
Nos últimos anos, testemunhamos uma transformação estrutural na relação entre direito e tecnologia. A Inteligência Artificial (IA) deixou de ser uma ferramenta de apoio para se tornar profundamente incorporada na forma como as decisões são efetivamente tomadas. Em muitos contextos, a IA não está mais apenas auxiliando o julgamento humano; ela está moldando ativamente esse julgamento.Essa mudança é particularmente crítica no contexto judicial, porque a função central do judiciário é precisamente o julgamento, a equidade e a avaliação de provas. Tradicionalmente, o julgamento tem sido interno ao tomador de decisão humano, baseado em experiência, raciocínio e interpretação. Hoje, esse processo tornou-se distribuído: parte do julgamento é influenciada pela forma como o sistema processa dados, preserva informações e enquadra as opções possíveis.A tese central deste artigo é simples, mas importante: a IA não substitui o julgamento humano, ela o redistribui. Portanto, a questão jurídica não é mais se a IA é precisa, mas sob quais condições ela pode ser usada de forma segura e apropriada dentro de um arcabouço que preserve a responsabilidade, a transparência e a independência judicial.
Justificativa
Este artigo se justifica por três realidades emergentes que os tribunais em todo o mundo estão enfrentando.Primeiro, a IA produz uma nova categoria de informação: informação que é crível na forma, mas incerta na substância. Sistemas generativos produzem resultados altamente fluentes, coerentes e persuasivos, mas fluência não é verdade. Um argumento jurídico com citações fabricadas ou uma imagem sintética indistinguível da realidade não pode ser tratado como prova tradicional, que exige fonte, rastreabilidade e cadeia de custódia.Segundo, existe um vácuo regulatório que está sendo rapidamente preenchido, mas de forma desigual. Sem uma governança clara, há o risco de responsabilidade diluída e injustiça processual, onde a assimetria no acesso a ferramentas de IA cria desigualdade de armas.Terceiro, na minha perspectiva como juiz, agora somos obrigados a avaliar não apenas os fatos, mas os sistemas que produzem esses fatos. As lições de projetos-piloto como o sistema de tradução SUVAS da Índia, onde traduções sem sentido arriscaram prazos perdidos e violações de Habeas Corpus, demonstram que um resultado de IA não verificado em um processo judicial não é um erro técnico, mas uma violação do devido processo legal nos termos do Artigo 29 da Constituição colombiana e garantias análogas em todo o mundo.
Desenvolvimento
1. O Status Jurídico Atual: Sem Personalidade Jurídica, mas com Regime Baseado em Risco. Nenhuma jurisdição concede personalidade jurídica à IA. A IA não pode ser titular de direitos ou sujeito de responsabilidade. A responsabilidade permanece humana. O que existe é uma regulação dos sistemas de IA baseada em risco. O Ato de Inteligência Artificial da União Europeia (2024) é o primeiro marco regulatório abrangente. Ele classifica a IA judicial - sistemas destinados a auxiliar na interpretação de fatos e da lei, avaliação de provas ou criação de perfis de indivíduos - como sistemas de alto risco. Isso desencadeia obrigações de supervisão humana obrigatória, governança de dados, auditabilidade e transparência.Nos Estados Unidos, não há uma lei federal de IA, mas a jurisprudência estabeleceu um dever de competência tecnológica: advogados foram sancionados por apresentarem petições contendo jurisprudência alucinada por IA, confirmando que o dever de verificação do advogado não pode ser delegado. Na Colômbia, a Sentença T-323/24 da Corte Constitucional é paradigmática. A Corte considerou que o uso de IA generativa para apoiar uma decisão judicial não é proibido por si só, mas está sujeito a cinco condições: a decisão deve ser fundamentada por um humano, o uso da IA deve ser divulgado, a informação deve ser verificada, a confidencialidade deve ser protegida e a IA não pode ser a única ratio decidendi.
2. O Marco da UNESCO: Responsabilidade, Auditabilidade e SalvaguardasAs Diretrizes da UNESCO para IA e Estado de Direito (2025) fornecem o marco doutrinário global adotado neste curso. Elas propõem três pilares:a) Responsabilidade (Accountability). Deve haver uma linha clara identificando quem introduziu, implementou e usou o sistema. Em processos mediados por IA, a responsabilidade é distribuída entre desenvolvedor, implementador e usuário. Sem regras claras, a responsabilidade se torna diluída.b) Auditabilidade. Ao contrário da prova tradicional, os resultados da IA generativa são probabilísticos. O modelo não pergunta "Isso é verdade?" mas sim "Qual é a continuação mais plausível?" Isso cria três camadas de risco: na camada de dados, viés histórico e invisibilidade; na camada do modelo, otimização para coerência em vez de correção; na camada de resultado, alta confiança com baixa confiabilidade.c) Salvaguardas Institucionais. Isso é operacionalizado nos modelos APOIA e SUVAS. A melhor prática identificada é o modelo de humano-no-circuito (human-in-the-loop) liderado por aviso legal: qualquer tradução ou resumo de IA deve ser marcado como PROVISÓRIO, com marca d'água, e com o idioma original permanecendo como oficial, até ser verificado por um especialista judicial. A UNESCO exige isso como uma salvaguarda inegociável.
3. O Impacto Distributivo e o Papel JudicialA IA não distribui o erro de forma uniforme; ela o distribui ao longo de estruturas sociais existentes. Crianças e minorias linguísticas são desproporcionalmente afetadas. Para crianças, os erros tornam-se cumulativos e afetam a educação e o futuro emprego sem capacidade de contestação. Para grupos sub-representados, o problema é tanto a deturpação quanto a não-representação.Portanto, como juiz, meu papel se expandiu. Agora devo avaliar:Credibilidade da prova: De onde vem o resultado? Como foi gerado? Responsabilidade: Qual padrão de cuidado se aplica ao confiar na IA? Equidade processual: O uso da IA cria assimetria entre as partes?
Conclusão:
O status jurídico da IA no mundo hoje não é o de uma pessoa jurídica, mas o de um sistema sociotécnico regulado. Mesmo um sistema altamente preciso pode produzir resultados injustos se aplicado de forma opaca, irresponsável ou desigual. Por outro lado, mesmo sistemas imperfeitos podem ser governados de forma justa se projetarmos as salvaguardas corretas. A tarefa do judiciário não é confiar ou desconfiar da IA, mas governá-la. Nossa responsabilidade é garantir que a redistribuição do julgamento que a IA traz fortaleça, em vez de enfraquecer, os fundamentos da justiça, que aumente a transparência em vez de obscurecê-la, e que reforce a responsabilidade em cada etapa. O julgamento humano permanece como o núcleo final e indelegável do Estado de Direito.
Bibliografia
ABNT / APA 7Corte Constitucional de Colombia. (2024). Sentencia T-323 de 2024. Uso de inteligencia artificial en decisiones judiciales.European Parliament and Council of the European Union. (2024). Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act).R v Jordan, 2016 SCC 27, 1 S.C.R. 631.[2016]UNESCO. (2025). Guidelines for the use of AI systems in courts and the rule of law: Accountability, auditability and human oversight.Supreme Court of India. (2023). SUVAS: Supreme Court Vidhik Anuvaad Software - Pilot evaluation report on AI-assisted legal translation. Credits to Muse Spark by Meta.
EL ESTATUS JURÍDICO DE LA INTELIGENCIA ARTIFICIAL EN EL MUNDO ACTUAL: GOBERNANDO LA REDISTRIBUCIÓN DEL JUICIO
Introducción
En los últimos años hemos presenciado una transformación estructural en la relación entre el derecho y la tecnología. La Inteligencia Artificial (IA) ha pasado de ser una herramienta de apoyo a estar profundamente incorporada en la forma en que se toman realmente las decisiones. En muchos contextos, la IA ya no solo está asistiendo al juicio humano, está moldeándolo activamente.Este cambio es particularmente crítico en el contexto judicial, porque la función central de la judicatura es precisamente el juicio, la equidad y la evaluación de la prueba. Tradicionalmente, el juicio ha sido interno al decisor humano, basado en la experiencia, el razonamiento y la interpretación. Hoy, ese proceso se ha vuelto distribuido: parte del juicio está influenciado por cómo el sistema procesa datos, preserva información y enmarca las opciones posibles.La tesis central de este artículo es simple pero importante: la IA no sustituye el juicio humano, lo redistribuye. Por lo tanto, la cuestión jurídica ya no es si la IA es precisa, sino bajo qué condiciones puede ser usada de forma segura y apropiada dentro de un marco que preserve la responsabilidad, la transparencia y la independencia judicial.
Justificación
Este artículo se justifica por tres realidades emergentes que enfrentan los tribunales en todo el mundo.
Primero, la IA produce una nueva categoría de información: información que es creíble en la forma pero incierta en la sustancia. Los sistemas generativos producen resultados altamente fluidos, coherentes y persuasivos, pero fluidez no es verdad. Un argumento jurídico con citas fabricadas o una imagen sintética indistinguible de la realidad no puede ser tratado como prueba tradicional, que exige fuente, trazabilidad y cadena de custodia.Segundo, existe un vacío regulatorio que se está llenando rápidamente, pero de manera desigual. Sin una gobernanza clara, existe el riesgo de una responsabilidad diluida e injusticia procesal, donde la asimetría en el acceso a herramientas de IA crea desigualdad de armas.Tercero, desde mi perspectiva como juez, ahora estamos obligados a evaluar no solo los hechos, sino los sistemas que producen esos hechos. Las lecciones de proyectos piloto como el sistema de traducción SUVAS de la India, donde traducciones sin sentido arriesgaron plazos perdidos y violaciones al Habeas Corpus, demuestran que un resultado de IA no verificado en un expediente judicial no es un error técnico, sino una violación al debido proceso en los términos del Artículo 29 de la Constitución colombiana y garantías análogas en todo el mundo.
Desarrollo
1. El Estatus Jurídico Actual: Sin Personalidad Jurídica, pero con Régimen Basado en RiesgoNinguna jurisdicción otorga personalidad jurídica a la IA. La IA no puede ser titular de derechos ni sujeto de responsabilidad. La responsabilidad sigue siendo humana. Lo que existe es una regulación de los sistemas de IA basada en el riesgo.El Reglamento de Inteligencia Artificial de la Unión Europea (2024) es el primer marco regulatorio integral. Clasifica a la IA judicial - sistemas destinados a ayudar a interpretar hechos y derecho, evaluar pruebas o elaborar perfiles de personas - como sistemas de alto riesgo. Esto desencadena obligaciones de supervisión humana obligatoria, gobernanza de datos, auditabilidad y transparencia.En Estados Unidos, no existe una ley federal de IA, pero la jurisprudencia ha establecido un deber de competencia tecnológica: abogados han sido sancionados por presentar escritos que contienen jurisprudencia alucinada por IA, confirmando que el deber de verificación del abogado no puede ser delegado. En Colombia, la Sentencia T-323/24 de la Corte Constitucional es paradigmática. La Corte sostuvo que el uso de IA generativa para apoyar una decisión judicial no está prohibido per se, pero está sujeto a cinco condiciones: la decisión debe ser motivada por un humano, el uso de IA debe ser divulgado, la información debe ser verificada, la confidencialidad debe ser protegida y la IA no puede ser la única ratio decidendi.
2. El Marco de la UNESCO: Responsabilidad, Auditabilidad y SalvaguardasLas Directrices de la UNESCO para la IA y el Estado de Derecho (2025) proporcionan el marco doctrinario global adoptado en este curso. Proponen tres pilares:a) Responsabilidad (Accountability). Debe haber una línea clara que identifique quién introdujo, implementó y usó el sistema. En procesos mediados por IA, la responsabilidad se distribuye entre desarrollador, implementador y usuario. Sin reglas claras, la responsabilidad se diluye.b) Auditabilidad. A diferencia de la prueba tradicional, los resultados de la IA generativa son probabilísticos. El modelo no pregunta "¿Es esto verdad?" sino "¿Cuál es la continuación más plausible?" Esto crea tres capas de riesgo: en la capa de datos, sesgo histórico e invisibilidad; en la capa del modelo, optimización para la coherencia en lugar de la corrección; en la capa de resultado, alta confianza con baja confiabilidad. c) Salvaguardas Institucionales. Esto se operacionaliza en los modelos APOIA y SUVAS. La mejor práctica identificada es el modelo de humano-en-el-circuito (human-in-the-loop) liderado por aviso: cualquier traducción o resumen de IA debe ser marcado como PROVISIONAL, con marca de agua, y con el idioma original permaneciendo como oficial, hasta ser verificado por un experto judicial. La UNESCO exige esto como una salvaguarda no negociable.
3. El Impacto Distributivo y el Rol Judicial. La IA no distribuye el error de manera uniforme; lo distribuye a lo largo de estructuras sociales existentes. Los niños y las minorías lingüísticas se ven desproporcionadamente afectados. Para los niños, los errores se vuelven acumulativos y afectan la educación y el empleo futuro sin capacidad de impugnación. Para los grupos subrepresentados, el problema es tanto la tergiversación como la no representación. Por lo tanto, como juez, mi rol se ha expandido. Ahora debo evaluar: Credibilidad de la prueba: ¿De dónde viene el resultado? ¿Cómo fue generado? Responsabilidad: ¿Qué estándar de cuidado se aplica al confiar en la IA?Equidad procesal: ¿El uso de la IA crea asimetría entre las partes?
Conclusión
El estatus jurídico de la IA en el mundo hoy no es el de una persona jurídica, sino el de un sistema sociotécnico regulado. Incluso un sistema altamente preciso puede producir resultados injustos si se aplica de forma opaca, irresponsable o desigual. Por el contrario, incluso sistemas imperfectos pueden ser gobernados de forma justa si diseñamos las salvaguardas correctas.La tarea del poder judicial no es confiar o desconfiar de la IA, sino gobernarla. Nuestra responsabilidad es garantizar que la redistribución del juicio que trae la IA fortalezca, en lugar de debilitar, los fundamentos de la justicia, que aumente la transparencia en lugar de oscurecerla, y que refuerce la responsabilidad en cada etapa. El juicio humano sigue siendo el núcleo final e indelegable del Estado de Derecho.
Bibliografía
APA 7 Corte Constitucional de Colombia. (2024). Sentencia T-323 de 2024. Uso de inteligencia artificial en decisiones judiciales. Parlamento Europeo y Consejo de la Unión Europea. (2024). Reglamento (UE) 2024/1689 por el que se establecen normas armonizadas en materia de inteligencia artificial.R v Jordan, 2016 SCC 27, 1 S.C.R. 631.UNESCO. (2025). Directrices para el uso de sistemas de IA en tribunales y el Estado de derecho: Responsabilidad, auditabilidad y supervisión humana.Supreme Court of India. (2023). SUVAS: Supreme Court Vidhik Anuvaad Software - Informe de evaluación piloto sobre traducción jurídica asistida por IA. Créditos a Muse Spark de Meta.
THE LEGAL STATUS OF ARTIFICIAL INTELLIGENCE IN THE CONTEMPORARY WORLD: GOVERNING THE REDISTRIBUTION OF JUDGMENT
Introduction:
Over the past few years, we have witnessed a structural transformation in the relationship between law and technology. Artificial Intelligence (AI) has moved from being a supporting tool to becoming deeply embedded in how decisions are actually made. In many contexts, AI is no longer just assisting human judgment; it is actively shaping it.This shift is particularly critical in the judicial context, because the core function of the judiciary is precisely about judgment, fairness, and the evaluation of evidence. Traditionally, judgment has been internal to the human decision-maker, based on experience, reasoning, and interpretation. Today, this process has become distributed: part of the judgment is influenced by how the system processes data, preserves information, and frames possible options.The central thesis of this article is simple but important: AI does not replace human judgment, it redistributes it. Therefore, the legal question is no longer whether AI is accurate, but under what conditions it can be safely and appropriately used within a framework that preserves accountability, transparency, and judicial independence.
Justification:
This article is justified by three emerging realities that courts worldwide are facing. First, AI produces a new category of information: information that is credible in form but uncertain in substance. Generative systems produce outputs that are highly fluent, coherent, and persuasive, but fluency is not truth. A legal argument with fabricated citations or a synthetic image indistinguishable from reality cannot be treated as traditional evidence, which requires source, traceability, and chain of custody.Second, there is a regulatory vacuum that is rapidly being filled, but unevenly. Without clear governance, there is a risk of diluted responsibility and procedural unfairness, where asymmetry in access to AI tools creates inequality of arms.Third, from my perspective as a judge, we are now required to evaluate not only facts but the systems that produce those facts. The lessons from pilot projects like India's SUVAS translation system, where nonsensical translations risked missed deadlines and Habeas Corpus violations, demonstrate that an unverified AI output in a judicial file is not a technical error, but a due process violation under Article 29 of the Colombian Constitution and analogous guarantees worldwide.
Development
1. The Current Legal Status: No Personhood, but a Risk-Based RegimeNo jurisdiction grants AI legal personality. AI cannot be a rights-holder or a liable subject. Liability remains human. What exists is a risk-based regulation of AI systems.The European Union Artificial Intelligence Act (2024) is the first comprehensive framework. It classifies judicial AI - systems intended to assist in interpreting facts and law, evaluating evidence, or profiling individuals - as high-risk systems. This triggers mandatory human oversight, data governance, auditability, and transparency obligations.In the United States, there is no federal AI statute, but judge-made law has established a duty of technological competence: attorneys have been sanctioned for submitting briefs containing AI-hallucinated case law, confirming that the lawyer's duty to verify cannot be delegated.In Colombia, Sentencia T-323/24 of the Corte Constitucional is paradigmatic. The Court held that the use of generative AI to support a judicial decision is not prohibited per se, but it is subject to five conditions: the decision must be reasoned by a human, the use of AI must be disclosed, the information must be verified, confidentiality must be protected, and the AI cannot be the sole ratio decidendi.
2. The UNESCO Framework: Accountability, Auditability, and SafeguardsThe UNESCO Guidelines for AI and the Rule of Law (2025) provide the global doctrinal framework adopted in this course. They propose three pillars:a) Accountability. There must be a clear line identifying who introduced, deployed, and used the system. In AI-mediated processes, responsibility is distributed among developer, deployer, and user. Without clear rules, responsibility becomes diluted.b) Auditability. Unlike traditional evidence, generative AI outputs are probabilistic. The model does not ask "Is this true?" but "What is the most plausible continuation?" This creates three layers of risk: at the data layer, historical bias and invisibility; at the model layer, optimization for coherence over correctness; at the output layer, high confidence with low reliability.c) Institutional Safeguards. This is operationalized in the APOIA and SUVAS models. The best practice identified is the disclaimer-led human-in-the-loop model: any AI translation or summary must be marked as PROVISIONAL, watermarked, and with the original language remaining authoritative, until verified by a judicial expert. UNESCO requires this as a non-negotiable safeguard.
3. The Distributional Impact and Judicial RoleAI does not distribute error evenly; it distributes it along existing social structures. Children and linguistic minorities are disproportionately affected. For children, errors become cumulative and affect education and future employment without capacity to contest. For under-represented groups, the problem is both misrepresentation and non-representation.Therefore, as a judge, my role has expanded. I must now evaluate:Evidence credibility: Where does the output come from? How was it generated?Responsibility: What standard of care applies when relying on AI?Procedural fairness: Does AI use create asymmetry between parties?
Conclusion:
The legal status of AI in the world today is not that of a legal person, but of a regulated socio-technical system. Even a highly accurate system can produce unjust outcomes if applied in opaque, unaccountable, or uneven ways. Conversely, even imperfect systems can be governed fairly if we design the right safeguards.The judiciary's task is not to trust or distrust AI, but to govern it. Our responsibility is to ensure that the redistribution of judgment that AI brings strengthens, rather than weakens, the foundations of justice, that it enhances transparency rather than obscures it, and that it reinforces accountability at every stage. Human judgment remains the final, non-delegable core of the rule of law
Bibliography
APA 7Corte Constitucional de Colombia. (2024). Sentencia T-323 de 2024. Uso de inteligencia artificial en decisiones judiciales.European Parliament and Council of the European Union. (2024). Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union.R v Jordan, 2016 SCC 27, 1 S.C.R. 631.[2016]UNESCO. (2025). Guidelines for the use of AI systems in courts and the rule of law: Accountability, auditability and human oversight. United Nations Educational, Scientific and Cultural Organization.Supreme Court of India. (2023). SUVAS: Supreme Court Vidhik Anuvaad Software - Pilot evaluation report on AI-assisted legal translation. Credits to Muse Spark powered by Meta.
