El avance de la IA en la actuación pública y la toma de decisiones transforma las relaciones de poder y supone un cambio de paradigma para el Estado, que orientan su intervención hacia la prevención y la anticipación de riesgos. Así, la administración de justicia ha incorporado herramientas para predecir conductas delictivas y evaluar riesgos de reincidencia. A la par, cierta evidencia apunta a la existencia de sesgos algorítmicos en sistemas de IA que se materializan (OECD, 2025) de distintos modos. Indicadores como el código postal en zonas conflictivas pueden perpetuar desigualdades estructurales y afectar derechos fundamentales.

Surge pues la pregunta: ¿en qué medida la IA judicial reproduce o amplifica sesgos discriminatorios en contextos de alta desigualdad? Para responderla, se analizará el caso State v. Loomis (EE. UU., 2016) que sugiere una cierta opacidad en la evaluación de la reincidencia. Los hallazgos muestran que la IA carece de neutralidad, y amplifica desigualdades. La investigación adopta enfoques cualitativos mediante análisis de casos y estudio comparado —artículos 61 Reglamento (UE) 2024/1689 y 5 del Convenio Marco del Consejo de Europa—. El trabajo propone aplicar, en todo el ciclo de vida de la IA, principios de transparencia, auditabilidad, explicabilidad y trazabilidad.