La utilización de la Inteligencia Artificial y de los algoritmos son tan frecuentes en el mundo actual, que sería difícil que un individuo pudiera pasar tan sólo unos días sin interactuar de alguna manera con uno: los estamos utilizando en los motores de búsqueda como Google; para traducir de un idioma a otro; para bloquear el correo electrónico no solicitado (spam); en los asistentes de voz; cuando usamos una aplicación móvil para encontrar la mejor manera de ir a nuestro próximo destino; en el puntaje crediticio de una persona, etc. Son de gran ayuda en casos como estos, pero cuando juegan un papel importante en la toma de decisión, por ejemplo en un proceso judicial, su utilización puede mostrar serias vulneraciones a los derechos fundamentales de la persona, incluso con una importante afectación a la libertad de un individuo, como veremos.

Como ha señalado el Consejo de Derechos Humanos de las Naciones Unidas, en numerosos países, los sistemas de asistencia y protección social se basan cada vez más en datos y tecnologías digitales que se utilizan para automatizar, predecir, identificar, vigilar, detectar, singularizar y castigar. Este proceso se conoce generalmente como transformación digital, pero no debería permitirse que este término, un tanto neutral, oculte el carácter revolucionario y la motivación política de muchas de esas innovaciones. Según algunos analistas, en el futuro los organismos públicos podrían formular leyes con robots  y está claro que están surgiendo nuevas formas de gobernanza que dependen de manera considerable del procesamiento de grandes cantidades de datos digitales de todas las fuentes disponibles, utilizan análisis predictivos para prever el riesgo, automatizan la adopción de decisiones y quitan a los responsables de estas su poder discrecional. La dependencia que tienen muchos Estados de las grandes empresas transnacionales tecnológicas, y el secretismo con el que utilizan este tipo de tecnología, ya introducida en el ámbito de algunas administraciones públicas de todo el mundo, empeoran la ecuación.

Puede evidenciarse una preocupación generalizada sobre su introducción en el ámbito judicial, no sólo por parte de muchos Ciudadanos, Prensa, Abogacía, sino también por parte del Poder Judicial, las Instituciones de la UE, la OCDE, y numerosas Universidades. Este paper se hace eco de algunos de los principales desarrollos de la IA en el ámbito de la Administración de Justicia en todo el mundo; se exponen algunos casos jurisprudenciales sobre esta temática; las principales políticas públicas, regulaciones, y también las implicaciones que su introducción en la actualidad puede tener en los derechos fundamentales de las personas.