La transición hacia una sociedad algorítmica transforma profundamente al Derecho y a la Administración de Justicia, concebidos originalmente para un contexto analógico. La creciente incorporación de sistemas de inteligencia artificial (IA), hoy omnipresentes, impacta de manera directa en derechos fundamentales, en la distribución del poder y en el funcionamiento de las instituciones judiciales. Si bien la IA puede mejorar la eficiencia, agilizar procedimientos y aportar herramientas predictivas —especialmente en materia penal, también introduce riesgos relevantes, como la opacidad algorítmica, los sesgos discriminatorios y la afectación de garantías procesales. La dificultad para comprender y supervisar sistemas basados en aprendizaje automático incrementa el riesgo de vulneraciones de derechos. Por ello, la integración de la IA en la Administración de Justicia exige un enfoque ético y jurisdicción basado en derechos humanos, que combine innovación con transparencia, supervisión humana y rendición de cuentas, tal como lo reflejan los marcos regulatorios internacionales que califican a ciertos sistemas de IA como de “alto riesgo”.
Objetivos
Analizar los beneficios, riesgos y consideraciones éticas del uso de los sistemas de (IA) en el sistema judicial. – Determinar si la transformación de la función jurisdiccional que está originando la IA pone en riesgo garantías esenciales para el Estado de Derecho como el derecho a tutela judicial efectiva, la presunción de inocencia y el derecho de defensa. – Establecer si la sustitución total de jueces por “jueces-robot” contraviene principios propios del poder judicial y
garantías constitucionales. – Examinar la tipificación de nuevos delitos frente al desarrollo invasivo de la IA generativa.
