El factor humano y la transformación digital 4.0 del sistema de justicia penal: aceptación social e impacto profesional

Abstract

La transformación digital 4.0 del sistema de justicia penal, marcada por la digitalización y la incorporación de sistemas algorítmicos e inteligencia artificial, está modificando de forma profunda su funcionamiento. Este proceso, introduce herramientas capaces de analizar grandes volúmenes de datos y apoyar la toma de decisiones, lo que ha generado expectativas relacionadas con la eficiencia y la mejora en la gestión de la información. Sin embargo, también plantea interrogantes sobre la transparencia, la protección de derechos fundamentales y el riesgo de reproducir sesgos presentes en los datos históricos o en los propios modelos de aprendizaje automático. Tanto la ciudadanía como los profesionales perciben esta transición con una mezcla de interés y cautela, especialmente debido a la tensión entre la promesa de objetividad y la necesidad de preservar la supervisión efectiva. Estos elementos sitúan al factor humano como un componente esencial para comprender el alcance y la aceptación de la transformación tecnológica del sistema penal. Es por ello, que la presente tesis plantea dos objetivos principales: en primer lugar, analizar las percepciones y actitudes de ciudadanía y operadores jurídicos respecto al uso de sistemas algorítmicos e inteligencia artificial en el sistema de justicia penal, y en segundo lugar, examinar la presencia de sesgos en la justicia humana y algorítmica. Para alcanzar estos objetivos se han realizado diversos estudios: una revisión sistemática de la literatura científica, orientada a identificar y clasificar los sesgos presentes tanto en la toma de decisiones humanas como en los sistemas algorítmicos aplicados al ámbito penal; dos investigaciones cualitativas con profesionales de los entornos policial, judicial y penitenciario, que permitieron profundizar en sus percepciones y actitudes ante los procesos de digitalización y la posible automatización de determinadas funciones; y finalmente, se elaboraron tres estudios cuantitativos dirigidos tanto a la ciudadanía como a operadores jurídicos, con el propósito de examinar la aceptación social de estas herramientas y analizar las variables asociadas a dicha aceptación. Los resultados muestran que tanto ciudadanía como profesionales presentan una aceptación moderada y condicionada al nivel de automatización del uso de algoritmos en el sistema de justicia penal, especialmente la supervisión humana efectiva, la imparcialidad y la objetividad de las decisiones automatizadas y supervisadas. Asimismo, tanto la ciudadanía como los propios profesionales señalan la necesidad de una formación adecuada, ya que el nivel de capacitación y la familiaridad tecnológica influyen de manera significativa en la aceptación de estas herramientas. Por su parte, los profesionales destacan la importancia de mantener la autonomía y discrecionalidad, comprender el funcionamiento de los sistemas apostando por modelos de colaboración humano – maquina (HITL) frente modelos totalmente automatizados (HOTL). El presente trabajo muestra que ni operadores jurídicos ni ciudadanía conciben el futuro de la justicia como un proceso de automatización plena, sino como un modelo de colaboración en el que la tecnología amplía las capacidades humanas sin sustituirlas. La aceptación social depende, por ello, de factores como la imparcialidad percibida, la transparencia, la proporcionalidad y la existencia de un control humano significativo, lo que demuestra que la confianza en estos sistemas no se sustenta únicamente en su rendimiento técnico. Por último, dado que la presente tesis cuenta con mención industrial, se ha desarrollado una herramienta destinada a evaluar la aceptación social de estas tecnologías en las administraciones públicas, permitiendo apoyar la toma de decisiones institucionales sobre su implantación.

The emergence of “Justice 4.0,” shaped by digitalization and the adoption of algorithmic systems and artificial intelligence, is transforming the criminal justice system in profound ways. These technologies introduce new tools capable of processing vast amounts of data and supporting decision-making, raising expectations around efficiency and improved information management. At the same time, they prompt important questions about transparency, the protection of fundamental rights, and the risk of reproducing biases embedded in historical data or in machine-learning models themselves. Both the public and justice professionals view this transition with a mix of interest and caution, aware of the tension between the promise of greater objectivity and the need to maintain meaningful human oversight. This makes the human factor central to understanding how far this technological shift can—and should—go, as well as how it is perceived and accepted. Against this backdrop, the present dissertation sets out two core aims. The first is to examine how both the public and legal practitioners perceive and respond to the use of algorithmic and AI-driven tools within the criminal justice system. The second is to explore the presence of bias in human decision-making and in algorithmic systems. To address these aims, several studies were conducted: a systematic review of the scientific literature to identify and categorize the forms of bias present in human judgment and in algorithmic tools in criminal justice; two qualitative studies with professionals in policing, the judiciary, and the prison system, allowing for an in-depth exploration of their perceptions of digitalization and the potential automation of certain tasks; and three quantitative studies with members of the public and justice professionals to assess the social acceptance of these technologies and identify the factors shaping such acceptance. The results indicate that both the public and professionals show moderate support for the use of algorithms, largely dependent on the level of automation involved. Effective human oversight, perceived fairness, and the objectivity of decisions—whether automated or human-supervised—emerge as key conditions for acceptance. Both groups also highlight the need for adequate training, noting that technological competence and familiarity strongly influence willingness to adopt these tools. Professionals additionally stress the importance of preserving autonomy and discretion, understanding how algorithmic systems operate, and favoring human-in-the-loop models over fully automated ones. Overall, the findings suggest that neither justice professionals nor the general public envisage a future in which justice is fully automated. Instead, they support a collaborative model in which technology augments human capabilities rather than replaces them. Social acceptance thus depends on factors such as perceived impartiality, transparency, proportionality, and the presence of meaningful human control—showing that trust in these systems goes far beyond their technical performance. Finally, given the industrial component of this dissertation, a tool was developed to assess the social acceptance of algorithmic and AI-based technologies within public administrations, offering guidance for institutional decision-making regarding their implementation.