El Derecho penal (de nuevo) ante los retos de la IA: aproximación a un modelo de criminalización de los deepfakes

Abstract

Una de las aplicaciones de la IA que más visibilidad está recabando es la de la generación de imágenes sintéticas hiperrealistas. Sin embargo, los usos problemáticos de esta nueva posibilidad no han tardado en hacerse notar. Más allá de la generación de imágenes, pero también sonidos o vídeos, con fines lícitos y generalmente orientados al entretenimiento han aparecido contenidos audiovisuales en que políticos relevantes llevan a cabo acciones o comentarios que nunca tuvieron lugar, o vídeos pornográficos ficticios creados a partir de la imagen, generalmente, de mujeres, entre otros fenómenos.

Ante este contexto no es de extrañar que hayan surgido voces que reclaman la intervención penal para evitar la proliferación de estos usos. Sin embargo, el carácter último y extraordinario del derecho penal exige de la doctrina, y en última instancia del legislador, la debida justificación de que el castigo de estas conductas es legítimo conforme a los límites y principios generalmente predicables del derecho penal de un estado social y democrático de derecho.

En el presente trabajo se muestran las principales líneas que debe contener un modelo de criminalización funcional y respetuoso, en el que se propone incluir no solo los principios clásicos del derecho penal de influencia alemana, sino también los principios de daño y de ofensa debatidos en el ámbito anglosajón. esta perspectiva, si bien precisa un mayor desarrollo teórico, nos permite concluir que es recomendable proceder con gran cautela ante este fenómeno y evitar en la medida de lo posible el castigo de estas conductas con penas privativas de libertad.