INTELIGENCIA ARTIFICIAL Y MEDIDAS CAUTELARES EN EL PROCESO PENAL: TUTELA JUDICIAL EFECTIVA Y AUTODETERMINACIÓN INFORMATIVA EN POTENCIAL RIESGO

1. Origen, concepto y dimensiones[Subir]

El derecho a la protección de datos de carácter personal o derecho a la autodeterminación informativa conforma un derecho de nueva configuración, cuyo reconocimiento se inició con la doctrina y jurisprudencia germana y se consolidó a partir de la sentencia del Tribunal Constitucional alemán, de 15 de diciembre de 1983, al entender que su protección dimanaba del contenido de los arts. 1.1 y 2.1 de la carta fundamental alemana, de forma que solamente podría ser restringido o limitado por «graves motivos de interés público» (‍Garriga Domínguez, 2009: 31-‍33).

Surgió la duda de si este derecho era una dimensión más del derecho a la intimidad o si, por el contrario, tenía contenido y finalidad diferentes e independientes. Nuestro Tribunal Constitucional se pronunció abogando por su concepción como un nuevo derecho fundamental de carácter autónomo y, justamente, considerando sus particularidades, acuñó un término específico para referirse a este, ese anteriormente mencionado y que hoy no nos resulta ya tan ajeno, derecho a la autodeterminación informativa (‍De Miguel Sánchez, 2004: 27-‍36)^[5]. La autonomía de este derecho se confirma, además, a la vista del art. 8 de la Carta de los Derechos Fundamentales de la Unión Europea, que adquirió fuerza vinculante con la firma del Tratado de Lisboa el 13 de diciembre de 2007. A la luz de este precepto, toda persona tiene derecho a la protección de los datos de carácter personal que la conciernan. Los datos personales deben ser tratados de modo leal, para fines concretos y sobre la base del consentimiento de la persona afectada o en virtud de otro fundamento legítimo previsto por la ley. Y obviamente la propia persona sujeto de ese derecho, como una manifestación de este, debe poder tener acceso a los datos recogidos y almacenados que la conciernan y a su rectificación, gozando como garantía añadida de una autoridad independiente que controle el respeto de estas normas.

El legislador europeo ha venido persiguiendo el objetivo de garantizar que el tratamiento de los datos de carácter personal en el ámbito de la Unión no devenga genérico, difuso, abstracto o masivo, sino concreto y vinculado a un fin claro, determinado y lícito. En este contexto, la obtención y tratamiento de los datos solamente se concibe bajo dos hipótesis: o el consentimiento de la persona titular de la información o, en defecto de este, la pertinente habilitación legal contemplada a tal efecto (‍Azaustre Ruiz, 2015: 809)^[6]. Ello implica que, si se efectúa una cesión inapropiada de los datos personales (al margen de las hipótesis mencionadas), puede resultar nula (especialmente si se realiza con la pretensión de que los datos personales obtenidos sean utilizados en el ámbito de un proceso penal), y ello, con independencia de que se haya menoscabado (o no) el derecho a la intimidad de la persona titular de los datos (op. cit.).

Lo anterior nos conduce a afirmar que el derecho a la autodeterminación informativa no se ciñe a la facultad de negar información de carácter personal, privado o íntimo, sino a la faceta de poder controlarla. Por ello, se estima que nos hallamos ante un derecho de clara vertiente activa, por cuanto persigue que la persona pueda gozar del dominio de sus propios datos (‍Caruso Fontán, 2012: 137-‍141). Según apunta, entre otros autores, Caruso Fontán (ibid.: 139), haciéndose eco de Jareño Leal, se da un paso más allá de lo que sería el significado y alcance del derecho a la intimidad, pues «ya no se tratará de la libertad de exclusión que faculta al individuo a negar información relativa a las propias experiencias personales, sino de la facultad activa de dominio de la información referida a dichas experiencias o datos personales».

En efecto, el derecho fundamental a la protección de datos tiene una trascendental relevancia en el marco del proceso penal que se observa «desde el mismo momento en que la fase de investigación constituye una continuada intromisión en el ámbito de tutela que propicia toda la normativa de protección de datos personales, y tal Derecho Fundamental debería quedar incorporado también entre las garantías del debido proceso» (‍Ortiz Pradillo, 2022: 110).

La normativa aplicable en materia de protección de datos en el ámbito de la Unión Europea se encuentra conformada por dos instrumentos fundamentales. Por un lado, la norma esencial de aplicación en materia de protección de datos de carácter personal, que entró en vigor el 24 de mayo de 2016 y no resultó directamente aplicable hasta el 25 de mayo de 2018, esto es, el Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE (Reglamento General de Protección de Datos, RGPD), y, por otro lado, la Directiva (UE) 2016/680 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativa a la protección de las personas físicas en lo que respecta al tratamiento de datos personales por parte de las autoridades competentes para fines de prevención, investigación, detección o enjuiciamiento de infracciones penales o de ejecución de sanciones penales, y a la libre circulación de dichos datos y por la que se deroga la Decisión Marco 2008/977/JAI del Consejo.

Este último instrumento resulta de aplicación específica al tratamiento de datos de carácter personal realizado a efectos de la prevención, investigación, detección o enjuiciamiento de infracciones penales o de la ejecución de sanciones penales, incluida la protección frente a las amenazas contra la seguridad pública y la libre circulación de estos datos y su prevención, pero, a diferencia del Reglamento (directamente aplicable), necesita ser transpuesta por las legislaciones de los distintos Estados miembros. En España se llevó a cabo su transposición, con notable demora, a través de la Ley Orgánica 7/2021, de 26 de mayo, de protección de datos personales tratados para fines de prevención, detección, investigación y enjuiciamiento de infracciones penales y de ejecución de sanciones penales. De hecho, como consecuencia de esta coyuntura, en el ordenamiento jurídico español, cuando las autoridades policiales y judiciales que se ocupaban de una investigación delictiva, persiguiendo un interés o fin legítimo, precisaban recurrir a la obtención de datos personales que se hallaban en poder de terceros:

En definitiva, nos encontramos ante un nuevo panorama, en el que el actor principal ya no es la regulación nacional, como acontecía mientras estuvo vigente la Directiva 95/46/CE, y ello, al margen de que a nivel interno los diferentes Estados miembros puedan aprobar sus propias normas de protección de datos al objeto de incluir algunas precisiones o aspectos de desarrollo en materias en las que el RGPD así lo permita.

Si descendemos ahora al marco constitucional, dentro del ordenamiento jurídico español, podemos ver que el derecho a la autodeterminación informativa se consagra en el art. 18 de nuestra carta magna, al establecer su apartado 4 que «la ley limitará el uso de la informática para garantizar el honor y la intimidad personal y familiar de los ciudadanos y el pleno ejercicio de sus derechos» (‍Garriga Domínguez, 2009: 33-‍43). Este derecho se desarrolla en la ya mencionada Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales^[7], y cuenta con dos vertientes o elementos. De un lado, engloba el elemento negativo, relativo al cumplimiento de los principios de calidad de los datos y restantes exigencias aplicables a la obtención, tratamiento y uso de los datos personales para asegurar su veracidad, así como la pertinencia, congruencia y racionalidad de su uso (‍Álvarez González, 2011: 56). Y, de otro lado, comprende el elemento positivo, que se materializa en un conglomerado de facultades, denominadas habeas data, que podrían definirse como «un conjunto de derechos que el ciudadano puede ejercitar frente a quienes sean titulares —públicos o privados— de ficheros de datos personales, con la finalidad de conocer la existencia o no de tales ficheros, su contenido, uso y destino» (‍Álvarez González, 2011: 56)^[8].

En resumidas cuentas, las referidas facultades permiten a un sujeto averiguar «quién, qué, cuándo y con qué motivo puede conocer datos que le conciernen» (‍Pérez Luño, 1993: 407; ‍Álvarez González, 2011: 56)^[9]. Así las cosas, toda persona tiene derecho a que se solicite su consentimiento, que deberá ser facilitado de forma libre e informada, para proceder a la recogida, tratamiento y/o cesión de sus datos personales (‍Sánchez Bravo, 1998: 369). Igualmente se reconoce el derecho de información, de forma que la persona afectada por la inscripción de sus datos debe ser informada (de forma clara y comprensible) sobre la existencia de los ficheros en los que estos se encuentran y con qué finalidad (‍Álvarez González, 2011: 57-‍60; ‍Garriga Domínguez, 2011: 29-‍33).

Asimismo, toda persona goza de los denominados derechos ARCO:

Amén de lo anterior, se reconoce el célebre y polémico «derecho al olvido», que procura la protección de la persona a fin de que pueda recuperar sus datos cuando haya transcurrido un largo período de tiempo o cuando haya desaparecido la finalidad legítima para la cual se recabaron, evitando que sigan utilizándose o siendo públicos (‍Álvarez González, 2011: 57; ‍Garriga Domínguez, 2000: 306)^[11].

En relación con este particular derecho cabe reseñar, si bien de forma tangencial, el célebre caso de Mario Costeja. En 1998, La Vanguardia publicó dos anuncios sobre una subasta de inmuebles ligada a un embargo por deudas con la Seguridad Social. Ulteriormente, en la edición online del periódico se publicó otro anuncio en el que figuraba el nombre de Mario Costeja como propietario de dichos inmuebles. En 2009, a través del buscador de Google, si se introducía «Mario Costeja», aparecía la referencia a los anuncios, aun cuando lo relativo al embargo ya se había solventado tiempo atrás. Mario Costeja contactó con la editorial del periódico para procurar el borrado de sus datos personales, pero esta se negó y conminó al afectado a contactar con Google. Tras la negativa de Google a eliminar dichos datos, el afectado interesó amparo a la Agencia Española de Protección de Datos, que conminó a Google Spain SL y a Google Inc para que retirasen los datos de Mario Costeja de su índice de búsquedas, impidiendo el acceso futuro de terceros a dicha información. Empero, Google interpuso un recurso ante la Audiencia Nacional, solicitando la nulidad de la resolución de la AEP y este Tribunal remitió un conjunto de cuestiones prejudiciales al TJUE, que fueron resueltas en su sentencia (de la Gran Sala) de 13 de mayo de 2014, que condenó al buscador a eliminar datos que vulneren la ley de privacidad^[12]. Esta fue la primera vez en que el TJUE reconoció el derecho a que se elimine de la red una información personal antigua que perjudica a un individuo (y cuya publicación ya no resulta lícita ni legítima), posibilitando, así, que otros ciudadanos pudiesen reclamar, tanto a Google como a otros buscadores de internet, la eliminación de links o enlaces que redirijan a páginas web donde aparezca información personal (de forma indebida)^[13].

Pero, más allá del derecho al olvido, hemos de aludir también, como broche de oro, al denominado derecho fundamental a la protección del entorno virtual del individuo, reconocido por una corriente jurisprudencial que se ha ido abriendo paso ante las novedades de la era digital. Este derecho se vincula con la necesidad de tutelar «toda esa información digital que diariamente creamos, modificamos, almacenamos o almacenan otros respecto de nuestra vida (datos personales, económicos, sanitarios, ideológicos, de conexiones, comunicaciones, localizaciones, etc.)» (‍Ortiz Pradillo, 2022: 111).

Tal y como explica el Tribunal Supremo, dentro de ese denominado «derecho al propio entorno virtual» convergen aquellos otros derechos ligados al empleo de las nuevas tecnologías, y todos ellos deberán considerarse cuando haya que valorar la adopción de medidas que impliquen un sacrificio sobre estos (‍Ortiz Pradillo, 2022: 111), como sería, verbigracia, el acceso al contenido de las redes sociales de un sujeto (como Facebook, Twitter, TikTok o Instagram…) en el marco de una investigación delictiva^[14].

En cualquier caso, llegados a este punto, debemos matizar que el asunto sobre Mario Costeja se ha comentado aquí de forma incidental por su proyección (al menos indirecta) en el uso de los sistemas de IA en el ámbito judicial, si bien somos conscientes de que los buscadores de internet recaban y someten a tratamiento datos personales bajo la premisa jurídica del denominado «interés legítimo», mientras que los sistemas de IA, cuyo empleo se propone para el marco del proceso penal, deben tener su sustento de tratamiento en una ley que regule el ejercicio de una función pública, como es la investigación y persecución delictiva, el ejercicio del ius puniendi o la impartición de justicia. Ahora bien, el hecho de que pudiéramos encontrarnos aquí ante funciones, valores o bienes jurídicos de mayor calado^[15] no implica que pueda tolerarse el uso indiscriminado en cualquier caso y forma de herramientas de inteligencia artificial en el sistema judicial, pues, antes al contrario, toda restricción de derechos (en la esfera procesal penal) debe sujetarse estrictamente a los principios de legalidad y proporcionalidad. De lo contrario, las actuaciones judiciales realizadas no podrán reputarse lícitas. Así, cuando se recopile información objeto de tratamiento por los sistemas de IA en un proceso penal (y en particular para adoptar medidas de prisión provisional), deberá garantizarse que esta no se haya extraído ni cruzado mediante procesos de búsqueda indebidamente habilitados o configurados.

2. Derecho a la autodeterminación informativa vs IA en el marco del proceso penal [Subir]

Como punto de partida en este epígrafe y teniendo en cuenta los límites previstos para el presente trabajo, que no nos permiten ahondar en la prolijidad que el examen exhaustivo del derecho a la autodeterminación informativa requeriría, a los meros efectos que nos ocupan, conviene resaltar la interrelación existente entre proceso y tecnología/informática/IA, dado que son los sistemas informáticos y ahora propios de la denominada IA los que posibilitan la recopilación, análisis, gestión, acceso y transmisión automatizada, ágil y rápida de datos a través del uso de algoritmos para su ulterior aplicación y utilización en las distintas fases y trámites procesales (desde las medidas cautelares hasta inclusive la fase de ejecución de la pena).

Tal coyuntura incrementa exponencialmente los riesgos de generar injerencias no solo en la esfera íntima de las personas titulares de la información manejada, sino también, como examinaremos, en su derecho a la defensa y a la tutela judicial efectiva (‍Álvarez González, 2007: 139-‍140; ‍Etxeberría Guridi, 2000: 198-‍200). Y, en este contexto, hemos de recordar dos premisas incuestionables a las que toda actuación jurídico-procesal ligada al uso de mecanismos o sistemas propios de IA debe supeditarse: el principio de legalidad (que solamente puede cumplirse, de forma adecuada, mediante la existencia de una previsión expresa libre de subterfugios y analogías) y el principio de proporcionalidad, entendido en sentido amplio (con los subprincipios de idoneidad, necesidad y proporcionalidad en sentido estricto).

En este orden de cosas, y colateralmente, hemos de llevar a cabo una precisión en lo tocante al principio de proporcionalidad, de consagración constitucional, a la vista de los principios, derechos y libertades que sientan las bases del Estado social y democrático de derecho y del tenor de los arts. 1.1, 9.3, 10 y 25 de la CE (‍Aguado Correa, 1999: 96; ‍González-Cuéllar Serrano, 1990: 51-‍53). Forma parte de los denominados «límites de los límites» a los derechos fundamentales, dado que «opera como uno de los criterios empleados para controlar la actividad de los poderes públicos que incide en la órbita de tales derechos» (‍Lopera Mesa, 2006: 45). Además, este principio, en el ámbito del ordenamiento jurídico español, y más en particular en el marco del proceso penal, se encuentra expresamente contemplado desde la inclusión de la regulación de las medidas de investigación tecnológica en los arts. 588 a bis y siguientes de la LECrim, a través de la reforma parcial implementada sobre dicho texto legal en el año 2015^[16].

El primer integrante de la proporcionalidad es el llamado subprincipio de idoneidad, que se relaciona con el «principio de finalidad» y consiste en «hacer realidad la adecuación del medio al fin, adecuación objetiva, cualitativa, derivada de la propia naturaleza de la medida y que atiende a la finalidad concreta que se trata de conseguir, y cuantitativa, que atenderá a la intensidad y repercusión, que sobre los derechos fundamentales afectados tiene la medida, de manera que la medida concretamente apetecida, resulta apta para satisfacer la finalidad a la que sirve» (‍Iglesias Canle, 2003: 98).

Ahora bien, la idoneidad o adecuación (de forma aislada) no es suficiente si no se une a la necesidad o subsidiariedad, lo que supone que no puede existir ninguna otra medida menos lesiva o de menor entidad para lograr el mismo fin perseguido, pues, de lo contario, habrá que decantarse por la aplicación de la medida que suponga una injerencia inferior en los derechos y libertades del sujeto al cual se aplica (‍Bernal Pulido, 2007: 740).

Empero, idoneidad y necesidad conforman una simbiosis con un tercer elemento, esto es, la proporcionalidad en sentido estricto, la cual «supone constatar si la medida “es ponderada o equilibrada, por derivarse de ella más beneficios que ventajas para el interés general que perjuicios sobre otros bienes o valores en conflicto”; esto es, que la medida “aun siendo idónea y necesaria, el sacrificio que se imponga de tales derechos no resulte desmedido en comparación con la gravedad de los hechos y de las sospechas existentes” (f.j. 4.ºE)» (‍Etxeberría Guridi, 2000: 82). Además de lo anterior, el principio de proporcionalidad exige que una medida que limite derechos fundamentales se aplique solamente cuando recaigan indicios racionales y suficientes de criminalidad sobre una persona en concreto y exista gravedad delictiva en los hechos que se investigan (‍Iglesias Canle, 2003: 84-‍92; ‍Álvarez Buján, 2018: 195-‍206).

En el marco de la adopción de la medida cautelar de prisión provisional, la exigencia de cumplir con los referidos requisitos que integran el principio de proporcionalidad se recoge en el tenor del art. 502 de la LECrim, el cual, en su apartado 2, viene a disponer que tal medida solamente se adoptará cuando sea objetivamente necesaria y siempre que no existan otras medidas menos gravosas para el derecho a la libertad a través de las cuales puedan alcanzarse los mismos fines que con la prisión provisional.

Asimismo, en su apartado 3, exige que el órgano judicial tome en cuenta la repercusión que la medida pueda tener en la persona investigada o encausada, antes de adoptarla, considerando sus circunstancias y las del hecho objeto de las actuaciones, así como la entidad de la pena que pudiera ser impuesta. Finalmente, en su apartado 4, dicho precepto prohíbe la adopción de la medida de prisión provisional cuando de las investigaciones practicadas se infiera racionalmente que los hechos no son constitutivos de delito o que fueron cometidos bajo la concurrencia de una causa de justificación.

Allende, hemos de dirigir nuestra mirada a los tan célebres denominados «algoritmos», cuyo uso va in crescendo en los sistemas judiciales de los distintos países, especialmente en el orden jurisdiccional civil y penal. Se están desarrollando mecanismos de IA que sirvan para apoyar e, inclusive, en determinados casos, reemplazar, las decisiones de los órganos jurisdiccionales. Y por ello no hemos de perder de vista la necesidad de que esos mecanismos de IA sean lícitos y, a tal efecto, han de atender y respetar las exigencias del principio de proporcionalidad en los términos ut supra indicados.

Pero, además, con la recopilación masiva de datos y su análisis automatizado se realizan pruebas para tratar de identificar los patrones de decisión de los órganos jurisdiccionales (‍Castellanos Claramunt y Montero Caro, 2020: 75). Y aquí es, justamente, donde se pone de manifiesto la virtualidad entre la conexión del derecho a la autodeterminación informativa y el derecho a la tutela judicial efectiva. Por ello, no resulta en modo alguno baladí tratar concretamente, en el presente trabajo, ciertos pormenores del derecho a la autodeterminación informativa, puesto que, como justamente se asevera en el considerando 26 de la Directiva 2016/680 del Parlamento Europeo y del Consejo, de 27 de abril^[17], a la luz de lo propugnado en el art. 47 de la Carta de Derechos Fundamentales de la Unión Europea y en el art. 6 del Convenio Europeo para la Protección de los Derechos Humanos y de las Libertades Fundamentales, «el principio de tratamiento leal en materia de protección de datos es un concepto distinto del derecho a un “juicio imparcial”». Y dicho considerando reseña acto seguido la relevancia de informar debidamente «a las personas físicas de los riesgos, reglas, salvaguardias y derechos aplicables en relación con el tratamiento de sus datos personales, así como del modo de hacer valer sus derechos en relación con dicho tratamiento».

Y más importante se revela aquí todavía el art. 11 de la mencionada Directiva (UE) 2016/680, cuyo tenor se ha trasladado a la dicción del art. 14 de la LO 7/2021, de 26 de mayo, de protección de datos personales tratados para fines de prevención, detección, investigación y enjuiciamiento de infracciones penales y de ejecución de sanciones penales. En concreto, este precepto prohíbe las decisiones basadas únicamente en un tratamiento automatizado, incluida la elaboración de perfiles, que produzcan efectos jurídicos negativos para el interesado o que le afecten significativamente, salvo que se autorice expresamente por una norma con rango de ley o por el derecho de la Unión Europea. A tal fin, exige que la norma habilitante del tratamiento establezca las medidas adecuadas para salvaguardar los derechos y libertades del interesado, incluido el derecho a obtener la intervención humana en el proceso de revisión de la decisión adoptada (‍De Hoyos Sancho, 2022a)^[18]. Además, impone que tales decisiones no se basen en las categorías especiales de datos personales contempladas en el art. 10 de la misma directiva, salvo que se hayan tomado las medidas adecuadas para salvaguardar los derechos y libertades y los intereses legítimos del interesado^[19]. Esos datos son aquellos que revelen el origen étnico o racial, las opiniones políticas, las convicciones religiosas o filosóficas o la afiliación sindical, así como el tratamiento de datos genéticos, datos biométricos dirigidos a identificar de manera unívoca a una persona física, datos relativos a la salud o a la vida o las orientaciones sexuales de una persona física^[20]. Es decir, son precisamente esos datos que no pueden utilizarse como patrón de selección o juicio discriminatorio en la programación de los sistemas de IA.

En definitiva, aun cuando nos situemos ante dos elementos o derechos disímiles e independientes uno del otro, parece obvio que un inadecuado, incorrecto o ilícito, desviado o abusivo tratamiento o transferencia de datos de carácter personal, que infrinja las reglas de la proporcionalidad, repercutirá directa y negativamente en las garantías del debido proceso, derivando, como consecuencia, la vulneración del derecho de defensa, el derecho a la presunción de inocencia y, por extensión, el derecho a la tutela judicial efectiva (‍Álvarez Buján, 2018: 190). De esta idea se desprende la necesidad de utilizar con cautela y las debidas garantías los métodos de IA en el ámbito judicial, lo que, entre otros extremos, implica que se ha de asegurar que la obtención de la información y datos sometidos a tratamiento por los sistemas de IA haya sido lícita y proporcionada^[21], verificando su veracidad y autenticidad y evitando que su manejo o interpretación por medio de algoritmos incurran en sesgos que puedan redundar en discriminaciones y resoluciones injustas o arbitrarias (cuestión a la que aludiremos más adelante).

1. El efecto de las predicciones derivadas de la inteligencia artificial sobre la virtualidad del derecho a la tutela judicial efectiva y el derecho a no declarar contra sí mismo[Subir]

El paradigma de los derechos en el ámbito procesal es, sin duda, el denominado derecho a la tutela judicial efectiva, entendido en conjunto con todas sus manifestaciones, que se halla consagrado en el art. 24 de la CE. En síntesis, como bien apunta Vidal Fueyo (‍2021: 22-‍23), «se trata de un precepto que, con carácter general, refleja la prohibición de autotutela de los derechos e intereses propios que caracteriza el sistema de separación de poderes del Estado de Derecho, en el que un poder distinto al legislativo y al ejecutivo ostenta la facultad de impartir justicia aplicando las leyes». Se reconoce así el derecho de toda la ciudadanía a obtener la tutela efectiva de los jueces y tribunales en el ejercicio de sus derechos e intereses legítimos, sin que, en ningún caso, pueda producirse indefensión^[22]. Y esta garantía constitucional engloba diversos derechos fundamentales de configuración legal:

Como comparativa, cabe recordar aquí que, a lo largo de los años, en nuestro ordenamiento jurídico, ya hemos tratado de afrontar y solventar, incluso desde la faceta legislativa, los problemas que en la praxis suponía el uso de determinadas pruebas científicas (léase los análisis de ADN o de sustancias químicas y estupefacientes) y medidas o recursos de investigación tecnológica (como la interceptación de las comunicaciones telefónicas y telemáticas, la captación y grabación de comunicaciones orales mediante la utilización de dispositivos electrónicos, la utilización de dispositivos técnicos de seguimiento, localización y captación de la imagen, el registro de dispositivos de almacenamiento masivo de información y los registros remotos sobre equipos informáticos). Así, tuvo singular importancia la aprobación de la reforma parcial operada a través de la LO 13/2015, de 5 de octubre, de modificación de la Ley de Enjuiciamiento Criminal para el fortalecimiento de las garantías procesales y la regulación de las medidas de investigación tecnológica^[23]. Y una línea similar mantiene también el texto del Anteproyecto de LECrim de 2020, en actual tramitación y a la espera de que se dilucide si definitivamente será este texto el que implemente la reforma integral que viene demandando desde hace décadas nuestro sistema procesal penal (decimonónico), o si, al igual que sucedió con el Anteproyecto para un nuevo proceso penal de 2011 y el Borrador de Código Procesal Penal de 2012, se convertirá en un mero intento más de reforma, frustrado por problemas de índole política.

Ahora bien, el art. 24 de la CE debe ser puesto en sintonía con el art. 17 del mismo texto, el cual exige, como garantías ineludibles, que toda persona detenida sea informada con inmediatez y de forma comprensible tanto de sus derechos como de las razones de su detención, no pudiendo ser en ningún caso obligada a declarar. Además, para conseguir que el principio de presunción de inocencia se destruya es imprescindible que exista una mínima prueba de cargo, que siempre deberá ser recabada con arreglo a la ley, las garantías constitucionales y procesales. De lo contrario, dicha prueba devendrá nula ex art. 11.1 de la LOPJ al estimarse que se habrá obtenido mediante la vulneración de derechos y libertades fundamentales, y, por tanto, carecerá de valor y eficacia probatoria. (‍Álvarez de Neyra Kappler, 2008: 132-‍133).

Ambos preceptos constitucionales (arts. 17 y 24) sientan las bases de un complejo sistema de garantías a favor de la persona investigada, que en un Estado democrático de derecho tiene como objetivo principal el de proporcionar al justiciable una tutela judicial efectiva, asegurar en todo momento del proceso la presunción de inocencia y el derecho de defensa de forma eficaz, amén de conseguir que, en caso de que, finalmente, la persona en cuestión resulte condenada, lo sea a través de un juicio justo.

Cabe aquí que nos preguntemos hasta qué punto podría afectar el uso de la IA en relación con el derecho a no declarar, delimitado en los últimos tiempos de forma severa o restrictiva, particularmente desde que el TEDH, en su emblemática sentencia sobre el caso John Murray contra el Reino Unido, de 8 febrero de 1996, consideró que no se infringía el art. 6 del CEDH si el tribunal nacional realizaba una inferencia probatoria contraria al silencio, es decir, si se derivaban consecuencias «negativas» del ejercicio del derecho a guardar silencio. Obviamente, esas consecuencias perjudiciales para la persona acusada no pueden aplicarse de forma generalizada, sino que es necesario que las pruebas de cargo requieran una explicación que el acusado debería/podría ser capaz de dar y, pese a ello, no la facilita, lo que permite que el órgano jurisdiccional nacional pueda concluir, por sentido común, que no existe tal explicación posible y que, por ende, el acusado es culpable^[24].

A nuestro juicio, esta tesis sostenida por el TEDH no hace sino diluir las reglas de la carga de la prueba en el proceso penal, tratando de asegurar (cuando la acusación no es capaz de recabar otro material de prueba) el ejercicio del ius puniendi. En efecto, si unimos esta línea argumental con lo acontecido en el caso Wisconsin contra Loomis, podemos encontrarnos ante un eventual peligro de que si los métodos de IA no son empleados bajo el estricto cumplimiento de los principios de legalidad y proporcionalidad, arriba mencionados, podría producirse una vulneración del derecho a no declarar, especialmente cuando se utilice (por los mecanismos de IA) una información que no haya sido facilitada, ni aclarada ni acreditada o desacreditada por la persona acusada.

En efecto, concurre:

Aquí, precisamente (aun cuando el autor citado se centra en el estudio de los ADR), es donde, entre otros ámbitos, podría tener cabida algún tipo de sistema basado en la IA, sobre todo en el marco del proceso civil. Pensemos, por ejemplo, en la resolución de un proceso monitorio, en el que, si no se formula oposición por la parte demandada, se procede a la ejecución y al embargo. Podríamos decir que la clase de resoluciones que se dictan en estos supuestos son «tipo» y que, en su consecuencia, podrían emitirse de forma ágil y rápida mediante el uso de algoritmos.

Pero, además, la IA se proyecta en el ámbito del proceso penal y, en particular, en lo que se viene denominando «justicia predictiva», especialmente a la hora de dilucidar si procede aplicar una determinada medida cautelar y, con más particularidad, la medida cautelar personal más restrictiva de derechos, es decir, la prisión provisional.

No podemos perder de vista que las medidas cautelares son un instrumento controvertido por distintas razones. La prisión provisional es la medida cautelar más grave y su adopción genera una situación excepcional (en el sentido negativo del término) para las personas internas (en virtud de tal medida) en instituciones penitenciarias, puesto que no pueden disfrutar de permisos ordinarios de salida ni acceder a programas de reinserción y tampoco tienen prioridad ni acceso a destinos, programas educativos, talleres y otras actividades ocupacionales. Y esta situación tiene repercusión en la esfera psicosocial porque, entre otros factores, se origina una suerte de discriminación entre los condenados y los internos en virtud de una medida cautelar de prisión provisional^[25].

Ciertamente, en las decisiones sobre adopción de medidas cautelares, como la prisión provisional,

El problema que se plantea y por el cual se halla de plena actualidad el estudio para la implementación de sistemas de IA en el marco de las decisiones judiciales, particularmente en lo tocante a la adopción de medidas cautelares, no es otro que el hecho de que, a fin de cuentas, los órganos judiciales se encuentran encarnados por personas que realizan sus procesos deductivos y construyen sus pensamientos y argumentaciones alrededor de ideologías, experiencias, emociones, sesgos y prejuicios, y ello, aun cuando deban ejercer las funciones jurisdiccionales bajo el paraguas de los principios de imparcialidad e independencia. Y por tal motivo, precisamente, una de las claves del tema que nos concierne reside en «determinar si tales formas de tomar decisiones pueden ser replicadas, y en su caso mejoradas, con sistema de IA que, manejando datos en mayor cantidad y de mejor calidad que los retenidos por la memoria humana, puedan servir de complemento eficaz a las decisiones judiciales, al nutrir la valoración judicial sobre los presupuestos de adopción de las medidas cautelares» (‍Neira Pena, 2021: 1905).

Ahora bien, hemos de preguntarnos cómo se programan y diseñan esos sistemas de IA. «Si los sistemas algorítmicos de toma de decisiones se basan en decisiones humanas previas, es probable que los mismos sesgos que potencialmente socaven la toma de decisiones humanas se repliquen y multipliquen en los sistemas algorítmicos de toma de decisiones» (‍Castellanos Claramunt y Montero Caro, 2020: 75). Sin duda, la realidad que nos asiste es que

2. El rol de las predicciones a la hora de decidir sobre la prisión provisional[Subir]

Muchos autores ponen sobre la mesa las ventajas que podría plantear el uso de sistemas de IA, adecuadamente diseñados, en tanto que suponen un método automatizado de evaluación de riesgos que se basa en evidencias y datos objetivos. Y los sugieren como mecanismos para tratar de superar justamente las deficiencias del modelo actual de adopción de medidas cautelares, originadas por los sesgos y prejuicios de los juzgadores que, además, sobrepasados en muchas ocasiones por la carga del trabajo de los juzgados y tribunales, realizan a la postre su trabajo de forma autómata, tomando (improcedentemente) por analogía las mismas decisiones que en casos similares, sin atender a las particularidades del sujeto en cuestión.

En efecto, los jueces tienden a basarse en sus procesos de pensamiento, en buena medida, en variables (consideradas muchas veces de forma desproporcionada) como la nacionalidad de la persona investigada o encausada y/o la dinámica delictiva observada. A estas variables se les otorga en ocasiones una preponderancia injustificada, simplemente porque concurrían en casos resueltos con anterioridad (y que encima pudieran ser representativos o icónicos), sin ponderar apropiadamente otras variables diferentes del caso en concreto que se enjuicia (‍Neira Pena, 2021: 1904).

Y aquí hemos de tomar también en consideración que, tal y como resalta Neira Pena (ibid.: 1902) haciéndose eco de Simón Castellano (‍2021: 120), «la influencia del contexto más cercano al juzgador, junto con variables emocionales, condicionadas por aspectos como la apariencia o el lenguaje empleado por el encausado, tienen todavía más peso cuando se trata de decisiones que han de adoptarse de forma rápida y con una actividad probatoria nula o muy limitada, como ocurre con las medidas cautelares».

Con certeza, contamos ya con diferentes sistemas de predicción de riesgo (risk assessment instruments, Public Safety Assessment, PSA) que se utilizan, tras la condena, en más de veinte jurisdicciones de Estados Unidos desde hace años (‍Castellanos Claramunt y Montero Caro, 2020: 73). En este contexto debe recordarse que en Estados Unidos ya se han introducido de forma obligatoria distintos softwares para predecir la probabilidad de reincidencia de delincuentes y han sido cuestionados, teniendo en cuenta, sin ir más lejos, lo sucedido con el caso Wisconsin contra Loomis, en el que se empleó el programa informático Compas (‍Castellanos Claramunt y Montero Caro, 2020: 77-‍78; ‍De Hoyos Sancho, 2021: 3-‍4)^[26].

Llegados a este extremo, y en el marco de las medidas cautelares, no podemos obviar la necesaria mención a sus dos presupuestos esenciales: el fumus boni iuris y el periculum in mora. El primero se corresponde con la célebre «apariencia de buen derecho», que se manifiesta en la imputación y consta de un elemento objetivo y otro subjetivo, que se deben inferir de las actuaciones a fin de poder decretar la prisión provisional (‍Moreno y Cortés, 2011: 285). En primer lugar, el elemento objetivo implica que consten en la causa uno o varios hechos que revistan caracteres de delito y que dichos delitos tengan atribuida una pena privativa de libertad de cierta gravedad^[27]. En segundo lugar, el elemento subjetivo del fumus supone que en la causa concurran motivos suficientes para poder considerar penalmente responsable del delito a la persona investigada o encausada sobre la que se va a dictar el auto de prisión provisional (ibid.: 285-287).

En suma, el fumus boni iuris consiste en «un juicio de imputación reforzado, esto es, un juicio provisional sobre la atribución de responsabilidad al encausado por un determinado hecho. Se trata, por lo tanto, de reconstruir el pasado, valorando jurídicamente los hechos investigados, y no de predecir el futuro ni de asignar probabilidades a hechos inciertos» (‍Neira Pena, 2021: 1908).

Por su parte, el requisito del periculum in mora permite establecer los fines que ha de cumplir la prisión provisional, los cuales deben adecuarse a los postulados constitucionales. En síntesis, y según reiterada doctrina constitucional a la que alude Moreno Catena (‍2011: 288)^[28], lo que se pretende con la adopción de esta medida es lo siguiente:

Habida cuenta del significado y aplicación de ambos presupuestos, fumus boni iuris y periculum in mora, podemos colegir que la aplicación de la IA en lo que respecta al primero de dichos presupuestos se presenta no solo más limitada, sino también controvertida, y ello, por cuanto no resulta ni fácil ni factible sustituir al órgano judicial a la hora de valorar jurídicamente los hechos objeto de investigación, valoración que, además, no puede ser predictiva ni prospectiva y debe hacerse tomando como parámetro la preservación de la libertad de la persona investigada (ya que el carácter restrictivo de la medida implica que esta debe adoptarse con carácter subsidiario y no generalizado), el principio in dubio pro reo y el principio de presunción de inocencia.

Ahora bien, la IA sí podría (y puede) servirnos como herramienta para valorar ese riesgo de fuga, de destrucción de pruebas o reiteración delictiva. Así, Neira Pena (‍2021: 1913) explica:

Y, en consonancia con tal idea, teniendo en cuenta que el arraigo familiar, social y económico son extremos que se evalúan a la hora de constatar si existe riesgo de fuga, debe valorarse no solo el hecho de que la persona investigada tenga hijos, padres u otros familiares, sino el tipo de relación que mantenga con ellos (si hay convivencia, si se mantiene el contacto y comunicación, si se cumplen los deberes como progenitor…). Del mismo modo, habrá que valorar el entorno en el que se relaciona la persona investigada (actividades que realiza, qué amistades tiene y frecuenta…). Y para evaluar el arraigo económico tampoco basta con comprobar si la persona tiene trabajo, sino que habrá que examinar el tipo de trabajo, el tipo de contrato, el salario que se percibe, la antigüedad e incluso las relaciones con el entorno laboral y las (im)posibilidades de reincorporarse a ese puesto o a uno similar tras cumplir la pena (‍Neira Pena, 2021: 1913).

Y se nos antoja entonces una cuestión: ¿cómo extraemos toda esa información que tiene carácter personal, privado o íntimo? Entre las posibles fórmulas, destaca la de Simón Castellano (‍2021: 151), quien se decanta por un modelo en donde el sistema de IA se nutra de todos los datos que el encausado facilite voluntariamente (datos de navegación, correo electrónico, etc.). Pero ¿cómo garantizamos aquí la fiabilidad y autenticidad de los datos?, y ¿cómo la garantizamos de cualquier otro modo, es decir, aun cuando los datos se averiguasen a través de instrumentos policiales o del Punto Neutro Judicial? Aquí precisamente es donde entra en juego el derecho a la autodeterminación informativa, que camina de la mano, en este orden de cosas (y como ya hemos indicado anteriormente), del derecho a la tutela judicial efectiva.

Al hilo de esta problemática, como advierte Neira Pena (‍2021: 1923) haciéndose eco de Signorato, hay autores que incluso sugieren que nos encontramos frente a un derecho de nuevo cuño, dirigido a garantizar que las decisiones judiciales no se funden exclusivamente en el uso de datos de tratamiento automatizado.

Podríamos pensar que con el uso de la IA evitaríamos los sesgos en los que incurren los órganos judiciales, en tanto en cuanto se hallan encarnados por personas que también tienen prejuicios, ideas, emociones…, y así podríamos concluir (no sin errar) que, por medio de este avance tecnológico, seríamos capaces de obtener decisiones judiciales más objetivas y con un criterio más razonado, coherente o imparcial. Pero ello no haría sino introducir un nuevo sesgo en la interpretación de los resultados de los sistemas de IA, que, como señalan Castellanos Claramunt y Montero Caro (‍2020: 74), «consiste en aceptar, de forma acrítica, los resultados de una IA como ciertos e inamovibles, asumiendo un “principio de autoridad” derivado de las expectativas creadas por dichos sistemas».

Uno de los problemas sustanciales con los que nos encontramos es que los sistemas de IA pueden incluir sesgos y riesgos discriminatorios por razón de etnia, situación económica, zona de origen o residencia… Y la fuente de la que se obtengan los datos para evaluar o interpretar no impide que se materialicen esos sesgos o riesgos porque: ¿qué tipo de algoritmos o de proceso automatizado emplean los sistemas de IA para interpretar los datos? En el sistema de interpretación es donde se pueden incluir igualmente esos sesgos.

Empero, ¿por qué se ha planteado la posibilidad de aplicar los sistemas de IA en el marco de la adopción de medidas cautelares y peculiarmente de la prisión provisional? La respuesta es clara. Porque el modelo actual tampoco es suficientemente efectivo ni garantista. Ya hemos explicado los prejuicios y sesgos en los que, por su condición humana, incurren los jueces. Pero, a mayores, como señala Simón Castellano (‍2021: 121 y ss.), resulta que tanto la solicitud de Fiscalía como la decisión del órgano judicial se llevan a cabo en una especie de vacío fáctico, en el que se debe anticipar el juicio a un momento en el que aún no se posee mucha información ni se han practicado diligencias de investigación de suma importancia, y en el que no resulta posible siquiera, por la fase procesal en la que se adopta la medida cautelar, disponer de prueba en sentido estricto.

Y a lo anterior debe sumarse el propio vicio que presenta el diseño de la adopción de medidas cautelares en el sistema judicial, por cuanto se valora un riesgo de reiteración delictiva en relación con una persona que no ha sido todavía condenada por la comisión del delito investigado (pudiendo, por tanto, resultar declarada inocente)^[29]. En esta línea, según precisa Neira Pena (‍2021: 1914), «el mismo concepto de “reiteración delictiva” parte de asumir como cierto que se ha cometido un delito, cuando en realidad, en el contexto de la adopción de la prisión provisional, o de otras medidas cautelares penales, el encausado debe de ser considerado inocente». Por eso resulta indispensable que, si se utilizan sistemas de IA en el contexto de adopción de medidas cautelares, fumus delicti comissi y periculum in mora se valoren de forma independiente y sucesiva. No cabe valorar el riesgo de reiteración delictiva antes de verificar la consistencia del denominado «juicio de imputación» que ha de tener carácter reforzado.

Y para valorar el riesgo de destrucción de pruebas, debe atenderse a lo establecido en el art. 503 de la LECrim, y, así, es necesario tener en cuenta las particularidades del caso en concreto (tipo de delito, existencia o no de estructura organizativa o de personas que guarden relación con la encausada y puedan disponer o alterar las fuentes de prueba, clase de pruebas, momento de comisión de los hechos, comportamiento de la personas investigada en la investigación, etc.), y ponerlas en relación con datos o situaciones de casos análogos que permitan detectar un nivel de riesgo. Pero, además, deben valorarse también la actitud, aptitud y capacidad del sujeto para destruir, manipular o alterar fuentes de prueba. En este contexto, precisamente no se puede caer en el error (pues el riesgo existe) de generar una inercia en el juzgador que le haga tender a confiar «a ciegas» en los resultados que arroje el sistema de IA, decantándose por justificarlos «automáticamente» y acomodar para ello sus propios razonamientos al resultado algorítmico, y no viceversa. No hemos de olvidar que las funciones jurisdiccionales, entre las que se incluye la de valoración (de indicios y elementos probatorios), suponen también una garantía del proceso justo, y lo todavía peor aquí sería que esa inercia llegase a influir en el órgano judicial a la hora de modificar o predeterminar el juicio de imputación (‍Završnik, 2019: 13; ‍Neira Pena, 2021: 1908-‍1909).

Así pues, no podemos obviar que en el marco del proceso penal debe atenderse inexcusablemente al principio de presunción de inocencia, al derecho de defensa y, en caso de duda, al principio in dubio pro reo. Tales elementos deben ser puestos en relación con las funciones jurisdiccionales, que en ningún modo pueden ser sustituidas por métodos de IA, sin perjuicio de que dichos métodos (adecuadamente diseñados y utilizados) puedan convertirse en un mecanismo de auxilio (judicial) de interés práctico.

Consiguientemente, es necesario ser precavido a la hora de evaluar lo que los sistemas de IA pueden ofrecer y en qué condiciones se pueden utilizar, sabiendo cómo han sido diseñados y qué premisas utilizan, a fin de evitar poner en peligro el derecho a la tutela judicial efectiva en sentido amplio (incluyendo el derecho de defensa y el derecho a un juicio justo, amén del principio de presunción de inocencia).

En suma, el uso de la IA ha de concebirse como un método auxiliar, amparado bajo los principios de legalidad y proporcionalidad. Ello implica que el proceso de valoración y decisión debe quedar revestido de transparencia^[30] y efectuarse de modo individualizado, teniendo en cuenta las circunstancias particulares tanto del caso en concreto como del sujeto que sufra las restricciones de derechos (libertad). En otras palabras, ningún sistema de IA puede sustituir la potestad jurisdiccional y las funciones que integran esta y que corresponden única y exclusivamente a los jueces y tribunales.

Dada la especialidad de la materia y los altos riesgos que para los derechos fundamentales supone el uso de sistema de IA, y, con particularidad, de aquellos que se califican de alto riesgo, es imperiosa la necesidad de implementar una normativa europea que armonice la regulación en el seno de la UE. Esta labor está previsto que se acometa a partir de la Propuesta de Reglamento de la Unión Europea sobre inteligencia artificial^[31], cuya entrada en vigor y aplicación, como critica De Hoyos Sancho (‍2022b: 416), «llegará tarde, pues es muy poco probable que entre en vigor antes del año 2023». La realidad es que no bastará con la aprobación y entrada en vigor de dicho Reglamento, ya que será necesario elaborar normas nacionales de desarrollo e, inclusive, normativas sectoriales de complementación y de carácter más específico, tomando en cuenta la amplia amalgama de esferas (públicas y privadas) en las que se puede emplear la IA y en las que ya se están utilizando (desde hace años) sistemas de este tipo de forma efectiva, aun cuando todavía no se dispone de una regulación explícita (op. cit.).

En suma, para poder emplear los sistemas de IA en el ámbito del sistema judicial con las debidas garantías, sin provocar vulneraciones de los derechos a la tutela judicial efectiva y a la presunción de inocencia y, con peculiaridad, en el seno de la adopción de la medida cautelar de prisión provisional, en aras de dar cumplimiento a las exigencias del principio de legalidad, sería menester introducir una previsión normativa expresa relativa a ese concreto ámbito de aplicación y a la forma de utilización en este de los sistemas de IA (‍De Hoyos Sancho, 2020: 32; ‍Ortiz Pradillo, 2022: 107-‍109)^[32]. Pero, además, dentro de esa previsión normativa y tomando como parámetro las conclusiones apuntadas por De Hoyos Sancho (‍2020: 32-‍39), tendrían que incluirse medidas que permitan garantizar los siguientes requisitos, vinculados, a su vez, a las exigencias del principio de proporcionalidad (ya explicadas con anterioridad):

De no cumplirse estos requisitos a la hora de utilizar sistemas de IA para valorar si procede o no acordar una medida de prisión provisional, estaríamos ante el uso de un instrumento inadecuado, innecesario y desproporcionado (en sentido estricto), que supondría un sacrificio excesivo e injustificado para los derechos fundamentales del sujeto afectado en cuestión (libertad, autodeterminación informativa y tutela judicial efectiva). Por tanto, su utilización sería deseablemente sustituible por el sistema actual de examen y valoración de la adopción de medidas de prisión provisional y no conseguiríamos ningún avance ni garantía procesal en la adopción de las medidas cautelares en el marco del proceso penal.

En cualquier caso, debe incidirse en que la valoración de la prueba y la concurrencia de los presupuestos fácticos y jurídicos necesarios para adoptar la prisión provisional no deja (ni puede dejar) de ser de carácter judicial. Es el órgano judicial el que debe atender a los hechos, al derecho y al caso en concreto, valorando todos los datos, indicios y pruebas existentes, razón por la cual entendemos que los sistemas de IA deben ser complementarios para contribuir a evitar decisiones sobre medidas cautelares incorrectas, desproporcionadas o generalizadas, que incurran en sesgos y no atiendan suficientemente a las particularidades del caso. La meta que alcanzar es que los sistemas de IA coadyuven a lograr mejores resoluciones y no generen errores y resoluciones injustas (como se ha verificado que puede suceder con un uso indebido de estos, a raíz del caso Loomis).

En consonancia con lo anterior, podría gestionarse el riesgo que implica la IA, teniendo en cuenta las herramientas que proporciona el marco constitucional y, en tal sentido, entre otras claves, resalta la de advertir «la prohibición y limitación de manifestaciones de la IA contrarias a principios y bienes de la máxima relevancia constitucional» (‍Sánchez Barrilao, 2016: 32). E inclusive podría plantearse la posibilidad (realizable) de que los órganos jurisdiccionales, en caso de duda, solicitasen la intervención de un asesor técnico (que explique la forma en la que el sistema de IA funciona, recoge datos y los analiza), lo que sería una figura que tendría ciertas similitudes, mutatis mutandis, con el amicus curiae, propuesto ya en su día en el Anteproyecto de Ley para un nuevo proceso penal de 2011 y referido a una persona experta que, al amparo de un interés legítimo, puede participar en la casación auxiliando al Tribunal con sus conocimientos sobre la interpretación de la norma cuestionada^[33].