, ,

¿Cuándo “no” es “no” en inteligencia artificial? El alcance de prohibiciones del artículo 5 del Reglamento europeo de IA

Desde febrero de 2025, algunas prácticas de inteligencia artificial están prohibidas en la Unión Europea y deberían ya perseguirse desde agosto. Pero ¿qué significa realmente estar prohibido? ¿Hasta dónde llegan las prohibiciones del artículo 5 del Reglamento de IA? ¿Cuándo un “no” es un “no absoluto” y cuándo un “no, pero sí. Este artículo académico descompone los criterios interpretativos más relevantes del artículo 5 del Reglamento de IA de la UE, centrándose en sus límites, excepciones y la delgada línea roja que separa lo prohibido de lo que es “alto riesgo”. En el Tratado del Reglamento inteligencia artificial que tienes disponible están analizadas muchas de las prohibiciones así como el alto riesgo en un estudio personal. También Adrián Palma publica en Indret tiene uno de los pocos estudios que meten también el dedo en la llaga.  Frente a esta ambigüedad normativa, la Comisión Europea ha publicado unas amplias Directrices interpretativas que pueden servir como referencia esencial para delimitar con precisión qué prácticas están definitivamente prohibidas, cuáles están excluidas y cuáles requieren un marco jurídico habilitante específico.

Se analizan cada una de las prohibiciones, incluyendo la manipulación subliminal, el social scoring o el uso policial de identificación biométrica en tiempo real. Este artículo fue casi mi “despedida” justo semanas antes de entrar en mi nueva casa y, obviamente, , no expresa ni implica interpretación alguna desde la Agencia Española de Protección de Datos.

La RGDA Nº 69 2025 publica este artículo al que tienes acceso en el siguiente enlace

El texto puede darte respuesta a algunas preguntas clave:

  1. ¿Qué condiciones deben cumplirse para que una técnica persuasiva se considere manipulación subliminal prohibida por la IA?
  2. ¿Cómo se define y cuándo se activa la prohibición de los sistemas de puntuación social o “social scoring”?
  3. ¿Puede una IA predecir delitos sin vulnerar el Reglamento si se basa en datos objetivos además de perfiles?
  4. ¿Qué se considera “rastreo no selectivo” de imágenes faciales y cuándo es legal o ilegal?
  5. ¿Cuáles son los únicos fines que justifican la excepción a la prohibición del reconocimiento biométrico en tiempo real con fines policiales?
  6. ¿Qué requisitos formales (autorización judicial, evaluación ex ante, registro) debe cumplir una excepción válida al artículo 5.1.h)?
  7. ¿Qué distingue a un sistema prohibido de uno “solo” de alto riesgo, y cómo puede cambiar su calificación según el contexto?
  8. ¿Qué margen tiene un Estado miembro para regular o incluso endurecer el régimen de prohibiciones del artículo 5?
  9. ¿La inferencia de emociones en el trabajo o la educación siempre está prohibida o hay excepciones legítimas?
  10. ¿Qué usos policiales o comerciales de reconocimiento facial quedarían fuera del artículo 5 pero sujetos al régimen de alto riesgo del Anexo III?

Espero que te guste.

, , , , ,

¿Qué puede hacer el Derecho frente a la inteligencia artificial? mis respuestas para Teoría y Realidad Constitucional

La prestigiosa revista Teoría y Realidad Constitucional (n.º 55, primer semestre de 2025) acaba de publicar una importante encuesta académica sobre “Inteligencia artificial y derechos fundamentales”, disponible ya en acceso abierto en https://revistas.uned.es/index.php/TRC/issue/view/1977.

He dispuesto también una versión en la que están reunida mi participación en la encuesta: acceso

La publicación forma parte de una excelente encuesta con colegas de reconocido prestigio como Aba Catoira, Francisco Balaguer, Mario Hernández Ramos, Miguel Presno, Lucrecio Rebollo y José Tudela, quienes aportan desde distintas perspectivas una visión completa de los desafíos constitucionales de la IA. Entre las contribuciones, se encuentra mi propia participación, en la que respondo de forma sistemática y crítica a seis cuestiones clave planteadas a varios especialistas.

Como puede apreciarse por las estupendas aportaciones de mis colegas, no es una simple recopilación de opiniones, sino un valioso ejercicio de pensamiento constitucional colectivo ante uno de los mayores retos tecnológicos de nuestro tiempo.

Las preguntas a las que damos respuesta son:

  1. ¿Qué incidencia general tiene la inteligencia artificial en los derechos fundamentales reconocidos en la Constitución? ¿Qué derechos están especialmente afectados?
  2. ¿Qué consecuencias tiene la IA en los derechos fundamentales implicados en los procesos democráticos?
  3. ¿Puede la IA transformar la forma misma en que concebimos hoy los derechos fundamentales?
  4. ¿Es necesario reconocer nuevos derechos fundamentales en la Constitución para hacer frente a los riesgos de la IA?
  5. ¿Deben establecerse nuevos instrumentos de garantía de los derechos fundamentales frente a la IA?
  6. ¿Qué valoración merecen el Reglamento europeo de IA y el Convenio del Consejo de Europa sobre IA y derechos fundamentales?

Estas preguntas nos obligan a repensar desde la base el modelo constitucional: un necesario punto de partida favorable ante la IA, sin perjuicio de dar respuesta a los riesgos, que también los tiene; la posición de la privacidad y la protección de datos, la igualdad y la transparencia, hasta los mecanismos estructurales de tutela de derechos ante la IA. A lo largo del artículo, planteo propuestas concretas sobre la dimensión colectiva de los derechos, los riesgos algorítmicos, los límites de la dogmática tradicional y la necesidad de instituciones específicas independientes de garantía.
Sin duda, invito a su lectura.

, , ,

Mis diez últimas publicaciones en inteligencia artificial y derechos digitales: novedades 2025

Mis diez últimas publicaciones en inteligencia artificial y derechos digitales: novedades 2025

El año 2025 comienza con fuerza y mucha ilusión, y quiero compartir las últimas novedades en mis publicaciones y trabajos académicos, que quizá puedan interesarte. Recuerda que tienes acceso a todo el contenido en mi web www.cotino.es.

Tratado sobre el Reglamento de Inteligencia Artificial (UE): un hito académico

Destaco especialmente el Tratado sobre el Reglamento de IA, que he tenido el honor de coordinar junto con Pere Simó (más información aquí). Esta obra, con la colaboración de 38 autores de primer nivel, es sin duda la más sistemática y profunda publicada hasta la fecha sobre el tema. En noviembre celebramos su presentación. Estaba previsto que la editorial diera acceso abierto a la obra completa, pero lamentablemente hay que esperar. En todo caso, en breve estará disponible toda la obra en inglés gracias a la prestigiosa editorial italiana dirigida por Diana Galetta.

En el Tratado, he contribuido con cuatro capítulos clave que considero fundamentales:

  • “¿Qué es ‘inteligencia artificial’ para el Reglamento? Análisis, delimitación y aplicaciones prácticas.”
  • “Alcance y delimitación de los sistemas de alto riesgo en el Reglamento de inteligencia artificial.” Acceso aquí
  • “Sandbox, espacios controlados y pruebas en condiciones reales de sistemas de IA. Medidas para pymes, startups y microempresas.” Este estudio sobre sandbox, uno de los pocos en la materia, cobra especial relevancia tras el reciente lanzamiento del sandbox de IA por el Gobierno.
  • “Códigos de conducta, sellos o certificaciones para sistemas de inteligencia artificial que no son de alto riesgo.” Este capítulo aborda un tema prácticamente inexplorado hasta ahora del que próximamente habrá nuevas investigaciones por mi parte.

Para una visión general del Reglamento de IA, te recomiendo mi artículo de síntesis: “Aproximación y claves del Reglamento de Inteligencia Artificial de la Unión Europea”, publicado en la Revista Innovación (UCA, Argentina, 2024). Accede aquí.

Me permito recordar la publicación del primer estudio sobre el Convenio Europeo de inteligencia artificial en prestigiosa revista en inglés y también en español.

Otras publicaciones recientes en inteligencia artificial

En las últimas semanas han salido a la luz varios trabajos que podrían ser de tu interés:

  • “Cómo abordar jurídicamente el impacto de la inteligencia artificial en los derechos fundamentales”. Este capítulo es esencial para cualquier enfoque jurídico sobre la IA desde la perspectiva de los derechos fundamentales. Está incluido en un completo libro dirigido por María Emilia Casas y publicado por la Fundación Ramón Areces. Más información y acceso aquí.
  • “La supervisión del cumplimiento del Reglamento de IA por las autoridades de vigilancia del mercado”, publicado en la Revista Canaria de Administración Pública (nº 4, 2024). Este tema, de máxima actualidad, apenas cuenta con literatura previa. Puedes acceder al texto completo desde aquí.
  • En la Revista Catalana de Derecho Público, he publicado en formato blog el artículo “Vulnerabilidad y colectivos vulnerables en el Derecho: ¿quiénes son y cómo se definen?”, un tema novedoso con escasa reflexión hasta ahora. Acceso aquí

Por último, te puede interesar especialmente como material didáctico y de síntesis mi reciente recomiendo el capítulo “La Carta de Derechos Digitales”, publicado en el libro Inteligencia artificial y justicia (2024), dirigido por Alfonso Peralta Gutiérrez y Jerónimo Pedrosa del Pino y editado por el Consejo General del Poder Judicial. Este capítulo sintetiza aspectos clave de los derechos digitales. Acceso completo aquí.

Espero que te interesen.

, , , ,

 “Cómo abordar jurídicamente el impacto de la inteligencia artificial en los derechos fundamentales”, nueva publicación en un libro de referencia

Estoy muy contento de empezar el año con la segunda publicación que ve la luz, después de la que informé hace unos días. En este caso, se trata de un capítulo en un libro excepcional y muy completo que ha dirigido María Emilia Casas, expresidenta del Tribunal Constitucional, con la coordinación del Prof. Daniel Pérez: «Derecho y Tecnologías» de la Fundación Ramón Areces, puedes acceder a sus 700 páginas al completo. La obra cuenta con trabajos -entre otros- de Andrés Ortega Klein, Tomás de la Quadra-Salcedo, Fernando Miró, Alejandro Huergo Lora, Jesús R. Mercader Uguina, Ana Garriga Domínguez o Rafael Yuste.

Aquí puedes acceder a mi trabajo “Cómo abordar jurídicamente el impacto de la inteligencia artificial en los derechos fundamentales”, donde abordo los elementos esenciales para cualquier análisis sobre IA y derechos fundamentales. Pretendo dar respuestas a preguntas clave para los derechos fundamentales y su dogmática, preguntas como éstas:

¿Cómo garantizar el progreso tecnológico con los derechos fundamentales? ¿Es posible asentar un deber de IA, incluso un derecho a la IA?

¿Cómo proyectar la dignidad de la persona en sentido positivo y negativo respecto de la IA?

¿Qué implica la proyección de los principios del RGPD, como la minimización y la limitación de finalidad, en un entorno de inteligencia artificial?

¿Qué supone el reciente Convenio IA del Consejo de Europa frente al Reglamento de IA (RIA) de la UE? ¿Es un convenio aplicable a nivel global?

¿Cómo pueden los principios éticos de la IA ser transformados en principios jurídicos?

¿Es necesario proclamar nuevos derechos en la era de la IA, o sería más eficaz reinterpretar los derechos existentes para abordar los desafíos tecnológicos?

¿Qué modelos de participación y garantía pueden abordar los efectos supraindividuales y estructurales que la IA tiene en la sociedad?

¿Por qué es fundamental garantizar la independencia de las autoridades de supervisión de la IA en el marco de derechos fundamentales? ¿Qué estándar de independencia es exigible?

Más vale prevenir que curar ¿Qué técnicas preventivas se están dando para proteger los derechos fundamentales ante la IA?¿qué elementos deben incluir los análisis de impacto de derechos fundamentales en sistemas de IA de alto riesgo?

¿Qué criterios debería cumplir una ley para regular adecuadamente los impactos de la IA en los derechos fundamentales? ¿Es suficiente el actual marco regulatorio en España?

En 2021 publiqué un trabajo [acceso completo] que humildemente considero que fue la primera  referencia en el tema y ahora he profundizado, completado y actualizado el mismo. Espero que te interese.

,

Publicado mi artículo sobre la supervisión de la Inteligencia Artificial en la UE por las autoridades de vigilancia del mercado

Me complace anunciar la publicación de mi estudio titulado «La supervisión del cumplimiento del Reglamento de inteligencia artificial por las autoridades de vigilancia del mercado», recientemente publicado en la Revista Canaria de Administración Pública, nº 4, 2024. Este artículo es accesible directamente en el siguiente enlace

https://revistacanarias.tirant.com/index.php/revista-canaria/article/view/51/48

Como es sabido, el nuevo Reglamento de inteligencia artificial de la UE (RIA) se encaja en el llamado «nuevo marco legislativo», esto es, el marco para la comercialización, evaluación y vigilancia de productos en la Unión Europea. De ahí que la supervisión de su cumplimiento por las “autoridades de vigilancia del mercado” (AVM) queda regulada tanto en el propio RIA como especialmente en el Reglamento (UE) 2019/1020 sobre la vigilancia del mercado. En el estudio se pretende dar pretende respuesta a cuestiones como las que siguen:

  • ¿qué normativa regula la supervisión de los sistemas de inteligencia artificial en la Unión Europea?
  • ¿cómo se combina la normativa general de vigilancia del mercado y la particular del RIA?
  • ¿Quién designa a las AVM y bajo qué criterios se eligen estas autoridades de IA en la UE?
  • ¿Qué recursos y poderes deben tener?
  • ¿cómo garantizan el cumplimiento de las normativas?,
  • ¿qué tipos de actividades proactivas y reactivas deben desarrollar?,
  • ¿cómo pueden conocer e investigar si un sistema de IA de alto riesgo cumple con los requisitos?,
  • ¿Cómo identifican y actúan ante sistemas de IA de alto riesgo que incumplen con el RIA o presentan riesgos?
  • ¿qué papel juegan respecto de las pruebas de IA en condiciones reales?,
  • ¿cómo contribuyen las AVM a la protección de los derechos fundamentales en relación con los sistemas de IA? ¿cómo cooperan con otras autoridades reguladoras para garantizar la protección de estos derechos?
  • ¿qué papel puede tener la AESIA como AVM principal y su relación con otras como la Agencia Española de Protección de Datos?
  • ¿qué AVM se están designando en España y en otros países?

Espero que te interese esta primera aportación sobre un tema en el que hay muy escasa literatura y materiales y van a ser fundamentales los avances que se den con la entrada en aplicación del RIA y las decisiones y acciones que se vayan adoptando en España y en el resto de países de la UE.

, ,

Audios de «Luz, cámara… ¡regulación! El Reglamento de IA en escena”, una presentación de cine del Tratado del Reglamento inteligencia artificial de la UE

El pasado martes 12 de noviembre, 16-18 h en la Universidad Complutense, Ciencias de la información tuvo lugar el acto, «Luz, cámara… ¡regulación! El Reglamento de IA en escena.” Presentación de la obra de 35 autores Tratado del Reglamento inteligencia artificial de la Unión Europea, Aranzadi La Ley, 2024. https://www.cotino.es/tratadoria/

Acogidos como en casa en la Complutense, intervinieron (acceso al audio y descarga con botón derecho) :

Simón Casal, Director de la película Justicia artificial +info tráiler (película disponible en Prime)

Lorenzo Cotino, Catedrático de Derecho constitucional Universidad de Valencia, Valgrai, Odiseia, coordinador del tratado.

Pére Simón, Profesor titular de Derecho constitucional UNIR, Odiseia, coordinador del tratado.

Estrella Gutiérrez, Profesora Contratada Dra. Derecho  constitucional Universidad Complutense.

Moderó el interesande DEBATE : Loreto Corredoira, Profesora titular de Derecho constitucional Universidad Complutense.

Con el apoyo de: Proyecto de excelencia Generalitat Valenciana “Algoritmic law” (Prometeo/2021/009, 2021-24 y Proyecto de I+D+i Retos MICINN: PID2019-108710RB-I00, 2020-2022 “Derechos y garantías frente a las decisiones automatizadas en entornos de inteligencia artificial, IoT, big data y robótica”

, , ,

Ya GRATIS Y EN ABIERTO el mejor «Tratado del Reglamento de IA de la UE», la obra sistemática de referencia en inteligencia artificial

Es un gusto informar de que ya está totalmente abierto y gratuito el acceso al pdf completo de esta obra en el repositorio Roderic

https://links.uv.es/uf7Pqmh

Un tratado sistemático de 38 capítulos a cargo de 35 de los máximos expertos en España y también en Europa e Iberoamérica, 29 doctores y profesores. Autores que fueron seleccionados para abordar sistemática y exhaustivamente el Reglamento de Inteligencia Artificial (RIA). He dirigido la versión española con Pere Simón. Muy pronto se publicará la edición en inglés en codirección con Diana Galetta.

Este tratado se presenta no solo como un análisis profundo del RIA, sino también como un compendio de respuestas a las complejidades legales, éticas y técnicas que plantea la IA. Con 38 capítulos, este libro se estructura en bloques temáticos, lo que facilita al lector comprender tanto la visión europea como el contexto internacional de la normativa.

Entre otras muchas se pretende dar respuesta a algunas preguntas clave

¿Por qué regula la UE la IA y en qué se diferencia el Reglamento de IA europeo de otros marcos legales internacionales?

¿Qué tipos de sistemas de IA están prohibidos o restringidos en la normativa europea?

¿Qué convierte a un sistema de IA en “alto riesgo” según el Reglamento?

¿Cuáles son las principales obligaciones de los proveedores y desarrolladores de IA para cumplir con el Reglamento?

¿Cómo interfiere o complementa el Reglamento de IA con la protección de datos personales?

¿Qué derechos tienen los ciudadanos frente a la IA según el Reglamento?

¿Qué obligaciones de documentación técnica y actualización deben cumplir los proveedores de IA? ¿Cómo se asegura la trazabilidad y los registros?

¿Cómo se garantiza la transparencia y supervisión en los sistemas de IA de alto riesgo? ¿Qué papel juega la vigilancia humana en estos sistemas?

¿Qué criterios establece el Reglamento para la evaluación de conformidad y la vigilancia poscomercialización? ¿Qué deben hacer los proveedores ante incidentes graves?

Esta publicación se distingue por un enfoque estructural claro y temático que permite al lector una comprensión integral del Reglamento. Para quienes deseen profundizar en el índice y presentación del libro, pueden acceder a ellos en el siguiente enlace: https://links.uv.es/207Yo7O.

Además hicimos una presentación de cine el 12 de noviembre, en la Universidad Complutense, Ciencias de la información va a tener lugar el acto, «Luz, cámara… ¡regulación! El Reglamento de IA en escena.” Presentación de la obra de 35 autores Tratado del Reglamento inteligencia artificial de la Unión Europea, Aranzadi La Ley, 2024. Contamos ni más ni menos con :

Simón Casal, Director de la película Justicia artificial +info tráiler, película en Prime

Lorenzo Cotino, Catedrático de Derecho constitucional Universidad de Valencia, Valgrai, Odiseia, coordinador del tratado.

Pére Simón, Profesor titular de Derecho constitucional UNIR, Odiseia, coordinador del tratado.

Estrella Gutiérrez, Profesora Contratada Dra. Derecho  constitucional Universidad Complutense.

Modera: Loreto Corredoira, Profesora titular de Derecho constitucional Universidad Complutense.

Facultad Ciencias de la Información Edificio Principal Sala Francisco Umbral. 3a. Planta (Hasta completar aforo)

Gracias por su interés y si es el caso, por difundir con este tuit
https://x.com/cotino/status/1856576485336756325

, ,

Ya disponible el mayor Directorio de recursos sobre IA, Gobernanza e Impacto en el empleo

https://ir.uv.es/8yqFaoN

Hola¡, es un gusto compartir la primera versión de este ambicioso proyecto que hemos desarrollado desde la Asociación www.ODISEIA.org donde coordino todas las áreas jurídicas con la colaboración de 70 investigadores en 13 subproyectos temáticos

https://ir.uv.es/8yqFaoN

Accede a más de 700 recursos seleccionados y sistematizados, en español e inglés, que incluyen informes, literatura especializada, sentencias, recursos web, herramientas, guías, legislación y jurisprudencia.

🌐 Esta recopilación es única a nivel mundial y abarca temas clave como:

  • Gobernanza de la IA
  • Impacto de la IA en el empleo
  • Ciberseguridad
  • Educación y mucho más.

Esta primera versión del directorio se actualizará constantemente hasta finales de 2025, y es novedoas por garantizar la estabilidad de los recursos, incluso frente a cambios en las fuentes originales.

Es un honor haber coordinado este esfuerzo, y espero que resulte de gran utilidad para la comunidad académica y profesional.

👇 ¡Explora el directorio aquí! 👇 https://ir.uv.es/8yqFaoN

Gracias por compartir y ayudarnos a difundir esta valiosa herramienta con un tuit como éste : https://x.com/cotino/status/1840725145033261359

, , ,

Publico el primer estudio sobre el Convenio del Consejo de Europa en inteligencia artificial…

Es un gusto volver al cole con la publicación del primer estudio que hay sobre el más que reciente Convenio del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho, adoptado en mayo y puesto a la firma estos días de septiembre. La primera revista jurídica Scopus en Italia lo ha publicado en inglés y es posible acceder también en SSRN a una versión actualizada en español.

El trabajo ofrece una revisión exhaustiva del Convenio y su interacción con el Reglamento de IA de la Unión Europea. Se brindan respuestas a las preguntas clave sobre el Convenio:

¿Cuál es el propósito del Convenio del Consejo de Europa sobre inteligencia artificial?

¿En qué aspectos se diferencia el Convenio del Consejo de Europa respecto al Reglamento de IA de la Unión Europea? ¿Cómo se relaciona el Convenio con el Reglamento?

¿Qué principios jurídicos establece el Convenio para el diseño y aplicación de la IA en sectores públicos y privados?  ¿Qué especialimportancia pueden cobrar estos principios?

¿Qué innovaciones jurídicas propone el Convenio respecto a los sistemas de IA?

¿Se aplican estas regulaciones a sistemas de IA en investigación y defensa?

¿Cuáles son los derechos y garantías que establece el Convenio para las personas afectadas por la IA?

¿Qué garantías de independencia exige para las autoridades de supervisión? ¿Se cumplen en España?

¿Qué valor simbólico tiene el Convenio más allá de su aplicación normativa?

Considero que este artículo -cuya primera versión fue de febrero pero lamentablemente ha tardado en ver la luz- ha de ser una inicial referencia esencial para cualquier académico, profesional o responsable político interesado en la regulación de la IA. A través de un análisis detallado del Convenio, expone cómo este instrumento legal complementa al Reglamento de IA de la UE, y refuerza la protección de los derechos humanos bajo el enfoque de evaluación y mitigación de riesgos. Tiene algunas potencialidades que el tiempo y dirá, así como la capacidad para integrar principios éticos dentro del marco jurídico, el Convenio destaca por su importancia tanto simbólica como normativa.

Puedes leer el artículo completo en inglés AQUÍ

Acceso en español AQUÍ

Muchas gracias por tu interés. Y gracias por difundir un tuit como éste

https://twitter.com/cotino/status/1834561177310888083

Recuerda que tienes acceso a casi doscientas de mis publicaciones en www.cotino.es

, , ,

Apuesto por “El uso jurisdiccional de la inteligencia artificial, con habilitación legal, garantías necesarias y la supervisión por el CGPJ”…

Me complace anunciar la publicación de mi artículo «El uso jurisdiccional de la inteligencia artificial: habilitación legal, garantías necesarias y la supervisión por el CGPJ», en la revista Actualidad Jurídica Iberoamericana, nº 21, 2024

Puedes acceder a mi estudio AQUÍ. Se incluye en un excelente monográfico sobre JusticIA digital que reúne ni más ni menos que 22 estudios sobre estos temas, todo muy bien coordinado por Ana Montesinos y Diana Marcos, a quienes agradezco su empeño.

En este estudio quizá obtengas respuestas o al menos te puedes plantear cuestiones como:

  • ¿En qué funciones jurisdiccionales -y no meramente administrativas o procesales- puede utilizarse la IA? ¿De verdad que hay una «reserva de humanidad» que limite el uso de la IA en justicia?
  • ¿Cuáles son las principales carencias de Real Decreto-ley 6/2023 sobre el uso de IA y sistemas automatizados en Justicia, y cómo podrían subsanarse?
  • ¿En qué medida el Reglamento de Inteligencia Artificial de la UE (RIA) es suficiente regulación legal y con garantías para el uso de IA en justicia?
  • ¿Qué papel debería jugar el Consejo General del Poder Judicial (CGPJ) en la supervisión de sistemas de inteligencia artificial de alto riesgo? ¿por qué otras instituciones como la AESIA o la AEPD no son adecuadas para esta función?

Vengo sosteniendo un derecho a la inteligencia artificial (IA) y una consiguiente obligación de implantación por los poderes públicos, también en la Justicia.

Este estudio pretende allanar el camino para la integración de la IA en la función jurisdiccional. También busca asegurar que esta integración se realice respetando y fortaleciendo los derechos fundamentales. Creo firmemente que, aunque es necesario exigir garantías, debemos evitar una resistencia exagerada al uso público de la IA, en este caso en la Justicia. Estoy convencido de que los discursos actuales que cierran la puerta a estas innovaciones serán vistos con nostalgia en el futuro, cuando la tecnología sea una parte integral y confiable del proceso judicial.

En este estudio, defiendo el uso jurisdiccional -no meramente procesal o accesorio- de la IA en el sistema legal español, pero siempre bajo la premisa de que debe estar respaldado por suficientes garantías legales.

El análisis lo centro en la cobertura legal necesaria y variable en razón de los diferentes derechos y exigencias constitucionales concurrentes. Se subraya que el Reglamento de IA (RIA) de la UE, que sí que regula el uso jurisdiccional de la IA, no sirve como una habilitación legal por sí solo. Ahora bien, sin duda que el RIA implica garantías que deben superponerse con las garantías que obligatoriamente deben ser reguladas por ley, según jurisprudencia como la española (20219) o alemana (2022).

Desde una perspectiva constitucional, analizo y critico la regulación actual de los sistemas automatizados y de IA bajo el Real Decreto-ley 6/2023, que considero insuficiente.

No me entrometo en la robotización judicial y la sustitución del juez humano.   Obvimente nuestras constituciones analógicas parten de la premisa de que son humanos quienes realizan tales funciones jurisdiccionales. El CGPJ español afirma que la potestad jurisdiccional es una función “consustancial y ontológicamente anudada a la naturaleza humana, con independencia, imparcialidad, exclusividad y con exclusivo sometimiento al imperio de la ley” (nº 51)  . El CGPJ afirma una reserva de humanidad y “el derecho a una resolución fundada en Derecho dictada por un Juez o Tribunal, esto es, el derecho a que su caso sea resuelto por un Juez-persona” (nº 164, Conclusión 68).  El tiempo, el legislador y la jurisprudencia dirán hasta dónde llega este presunto derecho y el alcance de la IA en el ámbito de la justicia.

Además, sostengo que solo el Consejo General del Poder Judicial (CGPJ) puede ser la autoridad supervisora de los sistemas de IA jurisdiccionales de alto riesgo en España, debido a su independencia y la separación de poderes, según doctrina del TS y regulación legal en el caso de protección de datos. Ni la Autoridad Española de Supervisión de la Inteligencia Artificial (AESIA) ni la Agencia Española de Protección de Datos (AEPD) cumplen con los requisitos para esta función en el ámbito jurisdiccional.
Espero que te resulte sugerente.