, ,

Propuesta de regulación del Gobierno del Reino Unido de la IA

El documento “A pro-innovation approach to AI regulation: government response”, de 6 de febrero  del Gobierno del Reino Unido se produce en el marco de un proceso en primavera y verano de 2023, con los documentos previos de propuestas y estudios regulatorios desde Parlamento UK, presentados. Ahora en febrero de 2024 se da la posición del Gobierno. Esta posición ha estado precedida de una consulta de 33 preguntas al sector interesado y más de 400 respuestas.

Presenta un enfoque pro-innovación para la regulación de la Inteligencia Artificial (IA), destacando la inversión de más de £100 millones para innovaciones en IA y capacidades técnicas regulatorias. Mientras el Reino Unido aplica un enfoque pro-innovación, el Reglamento de la UE busca establecer reglas claras para el uso de la IA en el mercado europeo. El Reino Unido apuesta por un marco regulatorio que fortalezca y se adapte a la industria de IA y el ecosistema regulatorio ya existente. Se proponen cinco principios transversales (Seguridad, transparencia, equidad, responsabilidad y contestabilidad  ) para que los reguladores los interpreten y apliquen por mecanismos de regulación menos estrictos. En todo caso, se propone una entidad central (“New Central Function”) para la coherencia del régimen y abordar brechas regulatorias. Por otro lado, una regulación “fuerte” vendría por la nueva regulación de protección de datos (Data Protection and Digital Information Bill, DPDI) que sustituya al RGPD después del Brexit.

Me permito señalar los elementos más relevantes

  • Enfoque Pro-Innovación y Pro-Seguridad: La se centra en fomentar la innovación garantizando la seguridad y la confianza pública.
  • Inversión y Apoyo: Más de £100 millones destinados a la innovación en IA y el fortalecimiento de las capacidades técnicas de los reguladores.
  • Marco Regulatorio: cinco principios transversales para la interpretación y aplicación por parte de los reguladores existentes en el Reino Unido. Seguridad, transparencia, equidad, responsabilidad y contestabilidad.
  • “New Central Function”: Para traer coherencia al régimen regulatorio y abordar las brechas. Supone la creación de un ente dentro del gobierno destinada a garantizar una aplicación coherente y efectiva de la regulación en materia de inteligencia artificial (IA) a través de diferentes sectores. Esta entidad tendría la tarea de cerrar brechas regulatorias existentes, facilitar la coordinación entre diferentes organismos reguladores, y garantizar que el enfoque hacia la IA en el país sea uniforme y propicie tanto la innovación como la protección de los ciudadanos.
  • Consultas y Coordinación: Las propuestas se dan en buena medida a raíz de las respuestas al proceso de consultas con reguladores, industria, y la sociedad civil, para un enfoque coherente y efectivo.
  • Pasos siguientes: Se afirma que en los próximos meses se realizarán actividades de apoyo de capacidades y coordinación de los reguladores, incluido un nuevo comité directivo con representantes de los gobiernos y los reguladores para coordinar la gobernanza de la IA. Se afirman consultas específicas para evaluar un marco regulador y riesgos específicos sobre interferencia electoral, discriminación, propiedad intelectual o riesgos futuros como la bioseguridad y la alineación de la IA (“AI alignment”). También conversaciones internacionales en próximas Cumbres sobre Seguridad de la IA en la República de Corea y Francia.

Sin duda un tema para seguir.

/por
,

Última versión “oficial” y publicada del texto del Reglamento IA aprobado y, de regalo, traducción al español automatizada

En entradas anteriores he ido comunicando los textos filtrados y pasos de aprobación del Reglamento IA. Entre estos textos me permito destacar una muy útil versión a tres columnas de las versiones del AIA Act de Comisión, Consejo, Parlamento y la de 2024. También ofrecí una visión rápida de los cambios más relevantes en la versión definitiva acordada.

No obstante, ahora ya tenemos algo público y oficial.

El viernes 9 de febrero el COREPER aprobó el texto del Reglamento UE. El texto había sido filtrado previamente, pero no había una versión oficial y pública.

El martes 13 de febrero y en votación única, las comisiones de Mercado Interior y Libertades Civiles del Parlamento de la UE, votaron favorablemente 71-8 (7 abstenciones) el texto del Reglamento.

Ahora, el texto debe traducirse oficialmente a todos los idiomas de la UE. Asímismo, y esto es importante, será necesaria la renumeración de todos los considerandos y artículos. Igualmente, procederá una aprobación formal por el Parlamento en una sesión plenaria, que se prevé días 10 y 11 de abril. Después, un respaldo final ministerial por el Consejo UE.

El texto de los artículos no puede variar, me comenta un amigo experto que cabría la posibilidad de algún cambio en algún considerando.

Además de estos pasos, hay que subrayar que ya tenemos el último texto público y oficial -no filtrado- del Reglamento IA. A falta del número definitivo de considerandos y artículos, será el texto definitivo del Reglamento.

De postre, me permito disponer una traducción automatizada al español con versión pro AQUÍ, que puede ser bien útil.

un dolçet, que decimos por Valencia ;))

Enlace a la aprobación por el Parlamento 13 de febrero AQUÍ.

Enlace al texto en inglés publicado por el Parlamento AQUÍ.

/por
, , ,

Mi publicación sobre la Libertad de Expresión en Internet y los cuestionables criterios judiciales

En el ámbito digital, la libertad de expresión se encuentra en una encrucijada crucial, con tendencias preocupantes en España y Europa. Recientemente he publicado el artículo «La primera sentencia general del Tribunal Constitucional sobre la libertad de expresión e información en Internet. Seguimos pendientes de muchos temas clave para el futuro”,  en el que aprovecho para revisar la jurisprudencia española y europea en la materia,

aquí ACCESO A TEXTO COMPLETO

ahí se formulan muchas preguntas a las que se dan ( o se intenta) algunas respuestas:

  • ¿Cómo ha evolucionado el tratamiento de las libertades informativas en el ámbito digital por parte de los tribunales españoles?
  • ¿En qué aspectos específicos se percibe la falta de liderazgo del Tribunal Constitucional español en comparación con su homólogo estadounidense?
  • ¿Cuáles son las decisiones más controvertidas del TEDH en materia de libertades digitales y cómo han impactado en la jurisprudencia europea?
  • ¿Cómo han contribuido las decisiones del Tribunal de Justicia de la Unión Europea en la configuración del actual panorama de las libertades informativas en internet?
  • ¿Cuál ha sido el enfoque del Tribunal Constitucional español respecto a las libertades informativas en internet y qué críticas ha recibido?
  • ¿Qué aspectos clave podrían haberse desarrollado más en la sentencia 8/2022 del Tribunal Constitucional español?
  • ¿Cuáles son las principales incógnitas que el Tribunal Constitucional aún debe despejar en relación con las libertades informativas en internet?
  • ¿Cómo ha contribuido la sentencia del Tribunal Supremo a fortalecer las libertades informativas en internet y por qué se considera un hito?

Espero que te guste esta invitación a reflexionar sobre el futuro de nuestras libertades digitales.
Y sobre la peligrosa deriva del TEDH, concretamente dediqué un artículo (ACCESO AQUÍ)
“Menos libertad de expresión en internet: el peligroso endurecimiento del TEDH sobre la responsabilidad de moderación de contenidos y discurso del odio”, en Revista de Derecho Digital e innovación, Aranzadi La Ley, número 16,  2023.

/por

Texto en español del texto filtrado del nuevo Reglamento de IA, las dificultades que tendrá y alguna valoración rápida

se ha filtrado por fin el texto del futuro reglamento de IA, además de aportar una información muy interesante sobre la negociación del mismo y sus dificultades.

recomiendo leer este hilo (muy bien informado, de quien ha filtrado)

https://twitter.com/BertuzLuca/status/1749326217612820558

Como es sabido se adoptó un acuerdo político sobre el Reglamento el 9 de diciembre de 2023 (nota de prensa del Consejo) , pero sin texto concreto.

En enero se ha filtrado una versión del Reglamento muy útil a cuatro columnas comparativa de los textos. la dispongo aquí: https://links.uv.es/FJSAw4c

también ha aparecido la versión consolidada de la última versión del texto, en inglés, puedes acceder aquí a la versión que dispongo en español traducida automáticamente con una versión pro. AQUÍ  la tienes.

en inglés (que es como lo han filtrado), el texto AQUÍ

así, de urgencia, me atrevo a subrayar los cambios más relevantes a primera vista:

-Se confirman los nuevos estudios de impacto del artículo 29 bis.

-Se confirman los nuevos derechos de los nuevos artículo 68. -También, respecto de modelos fundacionales, entre otras, las nuevas obligaciones del artículo 28 ter, de las que se dice que será punto de objeción importante de Francia y se critica que acabará con los modelos fundacionales disponibles en la UE.

-Se confirma asimismo la independencia y neutralidad de la autoridad de supervisión, lo cual inclumpliría la AESIA según su actual regulación.

-También se confirma que los antiguos “usuarios” pasan a ser “deployers”, implementadores.

Por último, siguiendo el hilo de tuit, es interesante contextualizar que según comenta, el documento fue distribuido a los países de la UE el domingo, previo a su discusión el miércoles en el Grupo de Trabajo de Telecomunicaciones, un órgano técnico del Consejo de la UE, y su formalización por los embajadores (es decir, el COREPER) el 2 de febrero. Así, señala que el cronograma es ajustado y los delegados no dispondrán de tiempo suficiente para revisar el documento completo, debiendo enfocarse en los aspectos más críticos. Francia explora con otros países la posibilidad de crear una minoría de bloqueo. París aspira a postergar la votación del COREPER, buscando obtener ciertas concesiones en el documento. En el COREPER, se solicitará a los gobiernos europeos emitir un veredicto afirmativo o negativo, dado que la presidencia belga no admite comentarios o reservas en esta etapa avanzada. Hasta el momento, París no ha logrado formar una minoría de bloqueo, pero se espera mayor claridad cuando los estados miembros presenten sus comentarios técnicos. No obstante, si Francia no consigue concesiones en esta etapa, persistirá en su empeño por influir en la implementación de la ley de IA, especialmente en cuanto a la legislación secundaria se refiere, considerando que el asunto sigue siendo de máxima prioridad nacional.

/por
, , ,

El primer estudio sobre la primera sentencia del TJUE sobre decisiones automatizadas…

El Diario la Ley publica mi estudio «La primera sentencia del Tribunal de Justicia de la Unión Europea sobre decisiones automatizadas y sus implicaciones para la protección de datos y el Reglamento de inteligencia artificial»

La sentencia TJUE del 7 de diciembre de 2023 es la primera que aborda centralmente el artículo 22 RGPD relativo a las decisiones automatizadas. En el estudio se analizan los elementos básicos de la misma:  descripción del supuesto; dudas que eleva el órgano jurisdiccional alemán al TJUE; doctrina general y particular que se establecen, en particular sobre lo que es una “decisión individual” y el alcance de la garantía en el supuesto y respecto del margen de regulación nacional sobre el artículo 22. Asimismo, se brinda una valoración general y reflexión sobre las proyecciones que puede tener para el futuro. En este punto, yendo más allá de lo afirmado por la sentencia se aboga por un claro criterio interpretativo que dote de protección a las decisiones parcialmente automatizadas. Igualmente se explica por qué esta cuestión pasa a ser esencial respecto de la aplicación misma del futuro Reglamento del IA de la UE por ser decisivo para considerar si un sistema de IA es o no de alto riesgo.

Espero que te interese. Gracias por redifundir un tuit como éste.

https://twitter.com/cotino/status/1747533167060300038

/por
,

publicado nuevo libro Algoritmos abiertos y que no discriminen…

Queridas-os, (feliz 2024 y demás) es una alegría señalar que acaba de salir el libro que he coordinado con J. Castellanos Algoritmos abiertos y que no discriminen en el sector público, Tirant lo Blanch, con estudios fantásticos de teoría y práctica.

Tienes disponible el Índice y presentación en https://links.uv.es/p29lR70

bajo pongo el listado de autoras-es de renombre.

si te interesa el tema, una versión que condensa algunos de los contenidos del libro, puede verse en los dos trabajos que he publicado también este mes:

– Artículo “Transparencia de la inteligencia artificial pública: marco legal, desafíos y propuestas”, en Actualidad Administrativa nº 12, 2023, La Ley, 15 diciembre de 2023.

Artículo “Implantando la transparencia y los registros públicos de algoritmos. La experiencia pionera en la Comunidad Valenciana” en L. Cotino Hueso y J. Castellanos (coords.), Revista Valenciana d’Estudis

y en concreto sobre discriminación, este año salió publicado el trabajo que más me ha costado en los útimos años, «Discriminación, sesgos e igualdad de la inteligencia artificial en el sector público«, en Gamero Casado, Eduardo, (Dir.), Inteligencia artificial y sector público: retos, límites y medios, Tirant lo Blanch, Valencia, 2023, acceso capítulo. Acceso obra

a todo puede accederse en www.cotino.es

gracias por tu interés y por difundir un tuit como éste:

https://twitter.com/cotino/status/1744263665186975820

autoras y autores:

  • Pere Simón Castellano, Profesor Titular de Derecho Constitucional UNIR
  • Marco Emilio Sánchez Acevedo, Docente e investigador de la Universidad Católica de Colombia
  • Rubén Martínez Gutiérrez, Profesor Titular de Derecho Administrativo Universidad de Alicante
  • Michael Donaldson Carbón Comisionado de Innovación Digital. Ayuntamiento de Barcelona
  • Paula Boet Serrano Responsable de derechos digitales. Ayuntamiento de Barcelona
  • Lorenzo Cotino Hueso, Alba Soriano Arnanz, Jorge Castellanos, Raquel Valle Escolano y Adrián Palma Ortigosa, de la Universitat de València
  • Rosa Cernada Badía Profesora de Derecho Administrativo Universidad Católica de Valencia
  • Joan Guanyabens Director Fundació TIC Salut i Social
/por
,

2023 un año intenso en resultados (5 nuevos proyectos, 5 monografías, 14 artículos… y gente muy buena por el camino)

 

Como el 2022, el 2023 ha sido muy intenso en actividades y resultados de investigación. La guinda o el broche final que deja el sabor más dulce han sido el reconocimiento de un doctorado honoris causa por mi querida Universidad Católica de Cuenca (Ecuador), conocer en Argentina a magníficos académicos y la organización del congreso más importante sobre el Reglamento de Inteligencia Artificial.

Los resultados objetivan el trabajo con un grupo magnífico de personas fuera y dentro de la Universidad de Valencia y con Odiseia. Y esos resultados ayudan a logros como la más que probable adjudicación de la Cátedra ENIA «Derecho y regulación de la Inteligencia Artificial», una cátedra no digital (a dedo), sino competitiva y, posiblemente, la única en Derecho en España. También, la concesión de mi sexto proyecto MICINN, o haber conformado dos Convenios Red.es de derechos digitales por la U. Valencia.

Bajo se detalla la publicación de una monografía y la coordinación de otras cuatro. Dos de ellas con Jorge Castellanos, hay pocas personas mejores. Otra monografía con Paco Balaguer, hay pocos más destacados en el Derecho Constitucional en España. A ello se añaden catorce publicaciones, siete artículos y siete capítulos de libros publicados a lo largo de este año. La verdad es que uno se deja un jirón de piel en cada uno de ellos. Y todo ello acompañado de la organización de varios congresos y seminarios. Ver y conocer a estupendos colegas es una alegría. Casi compensa la absurda burocracia de nuestras administraciones, que se empeñan en que no hagamos nada a gusto.

Toda esta actividad rematada con cuarenta y seis ponencias, veinticinco de ellas internacionales. Un orgullo formar parte de la Facultad de Derecho de Valencia, de Odiseia o de Valgrai y compartir con buenos colegas como Martin Ibler,  Eduard Chavelí, el equipo de Deloitte, la Red DAIA y tantos otros. Y seguimos en el Consejo Valenciano de transparencia tres años fuera de mandato. En fin.

El 2024 se augura intenso. Gracias por leer esto ;))

Aquí viene esto en detalle.

Investigador responsable Proyectos y Grupos de investigación  (5)

Monografías y estudios como autor o  editor-coordinador (5)

Artículos o capítulos de libro (14)

Ponencias, comunicaciones a Congresos y conferencias (47)

 

Investigador responsable Proyectos y Grupos de investigación  (5)

  1. -Responsable de la Cátedra ENIA «Derecho y regulación de la Inteligencia Artificial» U. Valencia-Cuatrecasas, 2023-2027, ayuda competitiva conforme a la Orden ETD/1180/2022, de 25 de noviembre, por la que se establecen las bases reguladoras y se convoca la concesión de ayudas para la creación de cátedras universidad-empresa (Cátedras Enia), destinadas a la investigación y desarrollo de la inteligencia artificial, para su difusión y la formación en el marco del Plan de Recuperación, Transformación y Resiliencia Europeo, financiado por la Unión Europea-Next Generation EU, pendiente de resolución 2023.
  2. -(pendiente) Uno de los tres IP del proyecto Uno de los tres IP del proyecto RAI4WELFARE, “Inteligencia artificial responsable en la resolución de desafíos sociales”, responsable principal de “Responsible AI”, 1,9 mill. euros. más de 70 investigadores,
  3. -Convenio de Derechos Digitales-SEDIA, Ámbito 5. Derechos entornos específicos, responsable del grupo de investigación de la U. Valencia sobre Derechos digitales ante el sector público (205.000 euros). Universidad responsable País Vasco. (2023/C046/00228673), Resolución de 27 de julio 2023, Secretario General de la entidad pública empresarial Red.es,
  4. -Convenio de Derechos Digitales-SEDIA, Convenio de Derechos Digitales-SEDIA, Ámbito 6. Derechos en los nuevos entornos digitales, corresponsabe por Odiseia y por grupo de investigación de la U. Valencia, Universidad responsable Carlos III. (2023/C046/00229475), Resolución de 27 de julio 2023, Secretario General de la entidad pública empresarial Red.es.
  5. -Proyecto “Derechos y garantías públicas frente a las decisiones automatizadas y el sesgo y discriminación algorítmicas” 2023-2025 (PID2022-136439OB-I00) financiado por MCIN/AEI/10.13039/501100011033/ FEDER, UE. Proyectos de Generación de Conocimiento 2022 (modalidad orientada), 44.375 euros.

 

 Monografías y estudios como autor o  editor-coordinador (5)

  1. Cotino Hueso, Lorenzo, La digitalización en las administraciones públicas en España, Documento de trabajo, No. 228/2023, Fundación Alternativas, 3 de octubre 2023, Madrid, 90 páginas. Acceso aquí https://links.uv.es/0Yez0GQ
  2. Co-coordinador Cotino Hueso y J. Castellanos (coords.), Revista Valenciana d’Estudis Autonòmics nº 68, 2023, monográfico sobre “Gobierno abierto y calidad democrática”. 11 estudios, 354 páginas. Acceso en (último número) https://participacio.gva.es/es/web/foment-de-l-autogovern/revista-valenciana-d-estudis-autonomics
  3. Cotino Hueso y J. Castellanos (coords.), Algoritmos abiertos y que no discriminen en el sector público, Tirant lo Blanch, Valencia, 2023. Índice y presentación
  4. Coordinador del estudio La implantación de la transparencia algorítmica. Informe para la implantación del registro de algoritmos públicos y el cumplimiento de las obligaciones de publicidad activa de la Ley 1/2022 valenciana de transparencia, realizado por A. Boix, J. Jorge Castellanos, L. Cotino, A. Palma y A. Soriano, en el marco del convenio de la Cátedra PAGODA específico para esta actividad y Proyecto de Investigación del Plan Nacional de I+D+I «Registro público de algoritmos» (Ref: PDC2022-133890-I00) 2022-2023. Acceso completo
  5. Balaguer, Francisco y Cotino, Lorenzo (2023): Derecho público de la inteligencia artificial, F. Jiménez Abad-Marcial Pons, acceso completo

 

Artículos o capítulos de libro (14)

  1. Artículo “Transparencia de la inteligencia artificial pública: marco legal, desafíos y propuestas”, en Actualidad Administrativa nº 12, 2023, La Ley, 15 diciembre de 2023. Referencia acceso
  2. Artículo “Implantando la transparencia y los registros públicos de algoritmos. La experiencia pionera en la Comunidad Valenciana” en Cotino Hueso y J. Castellanos (coords.), Revista Valenciana d’Estudis Autonòmics nº 68, 2023, monográfico sobre “Gobierno abierto y calidad democrática”. págs. 55-96. Acceso en https://participacio.gva.es/es/web/foment-de-l-autogovern/revista-valenciana-d-estudis-autonomics
  3. Capítulo de Libro, “Cuándo deben crearse registros y dar transparencia a los algoritmos y sistemas de inteligencia artificial públicos”, en Cotino Hueso y J. Castellanos (coords.), Algoritmos abiertos y que no discriminen en el sector público, Tirant lo Blanch, Valencia, 2023.
  4. Capítulo de Libro, “La información que hay que facilitar en los registros públicos de algoritmos y de inteligencia artificial”, en Cotino Hueso y J. Castellanos (coords.), Algoritmos abiertos y que no discriminen en el sector público, Tirant lo Blanch, Valencia, 2023.
  5. Artículo “Menos libertad de expresión en internet: el peligroso endurecimiento del TEDH sobre la responsabilidad de moderación de contenidos y discurso del odio”, en Revista de Derecho Digital e innovación, Aranzadi La Ley, número 16, 2023. acceso
  6. Capítulo de Libro, “La primera sentencia general del Tribunal Constitucional sobre la libertad de expresión e información en Internet. Seguimos pendientes de muchos temas clave para el futuro”, en Simó Castellanos, Pere (Director), Álvarez Buján, María Victoria (coord.), Evolución e interpretación del Tribunal Constitucional sobre derechos fundamentales y garantías procesales: cuestiones recientemente controvertidas Análisis de sus últimos pronunciamientos más reseñables, Aranzadi, 2023, págs. 45-69. 9788411246262 referencia – acceso
  7. Artículo “Inteligencia artificial, tecnologías y recursos del lenguaje: políticas y Derecho para la explotación de corpus y bases de datos lingüísticas”, Revista Llengua i Dret, nº 79, 2023, 61-77. https://doi.org/10.58992/rld.i79.2023.3860
  8. Artículo “Una regulación legal y de calidad para los análisis automatizados de datos o con inteligencia artificial. Los altos estándares del Tribunal Constitucional alemán y otros tribunales, que no se cumplen ni de lejos en España”, en Revista General de Derecho Administrativo, RGDA Iustel, RGDA Iustel, nº 63, 2023. acceso
  9. Capítulo de Libro, “Derechos y libertades en tiempos de pandemia bajo régimen de excepción y legalidad ordinaria”, en El Estado Constitucional Pospandemia: ¿Crisis o fortalecimiento? correspondiente a las Actas del XIX Congreso de la ACE, Tirant lo Blanch, Valencia, 2023 (ponencia).
  10. Artículo “Los usos de la IA en el sector público, su variable impacto y categorización jurídica” Revista Canaria de Administración Pública, nº 1, 2023, pp. 211-242, acceso revista, acceso artículo
  11. Capítulo de Libro, “Reconocimiento facial automatizado y sistemas de identificación biométrica bajo la regulación superpuesta de inteligencia artificial y protección de datos”, en Balaguer, Francisco y Cotino, Lorenzo (2023): Derecho público de la inteligencia artificial, F. Jiménez Abad-Marcial Pons , acceso
  12. Capítulo de Libro, “De la prohibición al reconocimiento de hecho y de Derecho de las denuncias anónimas”, José Luis Ros Medina, José Manuel Mayor Balsas y Encarna Hernández Rodríguez (coords.) Transparencia y participación para una nueva gobernanza: en Memoria de Pepe Molina. Tirant lo Blanch, 2023, págs.. 327 y ss. 978-84-1169-078-2 acceso
  13. Capítulo de Libro, «Discriminación, sesgos e igualdad de la inteligencia artificial en el sector público», en Gamero Casado, Eduardo, (Dir.), Inteligencia artificial y sector público: retos, límites y medios, Tirant lo Blanch, Valencia, 2023, acceso capítulo. Acceso obra
  14. -Artículo “Qué concreta transparencia e información de algoritmos e inteligencia artificial es la debida”, Revista Española de la Transparencia, Núm. 16 (Primer semestre. Enero – junio 2023). acceso

 

Ponencias, comunicaciones a Congresos y conferencias (47)

  1. -Ponencia, “El nuevo Reglamento de Inteligencia Artificial y su importancia para el sector tecnológico», Jornada de clausura Programas para personas directivas de empresas de Andalucía para el liderazgo empresarial- Junta de Andalucía- BIgml, 14 de diciembre, 2023, Sevilla, Online.
  2. -Ponencia, “El fururo reglamento de Inteligencia Artificial y la igualdad de género en la UE” en Seminario “Derecho, Inteligencia Artificial y discriminación: desafíos y oportunidades para cerrar las brechas de género”, Facultad de Derecho de la UCM, 14 de diciembre, 2023, Madrid, Presencial.
  3. -Ponencia, “Protegiendo nuestros derechos digitales frente a la desinformación”, Mesa “La 4ª Generación de los derechos humanos: transformación de los derechos humanos hacia la era digital”, en “IV Jornadas de Derechos Humanos en la Policía Nacional”, Subdirección General del Gabinete Técnico – Área de Derechos Humanos e Igualdad, días 12 y 13 de diciembre de 2023 en la Fundación Bancaja, Valencia.
  4. Ponencia, “Usos y regulación de la Inteligencia Artificial: la propuesta de reglamento europeo para su supervisión y control de riesgos”, Adeit, Valencia, Jueves 30 de noviembre de 2023 a las 17h.
  5. -Ponencia internacional, “Una regulación fuerte de la inteligencia artificial en la Unión Europea y modelos regulatorios blandos como el Código del G7 y la Orden ejecutiva de Estados Unidos”, Academia de Ciencias de Buenos Aires, ciclo organizado prof. Antonio Martino, Buenos Aires, 30 de noviembre, online. https://www.youtube.com/watch?v=aolUhzbvDP8
  6. -Ponencia, “Inteligencia artificial y de alto riesgo en el Reglamento”, en Congreso Internacional, El Reglamento de inteligencia artificial de la Unión Europea. y el avance de los registros públicos”, 27-28 noviembre, Facultad de Derecho. Universidad de Valencia.
  7. -Conferencia en la mesa “Inteligencia artificial: ¿alcanzará el Derecho a las nuevas tecnologías?”, que tuvo lugar dentro de la Jornada “Inteligencia artificial: retos, riesgos y oportunidades”, celebrada el 23 de noviembre de 2023 en la Sala de la Corona del Edificio Pignatelli, sede del Gobierno de Aragón.
  8. -Conferencia, en “La actividad administrativa automatizada y la transparencia”, en Los derechos de acceso a la información pública y participación ante las Administraciones Públicas de Canarias. Evaluación y propuestas de actuación, Dirección General de Transparencia y Participación Ciudadana. Consejería de Presidencia, Administraciones Públicas, Justicia y Seguridad, Gobierno de Canarias, online, 21 noviembre 2023.
  9. -Conferencia, en “Algoritmos Transparentes en un sector público que se va digitalizando”, en Los derechos de acceso a la información pública y participación ante las Administraciones Públicas de Canarias. Evaluación y propuestas de actuación, Dirección General de Transparencia y Participación Ciudadana. Consejería de Presidencia, Administraciones Públicas, Justicia y Seguridad, Gobierno de Canarias, online, 21 noviembre 2023.
  10. -Ponencia internacional, “El Derecho a la Educación como Derecho Fundamental”, Miércoles 15 de Noviembre, Lectio Doctoralis Acto de nombramiento como Doctor honoris causa Universidad Católica de Cuenca, Sede Azogues, Ecuador Universidad Católica de Cuenca, Sede Azogues.
  11. -Ponencia internacional, “Educación Superior de Calidad para el Desarrollo Sostenible” en “Mesa Regional del ODS 4 por una educación superior de calidad e inclusiva”, Jueves 16 de Noviembre, Semana Educa 4A, por la defensa y progresividad del Derecho a la educación, Principios organizacionales, 16 y 17 de noviembre., IDEIN 2023, 15-17 noviembre 2023, Universidad Católica de Cuenca, Sede Cuenca, Ecuador.
  12. -Ponencia internacional, “La Inteligencia Artificial para el Servicio Público Educativo”, en “Coloquio: enfocado en la defensa y progresividad del derecho a la educación”, Viernes 17 de noviembre. Educa 4A, IDEIN, 17 noviembre 2023, Universidad Católica de Cuenca, Sede Cuenca, Ecuador.
  13. -Ponencia internacional, “La incorporación de medios digitales e IA generativa en la enseñanza del Derecho y estrategias colaborativas para la implantación de prácticas de Derecho digital”, en Seminario para docentes de Derecho, Facultad de Derecho, Universidad Católica de Cuenca, Sede Cuenca, Ecuador, Jueves 16 de Noviembre.
  14. Mesa redonda, “Transformación digital basada en los derechos de las personas, Fundación Alternativas-Banco de Santander, Jueves 02 de Noviembre 2023, Madrid. enlace
  15. Ponencia, “La aprobación, prueba e implantación del Reglamento de inteligencia artificial de la Unión Europea”, Congreso Internacional “Garantías, límites constitucionales y perspectiva ética ante la transformación digital: Big data, inteligencia artificial y robótica”, 13 de noviembre de 2023, Facultad de Derecho. Universidad de Valencia.
  16. Conferencia Internacional, en Seminario virtual “Descubriendo nuevas posibilidades: la Inteligencia Artificial en la función judicial”, del 26 de octubre al 30 de noviembre de 2023, Responsabilidad del estado y gobierno abierto. Uso de TIC´s y redes sociales basadas en Inteligencia Artificial por las administraciones públicas, 9 de noviembre. Consejo de la Judicatura Federal y Escuela Federal de Formación Judicial, México.
  17. Ponencia, “Análisis automatizados de datos y sistemas de identificación biométrica bajo la regulación de inteligencia artificial y de protección de datos” Congreso Internacional “Digitalización y algoritmización de la justicia: nuevos retos, desafíos y oportunidades”, 26 y 27 de octubre 2023, Universidad Católica de Valencia San Vicente Mártir, Valencia.
  18. Ponencia, “Regulando la inteligencia artificial y garantizando los derechos digitales”, Congreso Internacional “Perspectiva ética y jurídica del avance de la inteligencia artificial”, miércoles 25 y Jueves 26 de octubre de 2023, Lugar: Facultad de Derecho. Sala Polivalente I Universidad Complutense de Madrid
  19. Ponencia internacional, “La regulación europea de privacidad e inteligencia y su impacto en la era digital 4.0 en Europa y el resto del mundo”, en Jornada universitaria de abogacía digital, “Privacidad y Datos Personales en el contexto jurídico y económico trasnacional de la Era Digital 4.0”, Universidad Católica de Argentina, 17 de octubre de 2023. Presencial. Buenos Aires.
  20. Ponencia internacional, “Inteligencia artificial y los retos de su regulación en la Unión Europea”, Universidad Buenos Aires, Instituto IALAB, 20 de octubre de 2023. Presencial.
  21. Ponencia internacional, con Adrián Palma, IV Congreso ISACA IBEROAMERICA 2023, “El pionero sandbox español para probar el cumplimiento del Reglamento Europeo de Inteligencia Artificial”, online. 4,5,6 de octubre 2023, 4 de octubre.
  22. Ponencia, “Open data y principios fair en la investigación y apertura de datos: la teoría”, en Seminario “Teoría y práctica del Open data en la investigación pública y principios FAIR”, 5 de octubre de 2023, Cátedra PAGODA- Facultad de Derecho U. Valencia, Zoom
  23. Ponencia, La digitalización del sector público Español, presentación del Informe de la Fundación Alternativas, 3 de octubre 2023, Madrid. https://youtu.be/8vNjM-MW1PU
  24. Ponencia, «Inteligencia artificial en el Periodismo: entre Bytes y Democracia», Seminario «Inteligencia artificial y transparencia: impactos y desafíos para el periodismo», Universitat Jaume I, Castellón, Facultad de Periodismo , Conselleria de Transparencia, 2 de octubre de 2023.
  25. Ponencia “La implantación de la transparencia algorítmica en el sector público. La pionera experiencia de la Comunidad Valenciana” que corresponde al Grupo de Trabajo “GT23-09 Inteligencia Artificial y Transparencia” (Coord; Ignacio Criado). Aula 9B, el miércoles 27/09/23, 18:30 horas, 27-29, día 27 de septiembre 2023, VIII Congreso Internacional de Transparencia y Acceso a la Información Acreditra, Facultad de Derecho, Universidad de Alcalá.
  26. Ponencia internacional, Charla magistral de apertura de la Maestría en Derecho y Estado Digital” Universidad Champagnat- Juslab, Mendoza, Argentina, online, 26 de septiembre.
  27. Ponencia «Inteligencia artificial y fraude: como combatirlo mediante la regulación del diseño ético de la IA», 3º Coloquio Ética Digital: desafíos de la IA, Departamento de Filosofía del Derecho y Derecho Internacional Privado, U. Alicante, 29 junio de 2023, (Lucas Misseri, organizador)
  28. Ponencia “Derechos digitales en la era de la Inteligencia artificial”, Curso de Verano sobre “La inteligencia artificial y sus actuales desafíos”, que tendrá lugar en Santander del 24 al 26 de julio, Universidad Internacional Menéndez Pelayo (UIMP) – Cátedra Inteligencia Artificial y Democracia (Globernance / Instituto Europeo de Florencia).
  29. Ponencia internacional invitada, Jornadas inteligencia artificial y Derecho. Como invitado especial en Tercera parte Los desafíos de la era digital frente al Derecho. Universidad Nacional, Grupo lnvestigación en Derecho Constitucional y Derechos Humanos, Facultad de Derecho Ciencias Políticas y Sociales. Sede Bogotá. Martes 30 de mayo, 2023.
  30. Ponencia “Propuesta de regulación de la inteligencia artificial”, en WLW IA SUMMIT 2023, “La inteligencia artificial en el sector legal al servicio de la justicia y la equidad”, 7 de junio de 2023, Centro de Estudios Garrigues- Women in a Legal World.
  31. Ponencia internacional invitada, “Explicabilidad y transparencia de la inteligencia artificial”, en Jornada académica en el marco del Proyecto de investigación sobre el tema “Inteligencia artificial, su reconocimiento como fenómeno jurídico y su impacto en el Derecho privado” (RR 180/2022) (dirección del dr. Fulvio Germán Santarelli).
  32. -Ponencia internacional invitada, “Derecho de las nuevas tecnologías transformación digital e inteligencia artificial” VI Congreso Internacional de Derecho Privado”, Universidad Libre de Colombia, área de Derecho privado de la facultad de Derecho en Bogotá, área de Derecho Privado, jueves 4 mayo.
  33. -Ponencia internacional invitada, “El Derecho ante la disrupción tecnológica”, en Primer coloquio de investigación de la FIADI: Derecho y Tecnología: diálogos, debates y proyecciones desde una perspectiva inter y multidisciplinaria, 11 mayo de 2023, Tecnológico de Monterrey (Ciudad de México).
  34. -Ponencia invitada “Chatgpt y compañIA en la educación: uso, regulación y prohibición”, en VI Congreso Internacional Derecho a la educación, innovación docente y mejora educativa, 8 y 9 de mayo de 2023, Departamento de Derecho Constitucional de la Universidad de Valencia.
  35. Ponencia, “Los derechos digitales de la ciudadanía en sus relaciones con las Administraciones Públicas”, en Jornada “Derechos digitales y Administraciones públicas”, martes 2 de mayo de 2023, Sala Gárate de la Universidad de Deusto (Bilbao)- IVAP.
  36. Ponencia “Cómo abordar jurídicamente los sesgos y discriminación de los sistemas algorítmicos”, en Seminario “Garantías, límites constitucionales y perspectiva ética ante la transformación digital: Big data, inteligencia artificial y robótica”, Facultad de Derecho, Universidad Valencia- Conselleria de Innovación, Generalitat Valenciana, 8 de mayo de 2023, Sala del Hemiciclo Joaquín Tomás Villarroya. Facultad de Derecho. Universidad de Valencia.
  37. Ponencia “La primera aproximación general del Tribunal Constitucional sobre la libertad de expresión e información en internet, en 2022″, en Jornada Garantías constitucionales y proceso penal y el papel del Tribunal Constitucional en sus últimos pronunciamientos, viernes 5 de mayo de 2023, Proyecto “Baluarte” UNIR, Madrid.
  38. -Ponencia, “Garantías para la protección de los derechos fundamentales frente al uso de inteligencia artificial”, Seminario conjunto de filosofía del derecho y derecho público sobre inteligencia artificial, 27 de abril de 2023, sede de la Universitat d’Alacant de Cocentaina.
  39. -Ponencia, en Congreso “Algoritmos públicos abiertos y que no discriminen”, 25-26 de abril de 2023 en Valencia, X Congreso del avance del Gobierno Abierto, VI Congreso de Buen gobierno y transparencia de la Comunitat Valenciana. U. Valencia.
  40. -Ponencia “Gestión de la Privacidad”, “De la ética a privacidad y la regulación de la IA en Europa y España”, Banco Sabadell Ciclo de IA Confiable Sabadell Forum, sobre ética e IA confiable, 25 de abril 2023. Online.
  41. -Ponencia “Novedades principales, composición, organización y funcionamiento del Consejo de transparencia de la Comunidad Valenciana”, en Transparencia y buen gobierno como política de integridad en la Comunitat Valenciana, jueves y viernes 30-31 de marzo 2023, Adeit-Univ. Valencia.
  42. -Ponencia, “Transparencia de los algoritmos: por qué, quién, cuál y cómo”, en «Datos con perspectiva de género y algoritmos transparentes» Observatorio Valenciano de Datos Abiertos y Transparencia – Departament d’Estudis Juridics de l’Estat de la Universidad de Alicante, 23 de marzo 2023. enlace
  43. -Ponencia Cátedra “Qué es la apertura de los algoritmos, para qué y cómo”, en Jornada ¿Necesitamos algoritmos abiertos?, Zoom PAGODA, U. Valencia, Semana de la Administración Abierta 2023, enlace
  44. -Ponencia internacional invitada, “Disrupción tecnológica: ¿Nuevo Derecho y nueva aplicación de la ley? en Congreso “Los retos del Derecho en una sociedad digital, tecnológica e interconectada”, Universidad de Murcia los días 23 y 24 de marzo de 2023, enlace
  45. -Ponencia internacional invitada, “Future of Judicatory with AI”, Second virtual Bahrain International Conference “Usages of Artificial Intelligence in Judicial and Justice Services”, International Group of artificial intelligence (IGOAI), kingdom of Bahrain 7-8 de marzo, 2023.
  46. -Conferencia, “Ya tenemos una Carta de Derechos digitales, ¿y ahora qué?”, Jornada La Carta de derechos digitales ante los nuevos retos disruptivos, jueves 6 de febrero 2023, OdiseIA-CEU San Pablo, Madrid.
/por
, , ,

Disponibles 25 vídeos formativos y píldoras sobre Ética (y Derecho) de la Inteligencia artificial, en Proyecto Unesco que he dirigido

La Cátedra Unesco Desarrollo-Universidad de Valencia ha financiado el proyecto que he tenido el gusto de dirigir, con el apoyo del Dr. Adrián Palma en la Secretaría. Con destacados expertos hemos realizado una decena de vídeos básicos formativos (40-50 minutos) y una quincena de píldoras (5-10 minutos) de los temas esenciales de la Recomendación de la Unesco de Ética de la Inteligencia artificial de noviembre 2021

La UNESCO siguió un proceso de dos años para elaborar el primer instrumento normativo mundial sobre la ética de la inteligencia artificial en forma de recomendación. Este texto histórico establece valores y principios comunes que guiarán la construcción de la infraestructura jurídica necesaria para garantizar un desarrollo saludable de la IA. Leer el texto de la Recomendación

acceso a lista de reproducción Youtube

Aquí tiene un breve vídeo descriptivo y de presentación del proyecto y contenidos. Espero que le interese. No dude en comunicar al respecto de la iniciativa.

 

Contenidos básicos y también formato “Píldora”:

  • Idoia Salazar (Presidenta de OdiseIA, Universidad CEU-Madrid): “Valores y ética y riesgo en la Recomendación de ética e inteligencia artificial”. Vídeo formativo (45’); “Píldora”
  • Lorenzo Cotino Hueso (Catedrático Derecho Constitucional, Universitat de València, OdiseIA, Director del Proyecto): “Transparencia, explicabilidad, trazabilidad, comunicación y auditabilidad de los algoritmos”. Vídeo formativo (45’); “Píldora”
  • Alba Soriano (Profesora ayudante doctora Derecho Administrativo. Universitat de València): “Equidad y no discriminación, políticas de género”. Vídeo formativo (45’); “Píldora”
  • Andrés Boix Palop (Profesor Titular Derecho Administrativo, Universitat de València) IA en el sector público. políticas, gobernanza y Administración Éticas”. Vídeo formativo (45’); “Píldora”
  • Juan Manuel Belloto (OdiseIA, Director Proyecto GuIA): “Los principios éticos en el sector privado y ciclo de vida de la IA”. Vídeo formativo (45’), “Píldora”
  • Adrián Todolí (Profesor Titular Derecho del Trabajo, Universitat de València): “Economía, trabajo y control laboral empresarial”. Vídeo formativo (45’); “Píldora”
  • Mª Dolores Montero Caro (Profesora Dra. Derecho Constitucional U. Córdoba): “IA4good– Sostenibilidad y ODS”. Vídeo formativo (45’); “Píldora”
  • Adrián Palma Ortigosa (Investigador Doctor Junior Departamento Derecho Administrativo. Universitat de València. OdiseIA. Secretario del Proyecto): “IA e intimidad, protección de datos y seguridad”. Vídeo formativo (45’) ; “Píldora”
  • Jorge Castellanos Claramunt (Profesor ayudante doctor Derecho Constitucional. U. València. OdiseIA): “IA, participación, gobernanza y colaboración”. Vídeo formativo (45’); “Píldora”

“Píldoras” breves:

proyecto “La nueva recomendación de la Unesco sobre la Ética de la inteligencia artificial, los derechos humanos y los ODS”, (Lorenzo Cotino, dir.), de Lorenzo Cotino Hueso (Catedrático Derecho Constitucional, Universitat de València, OdiseIA, Director del Proyecto, www.cotino.es) Cátedra Unesco Educación para el Desarrollo-Vicerrectorado de Cooperación, Universidad de Valencia.

 

/por
, , ,

Organizo con la FMGA el Congreso presencial u online “Derechos digitales e inteligencia artificial”, 2 junio, Zaragoza…

la cosa no para, ya con unos 400 inscritos online y presencial, el Jueves 2 de junio he organizado en Zaragoza el siguiente evento

Congreso presencial u online “Derechos digitales e inteligencia artificial”, @Fundacion_MGA,  @cortes_aragon, con ocho ponentes de máximo nivel. + programa  e inscripción gratuita en https://ir.uv.es/M8Q01Z4

vaya programa¡ y además surgirá un estupendo libro de la Fundación.

9,45 h.: Legislar y constitucionalizar los derechos digitales

Dr. Artemi Rallo Lombarte

Senador, exDiputado y Catedrático de Derecho Constitucional de la Universidad Jaume I de Castellón

 

10,25 h.: El diseño ético de la inteligencia artificial para no discriminar ni lesionar derechos

Dra. Idoia Salazar

Presidenta de OdiseIA, Profesora de Periodismo CEU-Madrid

12,00 h.: La privacidad y los derechos digitales

Dra. Mónica Arenas Ramiro

Profesora Contratada Doctora Derecho Constitucional y Delegada de Protección de datos, Universidad de Alcalá

 

12,40 h.: Derechos y garantías ante la automatización policial y de la justicia

Dr. Pere Simó Castellano

Profesor Titular de Derecho Constitucional  de la UNIR. Premio AEPD

16,15 h.: Libertades digitales, plataformas e inteligencia artificial

Dr. Germán Teruel Lozano

Profesor contratado Doctor Derecho Constitucional, responsable Cátedra de Buen Gobierno e Integridad Pública, Universidad de Murcia

 

16,55 h.: Derechos digitales de acceso a la información

Dra. Loreto Corredoira Alfonso

Profesora Titular de Derecho Constitucional, Facultad de Ciencias de la Información Universidad Complutense

18,15 h.: Cómo redefinir los derechos y las garantías ante la disrupción digital

Dr. Lorenzo Cotino Hueso

Catedrático de Derecho Constitucional, Universidad de Valencia, Director de Regulación y Derechos de OdiseIA

 

18,55 h.: El uso público de la inteligencia artificial y la garantía de nuestros derechos

Dr. Juan Gustavo Corvalán

Cofundador y Co-Director del IALAB, Laboratorio de Innovación e Inteligencia Artificial de la Facultad de Derecho de la Universidad de Buenos Aires

/por
, , , ,

Publicado el libro que he dirigido, Derechos y garantías ante la inteligencia artificial y las decisiones automatizadas…

 

Marcelo Bauzá, Presidente de la FIADI (Federación Iberoamericana de Asociaciones de Derecho e Informática ) y tantos años colega y amigo, me lanzó el reto de dirigir y editar una investigación de la que resultara una obra centrada en los Derechos y garantías ante la inteligencia artificial y decisiones automatizadas. Y había de ser una obra de dimensión internacional, distanciada de los localismos nacionales, que sea de referencia a uno y otro lado del charco. Las problemáticas e impactos de la IA en los derechos son similares, y la lengua común de los derechos fundamentales nos permite mantener un diálogo jurídico internacional.

Pues bien, es un orgullo haber dirigido y coordinado la obra más completa en materia de derechos fundamentales e IA en español. Tras la distribución de los temas esenciales, correspondía una buena elección de autoras y autores de uno y otro lado del charco. Y, ciertamente, se puede presumir de contar con doce doctoras o doctores entre los autores. En algunos casos con una muy larga trayectoria digital. En el caso de investigadores más jóvenes incluso se cuenta con dos autores de tesis doctorales en la materia. Asimismo, cabe indicar que la obra cuenta con seis autorías desde Iberoamérica, siete desde España y una italiana. Todas y todos son juristas, salvo en el caso de Idoia Salazar, Presidenta de OdiseIA, la Asociación más importante en la materia en español y en la que tengo el orgullo de participar coordinando las áreas jurídicas.

Lamentablemente, las circunstancias de los últimos tiempos han retrasado este proyecto más de lo que corresponde a una materia tan actual y dinámica. Pero nunca es tarde si la dicha es buena y, sobre todo, si los resultados son excelentes. Y ambos lo son.

Ni más ni menos que se cuenta con un prólogo de Nelson Remolina, Delegado de protección de datos Colombia, Premio AEPD y Profesor, con mayúsculas y en el amplio sentido de la palabra, de la Universidad de los Andes.

Agradezco y mucho a mi colega y experto en la materia, Javier Plaza, de la Universidad de Valencia, las facilidades para trabajar con una editorial de tanto prestigio.

El libro ya ha visto la luz

Derechos y garantías ante la inteligencia artificial y las decisiones automatizadas, Aranzadi, Cizur Menor, 2022, España, ISBN: 978-84-1124-501-2

https://www.thomsonreuters.es/es/tienda/duo-papel-ebook/derechos-y-garantias-ante-la-inteligencia-artificial-y-las-decisiones-automatizadas-monografia-n%C2%BA-48-revista-derecho-patrimonialduo/p/10020329

Aquí se puede acceder al ÍNDICE Y PRESENTACIÓN DE LA OBRA

y, como botón de muestra de este libro, mi capítulo, Nuevo paradigma en la garantías de los derechos fundamentales y una nueva protección de datos frente al impacto social y colectivo de la inteligencia artificial

La inteligencia artificial (IA) y las decisiones automatizadas a partir del manejo del big data son el centro de la radical transformación digital en la que vivimos. Ello tiene un claro impacto (positivo, pero también negativo) en nuestra dignidad, igualdad y derechos y libertades. Esta  obra lo analiza sistemáticamente y desde los diferentes órdenes implicados. Así, en la parte general se incluye una aproximación técnica, a partir de la cual se propone un (nuevo) marco dogmático del que partir para la garantía de los derechos fundamentales ante la IA. De igual modo se asientan las bases del más conflictivo problema de los sesgos y la discriminación algorítmica. A partir de ahí, se examinan las concretas garantías y derechos, especialmente en el ámbito judicial y de aplicación de la ley. La parte especial de esta obra incluye completos análisis de los derechos y garantías respecto del uso de IA y decisiones automatizadas, de un lado, por los poderes públicos y en el concreto ámbito policial y judicial penal. Del otro lado, del ámbito del sector privado, se analiza la garantía de los derechos de usuarios y consumidores en las plataformas digitales, también en el ámbito fintech-financiero, así como la protección de los mismos empresarios que utilizan las grandes plataformas. También se aborda específicamente la protección de los derechos de trabajadores frente al uso empresarial de la IA y, por último, las garantías concretas ante los usos políticos y participativos.

Esta obra supera una visión localista de Derechos nacionales o particulares para centrarse en la lengua común de los derechos así como en el Derecho europeo. Se ha contado con el impulso de la FIADI (Federación Iberoamericana de Asociaciones de Derecho e Informática). Gracias a ello, además de contar con media docena de los mejores especialistas en Derecho Digital y de la IA de España (e Italia), se integra a otros tantos autores de larga trayectoria y conocimiento del continente americano. El lector tiene ante sí la obra más completa en español sobre decisiones automatizadas, inteligencia artificial y derechos fundamentales.

Un placer poner sobre la “mesa” una aportación tan importante a la literatura especializada. Gracias a los autores y a Marcelo Bauzá.

 

/por