, ,

Propuesta de regulación del Gobierno del Reino Unido de la IA

El documento “A pro-innovation approach to AI regulation: government response”, de 6 de febrero  del Gobierno del Reino Unido se produce en el marco de un proceso en primavera y verano de 2023, con los documentos previos de propuestas y estudios regulatorios desde Parlamento UK, presentados. Ahora en febrero de 2024 se da la posición del Gobierno. Esta posición ha estado precedida de una consulta de 33 preguntas al sector interesado y más de 400 respuestas.

Presenta un enfoque pro-innovación para la regulación de la Inteligencia Artificial (IA), destacando la inversión de más de £100 millones para innovaciones en IA y capacidades técnicas regulatorias. Mientras el Reino Unido aplica un enfoque pro-innovación, el Reglamento de la UE busca establecer reglas claras para el uso de la IA en el mercado europeo. El Reino Unido apuesta por un marco regulatorio que fortalezca y se adapte a la industria de IA y el ecosistema regulatorio ya existente. Se proponen cinco principios transversales (Seguridad, transparencia, equidad, responsabilidad y contestabilidad  ) para que los reguladores los interpreten y apliquen por mecanismos de regulación menos estrictos. En todo caso, se propone una entidad central (“New Central Function”) para la coherencia del régimen y abordar brechas regulatorias. Por otro lado, una regulación “fuerte” vendría por la nueva regulación de protección de datos (Data Protection and Digital Information Bill, DPDI) que sustituya al RGPD después del Brexit.

Me permito señalar los elementos más relevantes

  • Enfoque Pro-Innovación y Pro-Seguridad: La se centra en fomentar la innovación garantizando la seguridad y la confianza pública.
  • Inversión y Apoyo: Más de £100 millones destinados a la innovación en IA y el fortalecimiento de las capacidades técnicas de los reguladores.
  • Marco Regulatorio: cinco principios transversales para la interpretación y aplicación por parte de los reguladores existentes en el Reino Unido. Seguridad, transparencia, equidad, responsabilidad y contestabilidad.
  • “New Central Function”: Para traer coherencia al régimen regulatorio y abordar las brechas. Supone la creación de un ente dentro del gobierno destinada a garantizar una aplicación coherente y efectiva de la regulación en materia de inteligencia artificial (IA) a través de diferentes sectores. Esta entidad tendría la tarea de cerrar brechas regulatorias existentes, facilitar la coordinación entre diferentes organismos reguladores, y garantizar que el enfoque hacia la IA en el país sea uniforme y propicie tanto la innovación como la protección de los ciudadanos.
  • Consultas y Coordinación: Las propuestas se dan en buena medida a raíz de las respuestas al proceso de consultas con reguladores, industria, y la sociedad civil, para un enfoque coherente y efectivo.
  • Pasos siguientes: Se afirma que en los próximos meses se realizarán actividades de apoyo de capacidades y coordinación de los reguladores, incluido un nuevo comité directivo con representantes de los gobiernos y los reguladores para coordinar la gobernanza de la IA. Se afirman consultas específicas para evaluar un marco regulador y riesgos específicos sobre interferencia electoral, discriminación, propiedad intelectual o riesgos futuros como la bioseguridad y la alineación de la IA (“AI alignment”). También conversaciones internacionales en próximas Cumbres sobre Seguridad de la IA en la República de Corea y Francia.

Sin duda un tema para seguir.

,

Última versión “oficial” y publicada del texto del Reglamento IA aprobado y, de regalo, traducción al español automatizada

En entradas anteriores he ido comunicando los textos filtrados y pasos de aprobación del Reglamento IA. Entre estos textos me permito destacar una muy útil versión a tres columnas de las versiones del AIA Act de Comisión, Consejo, Parlamento y la de 2024. También ofrecí una visión rápida de los cambios más relevantes en la versión definitiva acordada.

No obstante, ahora ya tenemos algo público y oficial.

El viernes 9 de febrero el COREPER aprobó el texto del Reglamento UE. El texto había sido filtrado previamente, pero no había una versión oficial y pública.

El martes 13 de febrero y en votación única, las comisiones de Mercado Interior y Libertades Civiles del Parlamento de la UE, votaron favorablemente 71-8 (7 abstenciones) el texto del Reglamento.

Ahora, el texto debe traducirse oficialmente a todos los idiomas de la UE. Asímismo, y esto es importante, será necesaria la renumeración de todos los considerandos y artículos. Igualmente, procederá una aprobación formal por el Parlamento en una sesión plenaria, que se prevé días 10 y 11 de abril. Después, un respaldo final ministerial por el Consejo UE.

El texto de los artículos no puede variar, me comenta un amigo experto que cabría la posibilidad de algún cambio en algún considerando.

Además de estos pasos, hay que subrayar que ya tenemos el último texto público y oficial -no filtrado- del Reglamento IA. A falta del número definitivo de considerandos y artículos, será el texto definitivo del Reglamento.

De postre, me permito disponer una traducción automatizada al español con versión pro AQUÍ, que puede ser bien útil.

un dolçet, que decimos por Valencia ;))

Enlace a la aprobación por el Parlamento 13 de febrero AQUÍ.

Enlace al texto en inglés publicado por el Parlamento AQUÍ.

, , ,

El primer estudio sobre la primera sentencia del TJUE sobre decisiones automatizadas…

El Diario la Ley publica mi estudio «La primera sentencia del Tribunal de Justicia de la Unión Europea sobre decisiones automatizadas y sus implicaciones para la protección de datos y el Reglamento de inteligencia artificial»

La sentencia TJUE del 7 de diciembre de 2023 es la primera que aborda centralmente el artículo 22 RGPD relativo a las decisiones automatizadas. En el estudio se analizan los elementos básicos de la misma:  descripción del supuesto; dudas que eleva el órgano jurisdiccional alemán al TJUE; doctrina general y particular que se establecen, en particular sobre lo que es una “decisión individual” y el alcance de la garantía en el supuesto y respecto del margen de regulación nacional sobre el artículo 22. Asimismo, se brinda una valoración general y reflexión sobre las proyecciones que puede tener para el futuro. En este punto, yendo más allá de lo afirmado por la sentencia se aboga por un claro criterio interpretativo que dote de protección a las decisiones parcialmente automatizadas. Igualmente se explica por qué esta cuestión pasa a ser esencial respecto de la aplicación misma del futuro Reglamento del IA de la UE por ser decisivo para considerar si un sistema de IA es o no de alto riesgo.

Espero que te interese. Gracias por redifundir un tuit como éste.

https://twitter.com/cotino/status/1747533167060300038

, , ,

Disponibles 25 vídeos formativos y píldoras sobre Ética (y Derecho) de la Inteligencia artificial, en Proyecto Unesco que he dirigido

La Cátedra Unesco Desarrollo-Universidad de Valencia ha financiado el proyecto que he tenido el gusto de dirigir, con el apoyo del Dr. Adrián Palma en la Secretaría. Con destacados expertos hemos realizado una decena de vídeos básicos formativos (40-50 minutos) y una quincena de píldoras (5-10 minutos) de los temas esenciales de la Recomendación de la Unesco de Ética de la Inteligencia artificial de noviembre 2021

La UNESCO siguió un proceso de dos años para elaborar el primer instrumento normativo mundial sobre la ética de la inteligencia artificial en forma de recomendación. Este texto histórico establece valores y principios comunes que guiarán la construcción de la infraestructura jurídica necesaria para garantizar un desarrollo saludable de la IA. Leer el texto de la Recomendación

acceso a lista de reproducción Youtube

Aquí tiene un breve vídeo descriptivo y de presentación del proyecto y contenidos. Espero que le interese. No dude en comunicar al respecto de la iniciativa.

 

Contenidos básicos y también formato “Píldora”:

  • Idoia Salazar (Presidenta de OdiseIA, Universidad CEU-Madrid): “Valores y ética y riesgo en la Recomendación de ética e inteligencia artificial”. Vídeo formativo (45’); “Píldora”
  • Lorenzo Cotino Hueso (Catedrático Derecho Constitucional, Universitat de València, OdiseIA, Director del Proyecto): “Transparencia, explicabilidad, trazabilidad, comunicación y auditabilidad de los algoritmos”. Vídeo formativo (45’); “Píldora”
  • Alba Soriano (Profesora ayudante doctora Derecho Administrativo. Universitat de València): “Equidad y no discriminación, políticas de género”. Vídeo formativo (45’); “Píldora”
  • Andrés Boix Palop (Profesor Titular Derecho Administrativo, Universitat de València) IA en el sector público. políticas, gobernanza y Administración Éticas”. Vídeo formativo (45’); “Píldora”
  • Juan Manuel Belloto (OdiseIA, Director Proyecto GuIA): “Los principios éticos en el sector privado y ciclo de vida de la IA”. Vídeo formativo (45’), “Píldora”
  • Adrián Todolí (Profesor Titular Derecho del Trabajo, Universitat de València): “Economía, trabajo y control laboral empresarial”. Vídeo formativo (45’); “Píldora”
  • Mª Dolores Montero Caro (Profesora Dra. Derecho Constitucional U. Córdoba): “IA4good– Sostenibilidad y ODS”. Vídeo formativo (45’); “Píldora”
  • Adrián Palma Ortigosa (Investigador Doctor Junior Departamento Derecho Administrativo. Universitat de València. OdiseIA. Secretario del Proyecto): “IA e intimidad, protección de datos y seguridad”. Vídeo formativo (45’) ; “Píldora”
  • Jorge Castellanos Claramunt (Profesor ayudante doctor Derecho Constitucional. U. València. OdiseIA): “IA, participación, gobernanza y colaboración”. Vídeo formativo (45’); “Píldora”

“Píldoras” breves:

proyecto “La nueva recomendación de la Unesco sobre la Ética de la inteligencia artificial, los derechos humanos y los ODS”, (Lorenzo Cotino, dir.), de Lorenzo Cotino Hueso (Catedrático Derecho Constitucional, Universitat de València, OdiseIA, Director del Proyecto, www.cotino.es) Cátedra Unesco Educación para el Desarrollo-Vicerrectorado de Cooperación, Universidad de Valencia.

 

, , , ,

Publicado el libro Explotación y regulación del uso del big data e inteligencia artificial para los servicios públicos y la ciudad inteligente

Para los que la ven desde fuera puede sorprender lo estresante que es la vida académica. Entre clase y clase, siempre deudores de plazos para entregar el último capítulo o artículo, preparar la próxima conferencia o pedir el próximo proyecto.

Y encima nos pagan por ello. Pues un momento realmente agradable es cuando sale publicado un libro en el que he podido juntar a lo mejor que hay en España en una materia y constituye sin duda una aportación. Y así ha sido con el que acaba de publicarse:

Explotación y regulación del uso del big data e inteligencia artificial para los servicios públicos y la ciudad inteligente que he tenido el gusto de coordinar con mi colega y amigo Adrián Todolí Signes.

si quieres, puedes ayudarnos a difundirlo con un tuit como éste:

https://twitter.com/cotino/status/1486984948120760324

@cotino y @TodoliAdrian coordinan este libro sobre IA, big data en servicios públicos y smart cities, autores y editorial de primera @Tirant_ESP,  saber más… https://www.cotino.es/librobigdata/

Puedes acceder en el siguiente enlace al libro a la web de la editorial

Y en este enlace puedes descargar el índice y la presentación.

Asimismo, como muestra, puedes acceder al capítulo de mi autoría sobre ciberseguridad

El sector público y nuestras ciudades en los próximos años van a un auténtico cambio radical digital. Ello conlleva la explotación de big data especialmente con inteligencia artificial. Pese a sus peligros, no hay marcha atrás, hay que apoyar la innovación, fomentarla, pero también encauzarla y garantizar un diseño para el cumplimiento ético y normativo. Las aportaciones de la obra pretender orientar y apuntalar estos cambios. Para ello se reúne a destacados especialistas y profesionales de diversas disciplinas, desde las instituciones, el sector privado y la academia que analizan las orientaciones a seguir, recomendaciones y estrategias para superar los problemas de la explotación de datos y el uso público de la inteligencia artificial, para conferir ciberseguridad, para el ámbito de salud y para que la colaboración público- privada permita también el cumplimiento normativo. Se examinan usos de las tecnologías disruptivas en el ámbito del empleo, servicios sociales y para el control laboral. Igualmente se reivindican las obligaciones del sector público para proteger las lenguas españolas ante el tsunami de la inteligencia artificial y también se observan las estrategias y avances importantes en Iberoamérica.

El lector dispone de una excelente reflexión de Jorge Castellanos sobre derecho a la ciudad inteligente, en la que se lleva a cabo una relectura de los postulados de Lefebvre con la incidencia del big data y la inteligencia artificial, como especial oportunidad democrática y participativa para nuestras ciudades. Es muy de agradecer la aportación de Antonia Ferrer Sapena y Enrique A. Sánchez Pérez, dos científicos que día a día intentan superar las muchas barreras para la explotación de los datos y en su estudio nos ofrecen estrategias y soluciones. La ciberseguridad es objeto central de atención por quien suscribe y para ello se estudian los estándares, normas y mejores estrategias y medidas de gobernanza para lograrla en el complejo contexto de la smart city. También es un privilegio contar con la colaboración de quienes implantan con seguridad y legalidad los proyectos tecnológicos de nuestras ciudades, desde el sector privado. Así, María Loza nos brinda lecciones aprendidas desde el sector privado para el uso de inteligencia artificial para ciudades inteligentes. Y experiencia de muchos años es la que cuenta Ramón Ferri dirigiendo la oficina de una ciudad inteligente pionera como lo es Valencia. Generosamente relata la implantación de la Plataforma Digital de la Ciudad y otros proyectos relevantes. Íñigo de Miguel es uno de los máximos expertos en España en temas de biosalud y TIC. Nos comparte seis consejos para evitar problemas éticos y jurídicos para el desarrollo de mecanismos de inteligencia artificial por parte de las entidades de salud. Alba Soriano pese a su juventud es uno de los máximos referentes en España sobre el Derecho de la inteligencia artificial con gran proyección internacional. Su aportación en esta obra tiene especial interés. Relata el uso de sistemas automatizados por el servicio público de empleo austriaco y los más que difíciles equilibrios con la igualdad y categorías especiales de datos. Mucho de lo que aprender.

Especialmente sensible es la utilización del big data y la inteligencia artificial para la aplicación de la ley la detección y persecución de ilícitos. Y de hecho es difícil saber ciertamente qué se está haciendo y cómo. Hay que destacar tres estudios al respecto en esta obra. La Comisión Nacional de los Mercados y la Competencia es una Administración especialmente innovadora en nuestro país y Pilar Vega Vicente desde esta institución relata la experiencia que están teniendo, especialmente valiosa. En el ámbito de inspección social y trabajo se cuenta con los más que brillantes y finos análisis jurídicos del coeditor de la obra -Adrián Todolí- y de una referencia del Derecho público en España como Manuel Izquierdo-Carrasco. Ambos analizan el uso de algoritmos, sistemas automatizados e inteligencia artificial por la inspección de trabajo y en el orden social.

Finalmente, es especialmente destacable el análisis -y también reivindicación- que Vicenta Tasa Fuster hace sobre las obligaciones lingüísticas de las administraciones públicas ante la inteligencia artificial. En el tsunami de la inteligencia artificial las lenguas españolas no quedan indemnes -especialmente las lenguas cooficiales- y se hace precisa la acción, recursos e inteligencia humana por nuestros poderes públicos. Se concluye la obra con una mirada a las estrategias de explotación de datos e inteligencia artificial desde la región iberoamericana, ya muy activa, gracias a la aproximación de otro colega -y además amigo-  Marco Emilio Sánchez Acevedo, quien es desde hace años referencia en el Derecho de las TIC y la ciberseguridad en Colombia.

La disrupción tecnológica está suponiendo también una eclosión de literatura especializada. Ello es muy positivo. En cualquier caso, esta obra se distingue entre otras no sólo por la contrastada calidad de sus autores, sino por su especial enfoque hacia el sector público y la ciudad inteligente, algo que sigue sin ser tan habitual en nuestro país. Adrián Todolí y yo mismo estamos orgullosos de coordinar esta monografía que, sin duda, ha de suponer una referencia en español y en España. Y quedaremos especialmente satisfechos si este conocimiento puede apuntalar la transformación digital de nuestras ciudades y del sector público que se va a dar los próximos años.

Gracias.

 

, , ,

El prestigioso ITI publica mi Guía de Protección de Datos en Inteligencia Artificial y Espacios de Datos…

Es un honor sacar adelante este proyecto con el prestigioso Instituto Tecnológico de Informática,  ITI , referente en España y Europa y gracias a una edición tan profesional de Óscar Valle y Daniel Sáez, y también la revisión de Nieves Ruiz. Muchas gracias a todos ellos. La Guía nace a fines de 2019 del proyecto VAIH: DIH en Inteligencia Artificial y ha resultado un documento de más de 100 páginas.

si lo cree oportuno, puede ayudarme con la difusión de este tuit, gracias

EN ESTE ENLACE PUEDE ACCEDER GRATUITAMENTE al texto completo  de la misma con un muy sencillo registro.

También EN ESTE ENLACE PUEDE DESCARGAR EL ÍNDICE directamente. 

Se trata de la Guía de Protección de Datos en IA y Espacios de Datos. Su título es bastante más amplio: Guía para el cumplimiento normativo en la investigación y experimentación con Inteligencia Artificial y tecnologías conexas en Espacios de Innovación con Datos, centrada en privacidad y data governance, ITI, Valencia, 2021, ISBN: 978-84-09-31738-7.

Se intenta aportar un grano de arena a sumar a los ya importantes avances para aclarar y mejorar el marco jurídico de la investigación con datos, algo tan necesario especialmente en el contexto de la IA y las tecnologías conexas o la biomedicina.  

En www.cotino.es puede accederse al texto de otras publicaciones afines, como ésta PUBLICACIÓN sobre datos personales investigación y biomedicina. 

Espero que le interese, gracias.

Contenido básico:

I. Acerca de ITI y su DATA Space

II. Áreas de especial objeto de atención en esta guía

III. ¿Qué normas se aplican?

IV. ¿Cuándo y dónde se aplica la normativa de protección de datos?

V. ¿Qué tipos de datos personales hay que distinguir?

VI. Quién es quién desde la protección de datos y sus obligaciones. La gobernanza de los datos en las organizaciones

VII. Un régimen general más flexible y favorable para la investigación científica

VIII. ¿Cómo deben tratarse los datos en la investigación? los principios del tratamiento de datos

IX. ¿Cuándo se pueden tratar –o ceder- datos? La “legitimación” del tratamiento y la especial flexibilización para el caso de la investigación

X ¿Para qué finalidades se pueden manejar o tratar datos? El uso en la investigación

XI. ¿Qué obligaciones hay que cumplir si se tratan datos y qué medidas hay que adoptar?

XII. Especial atención a la anonimización y seudoanonimización. Una estrategia básica para poder tratar datos para la investigación

XIII. ¿Puedo enviar los datos fuera de España?

XIV. ¿Pueden las personas ejercer derechos y reclamaciones ante las entidades de un ecosistema de investigación i-Spaces como Data Space?

XV. ¿Hay derechos o “propiedad” sobre los datos, el big data o los algoritmos?

XVI. Ética y cumplimiento normativo específico en Inteligencia artificial

 

,

Los primeros en analizar el nuevo Reglamento de inteligencia artificial de la Unión Europea

26 abril 18 h Jornada nuevo Reglamento de inteligencia artificial UE

con la colaboración de varias universidades, y por supuesto la mía, coordino el primer evento en España y seguro que de los primeros en toda Europa. Hemos organizado desde OdiseIA (Observatorio Impacto Ético y Social de la Inteligencia Artificial) y FIAL (Fundación Inteligencia artificial Legal) el primer evento sobre “La propuesta de regulación de la inteligencia artificial en la Unión Europea”.

Puede acceder al programa

https://ir.uv.es/vkU9pgi

inscripción libre en: https://ir.uv.es/S9KSCR1

Se analiza la propuesta de reglamento de la Comisión UE presentada el 21 de abril

En un formato ágil, se trata de breves intervenciones y posterior debate a cargo de

-Miguel Valle del Olmo, Secretaría de Estado de Digitalización e Inteligencia Artificial

-Richard Benjamins. Chief AI & Data Strategist en Telefónica, cofundador y vicepresidente de OdiseIA

-Lorenzo Cotino Hueso, Catedrático de Derecho Constitucional, Universidad de Valencia, Director de Privacidad y derechos de OdiseIA

-Juan Antonio Carrillo Donaire, Catedrático (acr.) de Derecho Administrativo Universidad de Oviedo, Vicepresidente -Director General FIAL

-Alejandro Huergo Lora, Catedrático de Derecho Administrativo Universidad de Oviedo, patrono y fundador FIAL

-Juan Murillo Arias, Data Strategy Senior Manager en BBVA y Director de Ciudades Inteligentes de OdiseIA

Un gusto coordinar con mi colega J. A. Carrillo

muchas gracias por su interés y por difundir este evento con un tuit como éste

¿Quieres conocer la propuesta de regulación de la #InteligenciaArtificial en la Unión Europea? Grandes expertos te lo cuentan el próximo lunes 26 de abril 18 h de la mano de @odise_ia y @fial_la. Programa https://ir.uv.es/vkU9pgi Inscripción libre https://ir.uv.es/S9KSCR1

 

, ,

diálogo DAIA sobre Transparencia, trazabilidad y explicabilidad de los algoritmos de Inteligencia Artificial en las decisiones administrativas

Esta segunda sesión va a ser un diálogo entre Tecnología y Derecho sobre “Transparencia, trazabilidad y explicabilidad de los algoritmos de Inteligencia Artificial en las decisiones administrativas”.

Será el próximo Jueves 25 de marzo 17-19 h (vía Zoom), habrá tiempo para cuestiones, reflexión y debate de asistentes.

+info y programa en http://reddaia.org/blog-post/actualidad/

inscripción libre http://eventos.um.es/go/seminarioDAIA

Como Gamero lo ha anunciado: ¿Podremos entendernos algún día juristas y tecnólogos? ¿Comprenderemos nosotros las particularidades de la inteligencia artificial? ¿Conseguiremos que ellos asuman los límites jurídicos de su empleo?

Una de las cuestiones centrales de la aplicación de la inteligencia artificial a la toma de decisiones administrativas es la trazabilidad y explicabilidad de los algoritmos, que influye en aspectos como la transparencia o la motivación.

El diálogo correrá a cargo de Alexander Zlotnik y Julián Valero Torrijos. Alexander es Ingeniero Superior de Telecomunicaciones, Dr. en Inteligencia Artificial U. Politécnica de Madrid. Jefe de Área de Proyectos Internacionales DG. de Sistemas de Información y Salud Digital del Sistema Nacional de Salud, Ministerio de Sanidad. Julián Valero es Catedrático de Derecho Administrativo de la Universidad de Murcia. Coordinador iDerTec-Grupo de investigación “Innovación, Derecho y Tecnología”

¿Nos ayuda a la difusión con el siguiente tuit?

Seminario Red DAIA @daia_red, jueves 25 17-19 h Transparencia, trazabilidad y explicabilidad de #InteligenciaArtificial en las decisiones administrativas. Diálogo de Zlotnik, Ing. Dr. en IA-Ministerio, con @jvalerot +info e inscripción http://reddaia.org/blog-post/actualidad/