PRESENTACIÓN

Si hubiera que caracterizar en dos palabras la temática que más atención pública ha concitado (sin perjuicio de la preocupación por la guerra de Ucrania) en los seis meses que han pasado desde la publicación del último número de la ReDCE, esas serían sin duda “Inteligencia Artificial”. El desarrollo de la IA generativa ha provocado una preocupación creciente en la opinión pública que está dando lugar a una sensación de alarma respecto de sus consecuencias futuras. Hay, desde luego, una gran cantidad de ruido que se está formando en torno a las nuevas aplicaciones. Se alzan voces en favor de una moratoria en las investigaciones que haga posible una reflexión colectiva, dificultada actualmente por la rapidez con la que se producen los nuevos adelantos tecnológicos. También, de manera paradójica, los propios impulsores de estos avances (como es el caso del ChatGPT) advierten sobre los riesgos y piden más regulación pública.

No cabe duda de que en todas estas manifestaciones y en el ruido que se está produciendo pueden estar presentes los intereses de grandes compañías tecnológicas que se han visto sorprendidas por estos nuevos ámbitos de negocio. Se trata de nuevas aplicaciones que ponen en peligro sus beneficios y quizás querrían esas compañías que el desarrollo tecnológico se parara ahora, para no poner en riesgo la viabilidad económica de los monopolios que han generado. También hay que considerar los intereses de las que han desarrollado las nuevas aplicaciones de IA generativa y que posiblemente quieren adelantarse a la regulación pública para orientarla en beneficio de sus intereses y, eventualmente, poder consolidar posiciones de dominio o de monopolio en el futuro, en su área de actividad.

Sin embargo, una suspensión del desarrollo tecnológico en el contexto de la tercera globalización no podría estar garantizada por ninguna autoridad. Como mucho podría adoptarse en Estados Unidos y en la Unión Europea, dejando a China todo el campo libre no sólo para investigar sino también para decidir cómo configurar el futuro de la Inteligencia Artificial. Si el desarrollo de la IA en contextos democráticos es ya problemático, dejarlo exclusivamente en las manos de un Estado como China potenciaría enormemente los riesgos. En todo caso, la propuesta de moratoria incurre en una confusión que siempre ha estado presente en el análisis de la sociedad tecnológica y de la nueva realidad virtual: la de atribuir al desarrollo tecnológico, cualquiera que sea su finalidad, una condición autónoma, como si los avances técnicos fueran neutrales y no el resultado de intereses económicos previos, que no siempre coinciden con los intereses públicos.

Lo anterior no obsta para reconocer que la IA generativa plantea problemas nuevos, no sólo por la dificultad para comprender el alcance de sus posibilidades y sus peligros actuales sino también por el avance tan acelerado que está teniendo y tendrá previsiblemente en el futuro. Frente a esto, suspender el desarrollo tecnológico no es viable, pero orientarlo a las necesidades de la sociedad sí. Dejarlo completamente en manos de compañías que tienen un interés puramente económico sin ningún control público ha demostrado ser un riesgo muy grande para los derechos fundamentales, la democracia y los principios y valores constitucionales. Cuando menos, las nuevas aplicaciones y sus variantes deberían estar sometidas a un análisis de impacto tecnológico similar a los de impacto ambiental o de género.

Teniendo en cuenta que las causas de los problemas que plantea el nuevo mundo virtual se sitúan más allá del Estado y de la constitución estatal, por depender de grandes compañías tecnológicas cuyo ámbito de actuación es global, la intervención de los grandes Estados y de las instituciones supranacionales sobre los efectos parece más viable. Desde esa perspectiva, la evaluación del impacto tecnológico de las aplicaciones y la certificación previa a su lanzamiento podría ser impulsada por esos Estados y por la Unión Europea, limitando el acceso a sus mercados de aquéllas que no tuvieran las condiciones de seguridad requeridas. La regulación pública es necesaria y no debe estar condicionada por las grandes compañías tecnológicas, ni favorecer sus intereses dificultando la libre competencia, tan escasa en este sector. Las líneas de actuación que se están planteando Estados Unidos, China y la Unión Europea reflejan la preocupación extendida sobre los riesgos de las aplicaciones de IA generativa.

El principal problema con que nos enfrentamos en relación con los posibles efectos disfuncionales de la IA generativa es que desconocemos cuáles pueden ser esos efectos. Estamos ante aplicaciones que se han puesto en el mercado sin que sus propios creadores sean conscientes de las consecuencias que puede causar su utilización (algo que seguramente está también en el origen del ruido que ellos mismos están generando, quizás para ocultar su responsabilidad). No obstante, en su configuración actual, ya se pueden señalar algunas cuestiones que se pueden plantear y que tienen que ver con las preocupaciones indicadas por los expertos en relación con la posible difusión masiva de desinformación y la pérdida de la capacidad de sus usuarios de distinguir entre lo auténtico y lo falso. Los efectos potencialmente disfuncionales de la IA generativa van más allá de los procesos comunicativos y de la distorsión de la verdad y el aumento de la incerteza en el ámbito social y político, que ha sido el campo de actuación esencial de las redes sociales y de las aplicaciones desarrolladas por las compañías tecnológicas hasta ahora.

Por lo que a la Unión Europea se refiere, el esfuerzo regulador que está realizando es enorme y se manifiesta ya en dos normativas recientes como son el Reglamento (UE) 2022/2065 del Parlamento Europeo y del Consejo de 19 de octubre de 2022 relativo a un mercado único de servicios digitales y por el que se modifica la Directiva 2000/31/CE (Reglamento de Servicios Digitales) y el Reglamento (UE) 2022/1925 del Parlamento Europeo y del Consejo de 14 de septiembre de 2022 sobre mercados disputables y equitativos en el sector digital y por el que se modifican las Directivas (UE) 2019/1937 y (UE) 2020/1828 (Reglamento de Mercados Digitales).

A ellos se une la normativa en curso de elaboración sobre la Inteligencia Artificial: la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la Unión. Esta propuesta fue elaborada antes de que se produjeran los últimos desarrollos de la IA, pero la duración de su proceso de elaboración ha permitido que se incorporen algunas condiciones a la IA generativa, como la obligación de indicar que los contenidos producidos mediante aplicaciones tales como ChatGPT han sido generados a través de IA.

Es todavía muy pronto para valorar la eficacia de esta amplia normativa europea, tanto la ya aprobada como la que se está ultimando. Parece más fácil actualmente, con todo lo complicado que pueda ser, controlar la utilización de la IA y de los algoritmos que se ha hecho hasta ahora por parte de las compañías tecnológicas que las nuevas aplicaciones de Inteligencia Artificial generativa. Los problemas que se anuncian son enormes porque, en su formulación actual, un uso indebido generalizado de esas aplicaciones puede afectar a vertientes estructurales del sistema jurídico, de la investigación científica y de la actividad económica. De ahí la alarma que ha generado entre sus propios creadores, que quizás no pensaron en esos usos irresponsables o no llegaron a plantearse las consecuencias que podían tener. Esperemos que no sólo la Unión Europea sino también los otros agentes globales con capacidad reguladora hagan sus deberes y eviten esos efectos disfuncionales.

El número 39 de la ReDCE mantiene el título del número anterior, “Integración europea y descentralización territorial después de la pandemia” porque incorpora también, en su parte monografíca, ponencias del Seminario que celebramos en Granada el 29 de abril de 2022, con el mismo título, coordinado por Antonio Pérez Miras y Eloísa Pérez Conchillo. Como indicamos en el número 38, el seminario sirvió de marco a la Presentación del libro Costituzione, Diritti, Europa. Giornate in onore di Silvio Gambino, a cura di Guerino D'Ignazio, Giovanni Moschella, Editoriale Scientifica, Napoli, 2019. En este número de la revista se recogen las tres últimas ponencias del Seminario. En primer lugar, la de Guerino D’Ignazio, “Autonomía, unidad y asimetría: el regionalismo italiano y el momento constitucional pandémico. Reflexiones comparadas”, en segundo lugar, la de Giovanni Moschella, “La perspectiva del reparto territorial del poder: las lecciones de la pandemia” y, en tercer lugar, la de Eleonora Ceccherini “Dinámicas cooperativas centro-periferia y emergencia pandémica. Reflexiones de derecho comparado”.

La Sección de artículos está encabezada por un texto de Luigi Moccia “La ley justa: en busca de una nueva Antígona para la humanidad”. Se trata de una reflexión profunda sobre la justicia y la paz que aporta una dimensión teórica y metodológica, a la vez que tiene en cuenta la actualidad del retroceso civilizatorio de la guerra de Ucrania. Le sigue un trabajo de Stelio Mangiameli sobre “Imperios y Estados y las nuevas relaciones internacionales” una temática que nos conduce también a la cuestión de la guerra de Ucrania a través de un análisis histórico muy fundamentado que permite aportar claves para comprender las relaciones internacionales de nuestro tiempo. En el último artículo de esta sección, “Inteligencia Artificial y fuentes del Derecho”, Juan Francisco Sánchez Barrilao, como especialista reconocido en ambas temáticas, aborda la cuestión esencial de la relación entre ellas, analizándola en toda su complejidad y en sus distintas vertientes posibles.

La sección de Perfiles incluye una entrevista que me ha realizado el Profesor de la Universidad de Mesina Alberto Randazzo con motivo de la publicación de mi libro La constitución del algoritmo por la Fundación Manuel Giménez Abad (2022). La entrevista en castellano se ha incorporado a la segunda edición del libro (2023) mientras que en su idioma original se ha publicado recientemente en Italia en la revista Nomos y en portugués en Brasil en la revista Espaço Jurídico Journal of Law [EJJL].

La Sección de textos clásicos incorpora un nuevo texto de Peter Häberle, “La contribución de la doctrina iuspublicista española al debate constitucional común europeo” traducido del alemán por Pablo Meix Cereceda y dedicado inicialmente a un homenaje al ilustre constitucionalista español José Juan González Encinar. Un homenaje al que nos queremos sumar con su publicación en la ReDCE.

En la Sección de Jurisprudencia, el texto “La jurisprudencia europea en defensa de las garantías del procedimiento de protección internacional frente a la saturación de los sistemas nacionales”, de María Dolores Requena de Torre, plantea reformas que hagan posible una regulación europea que evite las lesiones a los derechos humanos provocadas por los Estados miembros. En la Sección de Legislación, María Luisa Balaguer incluye temáticas que están siendo objeto de atención por parte de la Unión Europea, como la Inteligencia Artificial, el cambio climático o la igualdad y no discriminación. En el Foro publicamos un texto de Ignacio Gutiérrez Gutiérrez, de clara inspiración häberliana “El jurista europeo”, una reflexión sobre la comunidad de los juristas en Europa y sobre la autonomía del derecho.

En las noticias de libros se incluyen tres recensiones. La que realiza Miguel Arjona Sánchez sobre el libro de Antonio Cantaro recientemente publicado en Italia: L´orologio della guerra. Chi ha spento le luci della pace, Antonio Cantaro, NTS Media, 2023, que nos muestra de nuevo como en Italia hay un proceso de reflexión muy profundo sobre la paz que se ha abierto con motivo de la guerra de Ucrania. La segunda, realizada por Pablo Cruz Mantilla de los Ríos sobre el libro de Augusto Aguilar Naturaleza y eficacia de la Carta de Derechos Fundamentales de la Unión Europea, CEPC, Madrid, 2021. Se trata de una obra esencial que continua una línea de pensamiento muy fructífera del autor sobre el Derecho europeo desde una perspectiva constitucional. La tercera, de Andrea Garrido Raya, sobre el libro de Calogero Pizzolo, El sistema europeo de protección multinivel de derechos humanos en su laberinto, Universidad Nacional de Córdoba, 2022. Una obra inspiradora en la que su autor pone el acento, acertadamente, en la flexibilidad, el diálogo y la convergencia para la construcción de un sistema de protección multinivel armónico.

En el mes de enero falleció uno de los grandes juristas europeos, referente de varias generaciones de iuspublicistas, Klaus Stern. Su enorme aportación a la doctrina constitucional debe ser destacada. Una parte de su monumental obra sería traducida también al castellano y publicada por el CEPC. Como no podríamos expresar de mejor manera la dimensión de su persona y su obra, nos remitimos al recordatorio que le ha dedicado Antonio Jiménez-Blanco: https://almacendederecho.org/klaus-stern-1932-2023.

También en enero se produjo el fallecimiento de Hermann-Josef Blanke, Catedrático de la Universidad de Erfurt y Catedrático Jean Monnet. Apenas unos meses antes había impartido un Seminario en Granada sobre "The European (Union ́s) Rule of Law and its Objectors: Observations on the Situation in Poland". Era un europeísta convencido que tenía todavía mucho que aportar a la construcción de Europa.

En el apartado de agradecimientos tenemos que mencionar a Thomson Reuters y a la Fundación Peter Häberle. En el ámbito nacional hay que referirse al Proyecto de Investigación PID2019-106118GB-I00 “La configuración del espacio público en las redes sociales y su incidencia sobre la democracia pluralista y la constitución”. En el ámbito europeo, a la Cátedra Jean Monnet “ad personam” de Derecho Constitucional Europeo y Globalización, al Proyecto Jean Monnet "The constitutional bases of Europe: building a common European constitutional culture" y a la Cátedra Jean Monnet “Integration of asylum-seekers and refugees in the European Unión”
.

Catedrático de Derecho Constitucional. Catedrático Jean Monnet ad personam.