"ReDCE núm. 39. Enero-Junio de 2023"
"ReDCE núm. 39. Enero-Junio de 2023"
|
|
La Unión Europea viene prestando atención, desde hace tiempo, a aquellos elementos que caracterizan los problemas de los Estados miembros; desde los principios y valores que atienden a la igualdad, al deterioro progresivo del medio ambiente, y la progresiva digitalización social, sometida ésta a los controles de ciberseguridad. La preocupación por el respeto a los derechos fundamentales de la ciudadanía de la Unión, y, al mismo tiempo, la posición de la UE en el liderazgo de las nuevas tecnologías, llevan a plantear una exigencia, la de una normativa que dé cobertura a las nuevas situaciones que presenta hoy una sociedad plural y compleja como la de Europa. Es en relación con esta exigencia, que analizamos la normativa incumbente a la interdicción de la discriminación racial, la defensa del medio ambiente y la inteligencia artificial.
El DOUE publica el 5 de mayo de 2023 la Resolución del Parlamento Europeo de 10 de noviembre de 2022, sobre justicia racial, no discriminación y antirracismo en la Unión 2022/2005/INI.
Las consideraciones en que se basa la Resolución se justifican en una serie de considerandos, entre los que destaca, la necesidad de fomentar los valores de respeto a la dignidad, la libertad y la democracia de los Estados parte de la Unión y la formulación de la defensa de las minorías, que reconoce el art. 2 del TUE, y la igualdad de trato de la Carta Europea de los derechos fundamentales de la Unión.
Se considera el concepto de raza, como una construcción social de carácter peyorativo en la que se sustentan comportamientos contrarios a los valores de la Unión. Ello justifica que el Plan de Acción de la UE Antirracismo para 2020-2025, se convierta en el primer instrumento político por el que en la Unión se reconoce la dimensión estructural del racismo, en relación con el colonialismo y la esclavitud y otras formas parecidas de discriminación social, sobre las que se están iniciando ahora medidas efectivas por parte del UE.
De ahí que, mediante estas resoluciones, se afronte la ausencia de una Directiva que el Consejo viene retrasando desde 2008, haciéndose una particular referencia a las mujeres discriminadas por el racismo, y que ––dado que tiene también una consideración explicita en los medios de comunicación–– se tenga en cuenta esta circunstancia para acometer de manera específica este problema de la desigualdad de las mujeres, sobre todo de las que pueden venir de terceros países.
A menudo esa desigualdad ante el otro se manifiesta mediante la incitación al odio por parte de algunos sectores, lo que en relación con el racismo exige un tipo de respuestas más eficaces y protectoras.
La resolución razona sobre la necesidad de crear condiciones de erradicación de ese problema y propone una serie de medidas como el fomento de un liderazgo político y continuado a los más altos niveles, capaz de reaccionar rápidamente a esas conductas, y un marco jurídico de creación normativa en la que puedan asentarse estas.
Su aplicación tendrá como sujetos a las minorías étnicas, raciales, religiosas, inmigrantes y, en general a las personas necesitadas de esta protección, especialmente LGBTQI.
La necesidad de trabajar por una Europa más protectora de los derechos debe completarse con la ampliación del reconocimiento de los delitos de odio, y plantea algunas situaciones en relación con la sociedad digital. En primer lugar, celebra la ley de servicios digitales de 2020 y su posición respecto de la lucha contra la incitación al odio por parte de las redes sociales, y reconoce a la inteligencia artificial como un instrumento válido en la aplicación de los datos, para conocer a los grupos que sufren esta discriminación, pero al mismo tiempo manifiesta su preocupación por que la aplicación de la IA también pueda ser un riesgo para la garantía de los derechos fundamentales, mediante una utilización poco transparente del uso de los medios policiales. En ese sentido, la trasparencia y claridad en su utilización son elementos imprescindibles por parte de los Estados.
Otro elemento de importancia es la correspondencia de estos grupos con niveles altos de pobreza e incluso de riesgo para las mujeres, especialmente de África, donde ––como se refiere esta resolución–– estas están necesitadas de una mayor atención, por sus circunstancias sociales de cautividad conyugal, mutilación femenina, y otros condicionantes. Igualmente ha de considerarse de manera especial al colectivo gitano.
En esa hoja de ruta se señala la exigencia de una regulación posterior acerca de todas y cada una de estas situaciones.
Resolución del Parlamento Europeo de 20 de octubre de 2022 sobre la Conferencia de las Naciones Unidas sobre el Cambio Climático de 2022 (COP27) en Sharm el sheij (Egipto) (2022/2673) (RSP).
El Parlamento Europeo se hace eco de la situación descrita por las Naciones Unidas, en relación con la situación de emergencia climática y medioambiental y se compromete a adoptar medidas concretas para contener esta amenaza mundial. Analiza la crisis de la pérdida de biodiversidad y sus consecuencias en el cambio climático, la amenaza para la vida del planeta y la urgencia de la situación.
El compromiso de la Unión con el cambio climático se deja ver aquí desde el Acuerdo de París, aunque se reconoce que no se han cubierto las expectativas allí deseadas, de manera, que hoy las sequías, las olas de calor, inundaciones muestran un panorama para el futuro muy comprometido, con impactos difíciles de gestionar, lo que debe urgir a acciones más contundentes. La meta del 2025 exige que se reduzcan los niveles de las emisiones mundiales en un 43 por ciento respecto a los de 2019 y hace una previsión para 2030. Pese a ello, las previsiones seguirían siendo pesimistas.
La crisis energética se ha centrado sobre todo en la exigencia de reducir el consumo de energía y su diversificación, pero también en el conflicto bélico entre Rusia y Ucrania que ha tenido efectos colaterales en relación con el tratamiento energético, pues la dependencia europea de los combustibles fósiles, y la inestabilidad de los mercados alcanza también al medio ambiente; en este documento se da cuenta de esa circunstancia respecto al problema medio ambiental.
En el documento se analiza también el efecto sobre la salud de la ciudadanía de la Unión y la degradación del medio ambiente dada su repercusión en la industria, la escasez de agua y el calentamiento global.
Esta afectación a los derechos humanos a veces se traduce en masivas migraciones que afectan al equilibrio territorial y que pueden ser evitadas, en parte, con medidas que activen mecanismos eficientes.
El Pacto para el clima de Glasgow y la COP27 considera que la limitación del calentamiento global a un máximo de 1.5 grados centígrados exige una década de actividad y plantea otros objetivos sobre aspectos colaterales de este problema. Este también es el caso de las acciones, que se están llevando a cabo en determinados contextos geográficos, cuyos retos para conseguir reducir el cambio climático son similares, como la Acción Mundial sobre el Clima de la Alianza de Marrakech y otras.
La crisis climática presenta también una relación importante con la biodiversidad, por lo que la idea de repoblación forestal y el cuidado de los océanos, no deberían olvidarse a la hora de diseñar programas sobre el tratamiento y mejora de las condiciones climáticas.
Que todas estas acciones precisen fuertes presupuestos de ejecución no debe ser un obstáculo insalvable, si tenemos en cuenta la importancia del problema, por lo que los países más desarrollados deberán contribuir en la medida de sus capacidades al sostenimiento de estos, y sus gobiernos deberán responsabilizarse de adoptar políticas precisas.
Finalmente se considera importante el papel a desarrollar por el Parlamento Europeo, en cuando a la logística y acogida de iniciativas que contribuyan a reducir el problema del avance de ese deterioro medioambiental, que amenaza a la humanidad.
4.1. Libro Blanco de la Inteligencia Artificial.
La normativa sobre la Inteligencia artificial avanza ya en Europa, con una propuesta del Parlamento, sobre la que la Comisión hará una propuesta de Reglamento y cuyos criterios de determinación para esa legislación europea son tres: el respeto a los derechos humanos, la innovación y las garantías de seguridad. La UE destina una cantidad de 20.000 de euros al año, para la inversión en tecnología relacionada con la inteligencia artificial, y para la gestión de esta iniciativa ha creado una Comisión especial al respecto, que en mayo de 2022 hizo público un informe.
En dicho trabajo se establecen ya unos criterios garantes de la intervención y la supervisión humana.
- Desde una posición ética se pretende regular la posible responsabilidad civil de las empresas que se relacionen con la IA, el respeto a la propiedad intelectual de las personas creadoras de programas relacionados con esos procesos creativos, y la ausencia de toda discriminación respecto de prejuicios de género, sociales y culturales.
- La garantía de que no se imponga un uso policial de la IA, en el sentido de ser utilizada para reconocimientos faciales automáticos.
Se establecen aquí las bases sobre las que Europa podría desarrollar una normativa garante de los derechos y, al mismo tiempo, impulsora de un importante avance tecnológico y digital. De una parte, y como un aspecto positivo se ve la posibilidad de aplicación para aquellas áreas como la agricultura, la mitigación del cambio climático, la adaptación de los sistemas de producción a predicciones capaces de mejorar la actividad y eficacia de los diferentes sectores a que afecte, al tiempo que aumentara la seguridad; y, de la otra, la necesidad de considerar los riesgos de la IA, si no se utiliza con las garantías precisas para los derechos de la ciudadanía.
Es importante por lo tanto la sujeción a los valores europeos, y la garantía de su utilización en el aprovechamiento para la mejora de la vida de esa ciudadanía, lo que exige una implicación ética de ese uso.
Como aspectos importantes se señala la necesidad de una regulación garantista y la necesidad de una inversión suficiente. A ello obedece ese libro blanco que debe ser un factor que contribuya a la consecución de estos fines.
En su introducción, el documento entra en la importancia de los datos como elemento informativo, que en las sociedades altamente tecnificadas ha resultado imprescindible para acometer esta función de desarrollo tecnológico, junto con los algoritmos y la capacidad informática de los Estados miembros, que puedan situarse al nivel de liderar mundialmente la sociedad digital.
Se llama ecosistema de inteligencia artificial, a esta situación creada con efectos positivos para Europa en la vertiente de sus ciudadanos, que obtendrían beneficios en materia de atención sanitaria, mejora en los aparatos domésticos, sistemas de transporte más seguro y mejores servicios públicos. En el desarrollo de la actividad empresarial permitiría la generación de nuevos productos, en los que ya Europa ejercería un liderazgo, como la maquinaria, el transporte, la ciberseguridad, la agricultura, la economía verde, la moda o el turismo. Y a los servicios de interés público, como la gestión de residuos, el transporte o la educación, así como los servicios de la seguridad del Estado, dejando a salvo el respeto a los derechos fundamentales.
En lo que se refiere a una perspectiva colectiva, el liderazgo de Europa en la lucha contra el cambio climático sería, a juicio de este razonamiento, un elemento motor para alcanzar los objetivos del Pacto Verde, para lo que sería necesaria una Europa fuerte, lo que se posibilitaría con una legislación única para todos los Estados, que evitaría la fragmentación si cada uno de ellos asumiera una legislación separada.
Se establece unos pilares fundamentales que serían:
- Un marco político, con aportaciones de todos los Estados de la Unión, que crearan un “ecosistema de excelencia” a lo largo de la cadena de valor, con aportaciones científicas derivadas de una investigación incentivada, que integrara a las pequeñas y medianas empresas.
- Una articulación jurídica que respetase los derechos fundamentales sobre todo en determinadas materias como los consumidores y la seguridad.
Para ello se acompaña un documento de Estrategia Europea de Datos, que contiene varias medias políticas como la movilización de recursos con inversiones públicas y privadas, y una clara normativa de responsabilidad civil.
En el punto dos se aborda la posibilidad de que la UE no solamente sea beneficiaria de la IA, sino que pueda ser creadora y productora de tecnología, al ser líder mundial en la robótica, la automoción, la atención sanitaria, la energía, los servicios financieros y la agricultura. Todos estos factores situarían a Europa a la vanguardia de la IA.
Destaca la exigencia de una mayor financiación para conseguir estos objetivos. Aunque en los últimos tres años esa financiación ha aumentado un 70 por ciento, sería muy importante aumentar significativamente la capacidad económica de la Unión, para conseguirlos.
4.1.a) Aprovechamiento de las próximas oportunidades: la siguiente oleada de datos.Actualmente se están llevando a cabo importantes cambios en el valor y la reutilización de los datos en diferentes sectores. El volumen aumenta significativamente, lo que ofrece a Europa una oportunidad importante para incrementar su posición de liderazgo. Se podría articular una nueva formulación de procesadores (Iniciativa Europea en materia de Procesadores), para desarrollar sistemas informáticos de bajo consumo de energía para la computación.
Igualmente, caben aunar esfuerzos en relación con ciertas actividades infinitas, que pueden reagruparse en lo que se refiere a la combinación de razonamiento simbólico, con redes neuronales profundas; lo que podría ayudar a mejorar la capacidad de explicar los resultados de la inteligencia artificial.
4.1.b) Ecosistema de excelencia.Aquí se establecen algunos niveles:
- Colaboración entre Estados miembros. En cumplimiento de la Estrategia sobre la IA adoptada en abril de 2018, se presentó meses después un plan preparado por los estados para fomentar el desarrollo y la utilización de la IA en Europa.
Ese plan contiene 70 acciones conjuntas de los Estados, para favorecer la cooperación entre los Estados miembros, de cara al desarrollo de la IA. Comprendería las áreas de investigación, inversión, introducción en el mercado, las capacidades y el talento, los datos y la cooperación internacional, y una previsión de revisión en 2027.
Igualmente, se propone centralizar los esfuerzos de la comunidad en lo que se refiere a los campos de investigación e innovación, dada la fragmentación que ahora hay en los diferentes centros, en los que ninguno alcanza la envergadura, para competir en el escenario mundial.
Por otra parte, es importante también la extensión de los efectos beneficiosos de la Europa verde y digital. A través de una educación digital, se pretende la familiarización de todas las personas con los elementos básicos de la sociedad digital, desde la terminología hasta el conocimiento de algunos conceptos elementales, para facilitar el trabajo relacionado con el mundo de la inteligencia artificial. De manera especial trata el documento, la necesidad de que esta información y formación recaiga sobre las mujeres, como compensación a la desigualdad entre mujeres y hombres en la tecnología.
En referencia a la exigencia de un tratamiento y uso ético de la inteligencia artificial, se debe poner el esfuerzo en crear un listado de evaluación de directrices éticas, con un currículum de mínima exigencia, que las empresas formadoras deberán cumplir.
La extensión a las universidades y centros educativos de alta cualificación podrán ofrecer programas de alto nivel formativo, de manera que garanticen que la presencia humana en la inteligencia artificial pueda llevar a cabo un control de su utilización en condiciones de seguridad y respeto a los derechos fundamentales.
Las pymes y empresas emergentes deberán contar con apoyo de los Estados; para lo que se prevé, que en cada Estado se pueda contar al menos con un centro de innovación de un elevado nivel de especialización.
En lo que se refiere al sector privado, igualmente se potenciará la creación de una asociación público-privada, que permita el desarrollo de todas estas actividades, comprometiendo a los altos cargos de las empresas con la finalidad de respaldarlas.
El sector público implementará la inteligencia artificial en sus actividades como hospitales, transporte, supervisores financieros y otras actividades de manera progresiva, y a medida que su grado de tecnificación lo haga posible, en tanto que las administraciones públicas favorecerán el acceso a esa tecnología y la posibilidad de trasferencia masiva de los datos.
La colaboración de la UE con otras instancias internacionales ha permitido sostener relaciones con la OCDE, el G20, la UNESCO y otras, siempre desde posiciones éticas del respeto a los derechos humanos como la dignidad, el pluralismo, la inclusión, la ausencia de discriminación y la protección de la privacidad y los datos personales, en los que la IA puede tener un papel importante.
4.1.c). Ecosistema de confianza: el marco regulador de la IA.La IA presenta importantes ventajas para la humanidad, pero igualmente presenta problemas de grave desconfianza por parte de una sociedad, que teme una utilización perversa de datos e informaciones, cuyo uso se desconoce o puede tener consecuencias fatales para las personas si se usan con finalidades poco correctas. De manera que, para que pueda hacerse un uso fiable de la IA, han de arbitrarse medidas que impidan su utilización descontrolada. De ahí que la Comisión elaborara un documento por un grupo de expertos de alto nivel, que contaba con estas exigencias:
- acción y supervisión humanas.
- solidez técnica y seguridad.
- gestión de privacidad y de los datos.
- transparencia.
- diversidad, no discriminación y equidad.
- bienestar social y medioambiental.
- rendición de cuentas.
En relación con esos criterios se exigirá a las empresas el cumplimiento de todas esas directrices. En 2019 se aprobó esta lista en 350 empresas, que enviaron sus observaciones. Esa consulta se tendría en cuenta en los sucesivos informes de expertos, para determinar algunas otras medidas de garantía.
La necesidad entonces de un marco regulador para toda Europa parece evidente. Este buscaría la conformidad con el ordenamiento jurídico europeo, en cuanto a las disposiciones en vigor, que tengan algún punto de conexión con la materia, como la seguridad en el consumo o la responsabilidad civil en que puedan incurrir quienes lesionen derechos de terceros. Asimismo, la posibilidad de llegar a acuerdos, por parte de los Estados de la Unión, para crear un marco de entendimiento capaz de integrar un modelo común. Sobre esto se han formulado algunas propuestas como la de Alemania, que hace hincapié en la valoración de los riesgos creando varios niveles del uno al cinco; o la creación de un sello europeo como propone Dinamarca, que se llamaría el sello ético de los datos; pero en todo caso, la unificación de los criterios sería muy necesaria, para no crear fragmentaciones del mercado.
Uno de los problemas fundamentales estaría en el control de la seguridad en referencia a la identificación de personas mediante la IA, que se puede producir por el análisis facial, reconocimientos que a veces pueden inducir a error o prejuicios en sus consecuencias, sobre todo de discriminaciones racionales, lo que debe tenerse en cuenta para su evitación, reversión o, en su caso, indemnización por parte de las empresas o del sistema policial de cada Estado.
De ahí la importancia que cobra el sistema de responsabilidad civil en los Estados, que es uno de los factores más importantes, para la consecución de un sistema común de responsabilidad por errores o daños producidos en el funcionamiento de la IA.
Y es que uno de los principales problemas, que se está descubriendo en el uso de la IA, lo constituye precisamente el riesgo que implica el uso de un tipo de actividad que puede desvincularse del control humano. En la medida en que el cruce de los datos puede permitir, potencialmente al menos, consecuencias no previstas, los efectos perversos de ese resultado tienen que estar previstos legalmente en lo que se refiere a daños a terceras personas. Del peligro de que en algún momento el cúmulo de datos pudiera no sujetarse a la programación humana, tiene que derivarse una responsabilidad indemnizable.
Y aquí debe operar el principio de seguridad jurídica, que tiene que ser regulado de manera clara y fehaciente para permitir que se puedan ejercer acciones legales frente a las entidades responsables, lo que tiene que ser establecido en normas vinculantes que garanticen su efectividad.
Y en ese sentido la Comisión considera que existen Directivas de aplicación en la UE, que permiten extender a la IA la exigencia de esa responsabilidad, como la de igualdad de trato, igualdad racial, protección de consumidores, de datos personales o datos penales y otras, pero sería necesario mejorar esta normativa para integrar supuestos no contemplados o mejorar los supuestos vigentes. Aconseja en este sentido la mejora de la funcionalidad de los sistemas, incorporando equipos informáticos más eficaces y actualizados, que pueden controlar mejor los riesgos, regular el sistema de responsabilidad de manera más clara, en cuanto a la imputación de responsabilidad en la cadena de suministro y en esas diferentes etapas, y el cambio del sistema de seguridad de manera que se pueda prever el riesgo de ciber-amenazas, seguridad personal y riesgos propios de las aplicaciones.
Otros riesgos a estudiar serían:
- El comportamiento autónomo de algunos sistemas de IA a lo largo de su ciclo de vida, por averías o problemas de seguridad, que requerirían una supervisión humana desde la fase de diseño hasta su total ciclo de vida.
- Las obligaciones explícitas en relación con la salud mental de los usuarios, en cuanto al tiempo de exposición a las máquinas de uso, sobre todo, si la colaboración es con robots.
- Los problemas de datos incorrectos en la fase de diseño, que puedan ocasionar efectos perjudiciales.
- La opacidad de los sistemas basados en algoritmos, que deban abordarse desde la transparencia.
- Los programas autónomos que deban conectarse a aparatos, y en su comercialización resulten contrarios a la seguridad.
- La relación entre fabricantes y usuarios, respecto de la seguridad jurídica de los datos.
- La equiparación de los daños producidos por la IA, a los que produzcan otras tecnologías.
- La necesidad de equilibrar la carga de la prueba, cuando la complejidad del caso lo requiera.
El ámbito de aplicación normativa ha de determinarse. Para ello es necesario delimitar el concepto de inteligencia artificial. Su definición en la COM (2018) 237 sería la de que “el término de inteligencia artificial” se aplica a los sistemas que manifiestan un comportamiento inteligente, pues son capaces de analizar su entorno y pasar a la acción con cierto grado de autonomía, y con el fin de alcanzar sus objetivos específicos. El Grupo de Expertos de Alto Nivel perfeccionó esta definición como Programas informáticos (y posiblemente también equipos informáticos) diseñados por seres humanos que, dado un objetivo complejo, actúan en la dimensión física o digital mediante la percepción de su entorno mediante la adquisición de datos, la interpretación de los datos estructurados o no estructurados, el razonamiento sobre el conocimiento o el tratamiento de la información, frutos de estos datos, y la decisión de las mejores acciones que se llevaran a cabo, para alcanzar el objetivo fijado.
Esta definición ha de ser flexible en cuanto a la comprensión de los diferentes supuestos que regula, por ejemplo: en la conducción mecánica automática, el algoritmo se comporta según los datos referentes a carretera, señales y otros, pero los algoritmos se entrenan para inferir de la información modelos que determinan acciones y dependen por lo tanto de estos datos. Finalmente, la responsabilidad es humana y la detección de la prueba en casos como este, puede llegar a ser muy compleja.
Lo que aconseja en este caso la Comisión es adoptar un criterio de proporcionalidad en relación con las exigencias de la responsabilidad exigida. Una intervención reguladora muy estricta puede llegar a ser disuasoria en el uso de la IA, por lo que debe guardarse el principio de proporcionalidad. Para ello, se valorará el riesgo en función de cada programa, actividad y otros criterios como el sector, las repercusiones que tenga la acción concreta, las revisiones periódicas de su utilización y conservación.
El riesgo elevado se consideraría para la contratación de los trabajadores, consumo de algunos alimentos y, también, en cuanto al uso discriminado de los datos, en evitación que un uso sin control pueda tener repercusiones en algunos derechos.
Y aquí la exigencia en la utilización de los datos y su protección debe exigirse conforma a la directiva de protección de datos en el ámbito penal y el Reglamento general de Protección de datos.
Finalmente, en cuanto a la supervisión humana, esta constituye una ayuda importante para una IA fiable, ética y antropocéntrica en las situaciones de riesgo elevado. Esta actúa en la fase de elaboración, revisión y validación de la toma de decisiones, por ejemplo, en el reconocimiento de derechos. Sobre todo, en la denegación de derechos, cuya documentación es importante que sea revisada por personas, y es extrema en los vehículos de motor, para fijar como debe ser ante la movilidad reducida u otras situaciones.
En la identificación biométrica remota como el reconocimiento facial en lugares públicos, se tiene que hacer referencia al objetivo, el contexto o el alcance de dicho uso. Se partirá de una prohibición general por la colisión con el derecho a la imagen y la intimidad, y obedecerá al interés público inmediato, siendo la prohibición la regla general. Así que la identificación debe estar debidamente justificada, debe ser proporcional y estar sujeta a las garantías adecuadas.
El control que se deba ejercitar en materia de IA ha de tener en cuenta que se dirige a una pluralidad de agentes, que exige la determinación de las responsabilidades de cada uno de ellos, en cuanto se trata de procesos encadenados, y es importante que se delimite la responsabilidad en la que puede incurrir cada uno, porque de lo contrario se puede dar la situación de que se exija la responsabilidad a algún agente que no haya tenido intervención en el proceso. De ahí que sea necesario detectar el momento en que se produce la lesión, y a quien cabe atribuirla. Hay que tener en cuenta que, al menos, intervendrán el desarrollador, la persona que implementa el producto, el productor, el distribuidor, el importador, el proveedor y el usuario a la hora de determinar el grado de responsabilidad o, en su caso, si esta ha de ser solidaria y conjunta y en qué situaciones.
Pero independientemente de la responsabilidad, de oficio debe tenerse en cuenta la obligación de efectuar un control de calidad y, por lo tanto, el cumplimiento de todos los requisitos técnicos y legales del proceso, mediante los ensayos científicos necesarios, efectuando después los controles de calidad, donde deben considerarse asimismo los datos y algoritmos utilizados.
El reparto, por lo tanto, de la responsabilidad puede tener lugar desde la fase respectiva de cada momento del proceso, aun cuando hay que suponer que en algunas situaciones se planteen dificultades importantes en la respuesta jurídica a la responsabilidad civil. En todo caso, la Comisión considera imprescindibles el control en la fase de ensayo, de inspección y de certificación, pero no deben excluirse otras posibilidades.
Respecto de la acción contenciosa, se tiene que garantizar el ejercicio de la acción procesal para quienes se consideren perjudicados por el uso de la IA, pero la Comisión no entra a distinguir la responsabilidad concreta en ningún orden jurisdiccional, sino que la considera de manera genérica, citando solamente la responsabilidad patrimonial y, por tanto, el orden jurisdiccional civil, pero es importante que se considere la responsabilidad penal, dada la posibilidad de que los daños puedan llegar a ser constitutivos de delito, e igualmente, en el orden contencioso-administrativo, en lo que se refiere al funcionamiento de las administraciones públicas, incluidas las europeas.
Igualmente, y en esto sí entra la Comisión, la centralización de la legislación en el contexto europeo exigirá organismos dedicados a la materia, y la atribución competencial a órganos ad hoc creados expresamente para el conocimiento y juicio de esos asuntos, en cuya particularidad ya no se entra.
En conclusión, la Comisión considera la inteligencia artificial como una tecnología estratégica que ofrece numerosas ventajas a los ciudadanos, empresas y la sociedad en su conjunto, si se cumplen las condiciones de comportamiento ético, antropocéntrico y sostenible; si se respetan los derechos fundamentales.
Su utilización permite mejoras de eficacia y productividad y refuerza la competitividad de Europa en el contexto geopolítico y económico mundial, y ayuda al cambio climático, la sostenibilidad y demás factores demográficos.
Establece la posibilidad de consulta pública hasta el 19 de mayo de 2020, y prevé el desarrollo de contextos participativos más amplios.
4.2. Propuesta del Parlamento y otros documentos posteriores.
El 21 de abril de 2021, el Parlamento Europeo y el Consejo formulan una propuesta de reglamento sobre la IA, donde ambas institucionales anexionan propuestas sobre este borrador, y en mayo de 2021, el Comité Europeo de Protección de Datos emite un Dictamen sobre esta propuesta.
Algunas normas específicas sobre la IA estarían en la Directiva del Parlamento Europeo y del Consejo relativa a la adaptación de las normas de responsabilidad civil extracontractual a la Inteligencia Artificial de 28 de septiembre de 2022.
Desde inicios de 2023, se intenta agilizar la tramitación de una ley, que regule la IA por la repercusión mediática que en estos últimos meses se está llevando a cabo respecto de uno de los aspectos más delicados de la IA que es el ChatGPT, por la alarma que está creando desde los propios Estados de la UE, algunos de los que, como en el caso de Italia, han llegado a prohibirla y, en otros, se están creando organismos que intenten analizar sus efectos.
Mas allá de las circunstancias concretas en que se desenvuelve esta normativa, es importante llamar la atención acerca de una de las deficiencias crónicas de la UE en relación con los procesos normativos y su coercibilidad. La normativa de la Unión Europea adolece de una insuficiencia que es consustancial a las circunstancias que rodearon a la construcción jurídica de la UE desde sus inicios, y es la tardanza en el funcionamiento de su maquinaria legislativa, intermediada por un excesivo organicismo de instituciones, que intervienen mediante informes y valoraciones que retrasan la vigencia de sus normas. Esta circunstancia que mediatiza su efectividad de por sí, se acrecienta en inefectividad, cuando se trata de normas que atañen a materias como las relacionadas con la digitalización, en las que se corre el riesgo de que cuando alcancen efectividad, la realidad digital haya superado el Derecho en ese momento vigente.
Resumen: La Unión Europea viene prestando atención desde hace tiempo a aquellos importantes elementos de caracterización de los problemas de los Estados miembros, desde principios y valores que atienden a la igualdad, al deterioro progresivo del medio ambiente, y a la progresiva digitalización social, con sometimiento a controles de ciberseguridad. La preocupación por el respeto a los derechos fundamentales de la ciudadanía de la Unión y, al mismo tiempo, a la posición de la UE en el liderazgo de las nuevas tecnologías, llevan a plantear la exigencia de una normativa de cobertura a las nuevas situaciones que presenta hoy una sociedad plural y compleja como la de Europa. Y en relación con esta exigencia, analizamos la normativa incumbente a la interdicción de la discriminación racial, la defensa del medio ambiente y la inteligencia artificial.
Palabras claves: Unión Europea, discriminación racial, medio ambiente, inteligencia artificial.
Abstract: The European Union has been paying attention for some time to those important elements of characterization of the Member States, from principles and values relatives to equality, the progressive deterioration of the environment, and the progressive social digitization with submission to controls of cybersecurity. The concern for respect for the fundamental rights of the Union's citizens and, at the same time, for the position of the EU in the leadership of new technologies, lead to the demand for a regulation that covers the new situations presented today in a plural and complex society like that of Europe. And in relation to this requirement, we analyze the current regulations for the prohibition of racial discrimination, the defense of the environment and artificial intelligence.
Key words: European Union, racial discrimination, environmental protection, artificial intelligence.
Recibido: 1 de junio de 2023
Aceptado: 15 de junio de 2023
______________________________________
