En_Justicia

En los últimos tiempos la máxima preocupación de la sociedad gira en torno a la corrupción política con una sensación de total hartazgo ciudadano.

Podría proponer bastante medidas aquí como más jueces y fiscales, más creación de tribunales, más medios para unidades centrales o especializadas de Policía y Guardia Civil como UCO, UDEF, UDYCO, GRECO, EDOA, modificación del delito de blanqueo de capitales , tipificación del delito de enriquecimiento no justificado legalmente, nombramiento de vocales judiciales del CGPJ conforme criterios que fija la UE y GRECO del Consejo de Europa, imparcialidad y criterios en el nombramiento del FGE, ley de lobbies, etc.

Pero me voy a ceñir a una. Seguro que habéis visto titulares de “causa se archiva por transcurrir el plazo de instrucción”, “a la juez X se le pasa el plazo de instrucción”, etc.

No hablaré de lo que me parece el artículo 324 de la LECRIM del plazo de un año de instrucción, de lo que considero la razón de su creación o de unas interpretaciones jurisprudenciales que no comparto.

Creo que lo que normalmente no conoce el ciudadano es que muchas de estas causas se llevan en juzgados colapsados donde se pueden superar las 300-400 causas penales anuales y a la vez existir 1000-1500 causas civiles.

Como comprenderéis por mucho que se intenten revisar las causas anualmente o que se intenten hacer Excel, la sobrecarga de trabajo, el estrés, la presión y falta de medios hace que sea más fácil cometer errores. Es más, cuando yo empecé hace cerca de 10 años, en julio y agosto que todo estaba más tranquilo, nos podíamos dedicar a revisar el juzgado. Ahora, con el volumen de trabajo que hay, en julio y agosto creo que la mayoría nos dedicamos a resolver todo lo pendiente posible sin poder sacar tiempo para revisar los armarios.

Por eso mi propuesta es solo una: alertas automáticas 2 meses antes de finalización de plazo de instrucción con traslado automatizado a las partes para pronunciarse sobre plazo y diligencias y borrador de auto de prórroga de instrucción para supervisión y aprobación judicial.

A los 10 meses desde la fecha de incoación, alerta automática de riesgo de transcurso de plazo para verificar la causa por juez/fiscal con providencia de traslado automatizado a las partes y ministerio fiscal para pronunciamiento sobre prórroga de plazo y diligencias pendientes de acordar y practicar. Transcurridos 30 días y con margen de un mes, borrador automático de prórroga de plazo de instrucción para supervisión y aprobación por el juez (Decisión asistida Art. 57 Real Decreto-ley 6/2023, de 19 de diciembre, por el que se aprueban medidas urgentes para la ejecución del Plan de Recuperación, Transformación y Resiliencia en materia de servicio público de justicia, función pública, régimen local y mecenazgo).

E integrar esto en los sistemas de gestión procesal de todo España desde ya. Para que a ningún juez o fiscal se les pueda pasar el plazo de instrucción de ninguna causa, y menos de corrupción.

Dejo hasta el pseudocódigo hecho por ChatGPT por si sirve:

// Evento: Al incoar la causa

onEvent(«CAUSA_INCOADA») {

 setDate(«fecha_incoacion», currentDate)

 // Programar alerta automática y providencia a los 10 meses

 scheduleTask(«alerta_y_providencia_10_meses», dateAdd(«fecha_incoacion», 10, «meses»))

}

// Tarea automática: Alerta y providencia a los 10 meses

onScheduledTask(«alerta_y_providencia_10_meses») {

 // Alerta de riesgo de vencimiento del plazo

 notify(«JUEZ», «Alerta: Riesgo de transcurso de plazo de instrucción»)

 notify(«FISCAL», «Alerta: Riesgo de transcurso de plazo de instrucción»)

 notify(«PARTES», «Traslado automático: riesgo de vencimiento de plazo de instrucción»)

 setDate(«fecha_alerta», currentDate)

 // Generar providencia automática

 generateDocument(«PROVIDENCIA_TRASLADO», template=»traslado_prorroga_y_diligencias»)

 assignTo(«SISTEMA», «Firmar y notificar providencia automáticamente»)

 // Notificar providencia a partes y Ministerio Fiscal

 notify(«PARTES», «Providencia de traslado para pronunciarse sobre prórroga y diligencias»)

 notify(«FISCAL», «Providencia de traslado para pronunciarse sobre prórroga y diligencias»)

 // Programar verificación en 30 días desde la providencia

 scheduleTask(«verificar_prorroga», dateAdd(«fecha_alerta», 30, «días»))

}

// Tarea automática: Verificación y borrador de prórroga

onScheduledTask(«verificar_prorroga») {

 if (not isClosed(«CAUSA»)) {

 // Generar borrador automático de prórroga

 generateDocument(«BORRADOR_PRORROGA», template=»prorroga_instruccion»)

 // Enviar al juez para revisión y aprobación

 assignTo(«JUEZ», «Supervisar y aprobar borrador de prórroga de instrucción»)

 // Establecer fecha límite con margen de 1 mes

 setDeadline(«BORRADOR_PRORROGA», dateAdd(currentDate, 1, «mes»))

 }

}

Cada vez es más habitual en procesos civiles, de familia, o incluso en cuestiones relacionadas con el ámbito mercantil, pretender obtener como prueba datos de tráfico. Estos datos pueden incluir conexiones IP, certificación de envío de correos electrónicos, geolocalizaciones, mensajes en redes sociales y demás información relacionada con el tráfico de datos que sin otra forma de prueba o acreditación, pretende alguna de las partes para obtener estos datossolicitar la intervención de grandes plataformas digitales, conocidas como plataformas en línea de muy gran tamaño (VLOP) o motores de búsqueda en línea de muy gran tamaño (VLOSEs), según lo define la Ley de Servicios Digitales[i]. Esta tendencia refleja la creciente importancia de la tecnología y la información digital en la resolución de disputas legales en unas relaciones sociales y un mundo plenamente interconectado. Se pretende que dichos datos puedan desempeñar un papel fundamental en el establecimiento de hechos, la verificación de reclamaciones y el sostenimiento de las pretensiones en el proceso civil, lo que subraya la importancia de las pruebas digitales en los marcos legales contemporáneos.

La definición de datos electrónicos de tráfico que hace el artículo 588 ter b de la Ley de Enjuiciamiento Criminal, no es demasiado ilustrativa “A los efectos previstos en este artículo, se entenderá por datos electrónicos de tráfico o asociados todos aquellos que se generan como consecuencia de la conducción de la comunicación a través de una red de comunicaciones electrónicas, de su puesta a disposición del usuario, así como de la prestación de un servicio de la sociedad de la información o comunicación telemática de naturaleza análoga”.

En su artículo 1, de la Ley 25/2007, se definen como los datos “generados o tratados en el marco de la prestación de servicios de comunicaciones electrónicas o redes públicas de comunicación”

Por lo que podemos concluir que datos de tráfico se han considerado por la Directiva 2006/24/CE DEL PARLAMENTO EUROPEO Y DEL CONSEJO de 15 de marzo de 2006 sobre la conservación de datos generados o tratados en relación con la prestación de servicios de comunicaciones electrónicas de acceso público o de redes públicas de comunicaciones y por la que se modifica la Directiva 2002/58/CE y la Ley 25/2007, de 18 de octubre, de conservación de datos relativos a las comunicaciones electrónicas y a las redes públicas de comunicaciones: aquellos datos necesarios para rastrear e identificar el origen de una comunicación y su destino, para identificar la fecha, hora y duración de una comunicación, el equipo de comunicación de los usuarios y para identificar la localización del equipo de comunicación móvil, datos entre los que figuran el nombre y la dirección del abonado o usuario registrado, los números de teléfono de origen y destino y una dirección IP para los servicios de Internet. Estos datos permiten, en particular, saber con qué persona se ha comunicado un abonado o un usuario registrado y de qué modo, así como determinar el momento de la comunicación y el lugar desde la que ésta se ha producido. Además, permiten conocer la frecuencia de las comunicaciones del abonado o del usuario registrado con determinadas personas durante un período concreto.

En definitiva, en toda comunicación electrónica podemos distinguir: tres grupos de datos: de contenido (el mensaje transmitido), de tráfico (metadatos anexos a ese mensaje) y de abonado (permiten identificar a la persona que realiza la comunicación).

Los datos que deben conservarse y cederse por las operadoras serán los dispuestos en el Art. 3 de la Ley 25/2007. No obstante, la LECrim amplía el abanico de datos, ya que no son sólo los que las operadoras tienen la obligación de conservar en cumplimiento de la Ley 25/2007, sino también a los que se conserven por propia iniciativa por motivos comerciales o de otra índole (artículo 588 ter j de la LECrim).

Todo ello se rige conforme Ley 25/2007, de 18 de octubre, de conservación de datos relativos a las comunicaciones electrónicas y a las redes públicas de comunicaciones.

Esta ley en su artículo primero establece en su artículo 1º tiene por objeto la regulación de la obligación de los operadores de conservar los datos generados o tratados en el marco de la prestación de servicios de comunicaciones electrónicas o de redes públicas de comunicación, así como el deber de cesión de dichos datos a los agentes facultados siempre que les sean requeridos a través de la correspondiente autorización judicial con fines de detección, investigación y enjuiciamiento de delitos graves contemplados en el Código Penal o en las leyes penales especiales.

2. Esta Ley se aplicará a los datos de tráfico y de localización sobre personas físicas y jurídicas y a los datos relacionados necesarios para identificar al abonado o usuario registrado.

Esta ley dice claramente que la cesión de los datos de tráfico y de identificación de detección, investigación y enjuiciamiento de delitos graves contemplados en el Código Penal o en las leyes penales especiales. Lo mismo se establece en el período de conservación de datos en el Artículo 5º. Es verdad que se ha planteado la posibilidad de cesión para delitos menos graves y leves, y así se ha admitido entre otras, en la Sentencia de 2 de octubre de 2018 (C207/16) del TJUE que considera que tales accesos de titularidades constituyen una injerencia en los derechos fundamentales no grave y, por consiguiente, requieren resolución judicial fundada aunque sea en el ámbito de un delito menos grave. Sin embargo, lo que resulta inadmisible y carece de soporte legal es la cesión de datos de tráfico en proceso civil con ausencia de delito ya que la ley 25/2007 lo permite únicamente para delitos graves y el TJUE.

Este mismo criterio ha sido compartido en las dos únicas resoluciones judiciales encontradas sobre esta materia en el CENDOJ. La primera de la AP Barcelona, en el lejano 2009 por un ponente actual magistrado del Tribunal Supremo (Roj: AAP B 9428/2009 –  ECLI:ES:APB:2009:9428A Sección: 15; Nº de Recurso: 369/2009; Nº de Resolución: 202/2009; Fecha de Resolución: 15/12/2009; Ponente: IGNACIO SANCHO GARGALLO) donde si bien el objeto era la posibilidad de obtención de datos de titulares de IP de usuarios de intercambio de archivos de plataformas p2p a través de diligencias preliminares, no obstante, dice claramente, «La  Ley 25/2007, de 18 de octubre, de conservación de datos relativos a las comunicaciones electrónicas y a las redes públicas de comunicaciones (por la que se transpone la  Directiva 2006/24/CE, de 15 de marzo , sobre la conservación de datos generados o tratados en relación con la prestación de servicios de comunicaciones electrónicas de acceso público o de redes públicas de comunicaciones, que modifica la  Directiva 2002/58  /CE), tan sólo impone «la obligación de los operadores de conservar los datos generados o tratados en el marco de la prestación de servicios de comunicaciones electrónicas o de redes públicas de comunicación, así como el deber de cesión de dichos datos a los agentes facultados siempre que les sean requeridos a través de la correspondiente autorización judicial con fines de detección, investigación y enjuiciamiento de delitos graves contemplados en el Código Penal o en las leyes penales especiales», pero no para preparar una reclamación civil».

De este modo, se aprecia que en nuestro derecho no existe ningún deber legal de colaboración impuesto a las entidades suministradoras de acceso a Internet para suministrar la información interesada por la actora, para justificar una reclamación civil. Y la ausencia de este deber no contraría la normativa comunitaria, que restringe dicho deber de colaboración únicamente en relación con la persecución de delitos, sin perjuicio de la valoración que el legislador nacional pudiera realizar a la hora de introducir este deber de colaboración para proteger los derechos de propiedad intelectual en caso de infracciones civiles, a la vista de los derechos afectados. Pero esta ponderación no le corresponde hacerla al juzgador, sino al legislador, quien si lo estima oportuno impondrá expresamente este deber de colaboración y con ello habrá pie para acordar las diligencias preliminares.

En el mismo sentido pero mucho más reciente, el Auto de la misma Audiencia Provincial de Barcelona de 2 de noviembre de 2020, (Roj: AAP B 9849/2020 – ECLI:ES:APB:2020:9849A; Sección: 11; Nº de Recurso: 203/2020; Nº de Resolución: 631/2020; Fecha de Resolución: 02/11/2020; Ponente: MIREIA BORGUÑO VENTURA). En este caso se pretende la obtención de los datos para la adopción de las diligencias preliminares como medida previa al proceso de protección del derecho al honor: » La claridad del precepto no puede ofrecer duda alguna sobre la imposibilidad de requerir a las entidades prestadoras del servicio de Internet para que cedan sus datos para finalidades distintas de las previstas en la ley, en este caso para promover un litigio civil para la defensa del derecho al honor. Dicha regulación endurece incluso el marco normativo precedente constituido por el  art. 12 de la Ley de Servicios de la Sociedad de la Información y de Comercio Electrónico , en cuyos apartados 2 y 3 se establecía que los operadores de tales servicios no podían utilizar los datos retenidos para fines distintos de los indicados en el apartado siguiente u otros que estén permitidos por la Ley, el cual precisaba que los datos debían conservarse para su utilización en el marco de una investigación criminal o para la salvaguardia de la seguridad pública y la defensa nacional.

                 Precisado lo anterior, como es obvio, la protección de la intimidad, de la confidencialidad de las comunicaciones y de los datos de tráfico asociadas a ellas en el ámbito de las comunicaciones electrónicas no es absoluta, y es el legislador, valorando la posible colisión con otros derechos, el que establece las excepciones que justifican la comunicación de los datos retenidos, excepciones entre las que, actualmente, no se encuentra facilitar los datos a los jueces y tribunales para que un perjudicado promueva un procedimiento civil».

Así, en estos casos, sin la posibilidad de acudir a los datos de tráfico en pleitos civiles cuando la parte a quien interese la eficacia de un documento electrónico lo solicite o se impugne su autenticidad, integridad, precisión de fecha y hora u otras características del documento electrónico que un servicio electrónico de confianza no cualificado de los previstos en el Reglamento (UE) 910/2014 del Parlamento Europeo y del Consejo, de 23 de julio de 2014, relativo a la identificación electrónica y los servicios de confianza para las transacciones electrónicas en el mercado interior, permita acreditar, se procederá con arreglo a lo establecido en el apartado 2 del presente artículo y en el Reglamento (UE) n.º 910/2014 y decisión de Ejecución (UE) 2015/1505 de la Comisión de 8 de septiembre de 2015 por la que se establecen las especificaciones técnicas y los formatos relacionados con las listas de confianza de conformidad con el artículo 22, apartado 5, del Reglamento (UE) Nº 910/2014 del Parlamento Europeo. Si se hubiera utilizado algún servicio de confianza cualificado de los previstos en el Reglamento citado en el apartado anterior, se presumirá que el documento reúne la característica cuestionada y que el servicio de confianza se ha prestado correctamente si figuraba, en el momento relevante a los efectos de la discrepancia, en la lista de confianza de prestadores y servicios cualificados.

Alfonso Peralta Gutiérrez

[i] Reglamento de Ejecución (UE) 2023/1201 de la Comisión de 21 de junio de 2023 relativo a las disposiciones detalladas para la tramitación de determinados procedimientos por parte de la Comisión con arreglo al Reglamento (UE) 2022/2065 del Parlamento Europeo y del Consejo («Ley de Servicios Digitales»).

Ya escribí sobre “Malas ideas” respecto a la reforma de oposiciones. ¿Un MIR jurídico? Y “el bulo del corporativismo y la endogamia judicial. Comparativa entre profesiones jurídicas”. Ahora tras volver el tema de la reforma de las oposiciones como el viejo topo que se asoma y se esconde cada cierto tiempo, abordamos el análisis comparado del sistema de selección de jueces en países europeos.

Hay quien argumenta que las oposiciones son un sistema que no existe en otros países, lo que no deja de ser una afirmación equívoca, pues en casi todos los de nuestro entorno[i] -salvo los anglosajones- existe un proceso de selección que requiere un tiempo de preparación, que se compone de distintas pruebas (casi siempre con un tipo test y exámenes orales) y un tiempo de docencia y de prácticas en una escuela judicial. Todo parecido a España. Es más, sistemas de otros países europeos tienen deficiencias que han demostrado su fracaso y que no nos convendría asumir.

1. Bélgica.

El caso de Bélgica[ii] [iii] [iv] es del fracaso del sistema político de nombramiento de jueces y el total descrédito de su poder judicial debido a las injerencias políticas. En este país existe un sistema mixto cuyos jueces son nombrados por la Reina y el Ministro de Justicia, con un comité de selección donde hay “personas de relevancia social” designadas por el Parlamento. Esto produjo su necesaria reforma en el año 2000 con la creación del Alto Consejo de Justicia para intentar garantizar la exclusión de influencias políticas en los nombramientos a raíz del caso Dutroux[v].Aún así, durante años en informes sucesivos de GRECO del Consejo de Europa[vi] e incluso en encuestas los propios jueces belgas, se considera que los nombramientos de juristas como magistrados eran resultado más de los contactos de los candidatos que de sus méritos sin que se haya llegado a garantizar la exclusión de influencias políticas en los mismos.

• Francia.

Francia tiene un sistema mixto con oposiciones y concurso-oposición, al igual que España. Las pruebas de acceso mayoritario, se componen de exámenes orales, prueba de síntesis, idiomas, y examen escrito sobre cuestiones jurídicas. De igual forma Francia[vii] tiene su excelente École Nationale de la Magistrature y practicas en juzgados. Hay que recordar que nuestro sistema tiene sus orígenes en el sistema francés[viii].

En el país vecino, igual que en España, cada cierto tiempo surge la propuesta de eliminar su famosa y reputada École Nationale d’Administration que ha creado una administración pública francesa basada en la excelencia, neutralidad y profesionalidad, libre de influencias políticas. Hace años fue Chirac, más recientemente el propio ministro Le Maire, formado en sus clases, al igual que lo hizo el ex primer ministro conservador François Fillon o el actual Emmanuel Macron quien propuso suprimirla cuando se vio inmerso en una crisis política feroz a causa de los disturbios ocasionados por los “chalecos amarillos”.

• Alemania.

Para ser juez alemán[ix][x][xi][xii] hay que superar distintos exámenes test, largos orales, baremación de escritos, méritos, entrevistas y largos periodos de prácticas donde se consideran empleados públicos en prácticas y cobran.

En concreto tras graduarse los universitarios y su “jura”, los universitarios deben superar el primer examen nacional (“Ersten Staatsexam”). Una vez superado, comienza un período de prácticas de 2 años (“Referendariat”) donde se pasa tanto por Juzgados, Fiscalías, como por despachos de abogados y Notarías, con un estatus similar al que en España pueden tener los jueces y fiscales en prácticas. 

Al pasar los dos años deben realizar el segundo examen estatal (“Grosses Staatsexam”). Superado el examen se puede acceder a la condición de juez y comenzará otro período de 3 a 5 años de juez en prácticas y quien lo supere accederá a la condición de juez profesional.

Lo mejor del sistema alemán no es el proceso en sí, sino que el primer examen se realiza de forma unificada para carreras legales (jueces, fiscales, abogados o funcionarios).  ¿Por qué existen siempre esas ansias de modificar las oposiciones jurídicas a la carrera judicial y no notarías, registros, abogacía del estado, TAC, o inspección de Hacienda o de Trabajo? ¿Por qué no unificar el sistema de todas las oposiciones A1 y evitar el grandísimo coste de oportunidad que producen? Un graduado en Derecho en Alemania “Rechtswissenschaft” según sus calificaciones en los exámenes y las prácticas tiene acceso a unas profesiones jurídicas o a otras, pero en caso de no ser apto tras unos años no tiene que empezar profesionalmente como en España. En España quien no aprueba tras varios años preparando oposiciones tiene que cursar un posgrado lo que produce un coste de oportunidad enorme, cuando ese conocimiento y capacidades podrían reenfocarse a otras profesiones jurídicas.

Sin embargo, poco hay que aprender de Alemania en otros aspectos. Cuando uno supera el segundo examen (que es necesario tanto para ser juez, abogado, fiscal…) debes presentar tu solicitud al Ministerio de Justicia del Estado en el que quieras ejercer de manera que cada Estado te exige una nota de corte en el segundo examen e incluso algunos te exigen conocimiento específico de Derecho de esa zona (por ejemplo Baviera).

Así, los Lander cuentan con competencia en la selección de jueces y el comité de elección está formado por los 16 ministros de justicia y 16 miembros elegidos por el Parlamento regional. ¿Se imaginan a los Consejeros de Justicia de Cataluña, Andalucía o Baleares seleccionando a los jueces de su comunidad? ¿Como hubiera influido eso en las causas de corrupción?[xiii] Cada año hay discusión en torno a la Conferencia de Rectores de Universidades Españolas (CRUE) sobre las diferencias «reales» entre los exámenes de acceso a la universidad de las diferentes comunidades autónomas, abogando incluso su presidente por un examen único para toda España al considerar que «se producen diferencias entre las distintas comunidades autónomas»[xiv]. ¿Se imaginan las competencias distribuidas para la selección de jueces como si se tratara de una selectividad?[xv]

• Portugal e Italia.

En Portugal existe un sistema de acceso mixto y los exámenes de acceso se componen de un test y un oral.

En Italia[xvi] el acceso mayoritario, se compone de exámenes orales, test y escritos con períodos de prácticas. Lo más llamativo es que existe “pasarela” entre la carrera judicial y fiscal, lo que en España podría ser muy beneficioso para aumentar la independencia del Ministerio Fiscal respecto al Gobierno y quizás una de las medidas imprescindibles para que Fiscalía pudiera asumir realmente la instrucción penal. Estas pasarelas podrían incluso crearse entre distintos cuerpos funcionarios con conocimientos en materias asimilables que con una corta formación les permitiera poder ejercer un trabajo distinto. Si un abogado del Estado puede acceder a la magistratura por cuarto turno, es factible que un magistrado de lo contencioso-administrativo también pueda ser abogado del Estado. O un magistrado de lo civil podría pasarse a notario, o un fiscal especialista en prevención de riesgos laborales quizás podría ejercer como inspector de trabajo y viceversa.

• Reino Unido e Irlanda.

Los países anglosajones europeos, tienen un sistema de acceso similar a nuestro cuarto turno con un sistema de concurso-oposición, con baremación de méritos de entre abogados de “reconocido prestigio” y que hayan ejercido su carrera profesional durante décadas. Este sistema en oposiciones municipales o autonómicas en nuestro país ha dado lugar en diversas ocasiones a nepotismos e influencias políticas. Habría que cuestionar también el por qué de un tercer y cuarto turno en jueces, pero no en fiscales, en notarios, en abogados del Estado ni en inspectores de Hacienda o en LAJ. ¿Acaso un buen jurista de larga trayectoria no podría ejercer esas profesiones y sí puede ejercer la de juez?”[xvii]. El país británico tuvo que reformar radicalmente el sistema cuando una auditoría interna afirmó que su sistema de reclutamiento de jueces era “opaco, desfasado, y no demostraba estar basado en el mérito»[xviii]. Tampoco podemos olvidar que el Lord Chancellor, miembro del Gobierno, es la autoridad competente para nombrar los jueces y tiene derecho a veto y además de los 15 miembros del Comité de Selección, 12 son nombrados por el Gobierno. Incluso el nombramiento de ciertos magistrados puede realizarse por la Reina por sugerencia no sólo del Lord Chancellor sino también del Primer Ministro ¿Se imaginan aquí al ministro de Justicia o al Presidente recomendando al Rey el juez a nombrar? ¿cómo hubiera afectado eso al Caso Noos, Gurtel, Púnica o al Gal?, Por si esto no fuera poco los jueces británicos son de origen altamente elitista. El sistema de baremación de méritos produce una alta endogamia social en la judicatura británica. Un dato: el 71% de los jueces ingleses proceden de las elistitas universidades Oxbridge (Oxford y Cambridge).[xix]

Asimismo, no puede olvidarse que la integración en la judicatura de profesionales de larga trayectoria produce mayores posibilidades de previas afiliaciones políticas, intereses mercantiles, ejercicio de cargos públicos previos, o mayor probabilidad de que se haya evidenciado durante la vida laboral una determinada ideología o intereses político-económicos que afecte a la apariencia de imparcialidad que pueden tener los ciudadanos respecto a ese juez.

• Holanda y Austria.

En Holanda, oficialmente los jueces son nombrados tras proceso de selección mixto por el Rey, como en Reino Unido, Bélgica o Marruecos – y tradicionalmente los miembros de La Corona son considerados miembros del Poder Judicial en cuanto a la separación de la jurisdicción contencioso-administrativa en el Consejo de Estado, ¿se hubiera considerado al yerno del Rey allí miembro del Poder Judicial?- Las evaluaciones consisten en una serie de test de inteligencia, psicológico, habilidad, personalidad, entrevista y período de prácticas que dura años.  El comité de selección tiene un miembro del gobierno y una persona lega. En 2002 se realizó una fuerte reorganización con la creación del Consejo de la Judicatura para salvaguardar su independencia.

En Austria[xx] lo llamativo es que el Ministro de Justicia puede vetar nombramientos aunque supere el examen.

Conclusiones:

No deberían despreciarse tanto el sistema de oposiciones cuando ha sido un sistema gracias al cual se han seleccionado a miles de empleados públicos excepcionales y totalmente brillantes, y sobretodo ha conseguido que en un país donde se politizan todas las instituciones, los cuerpos funcionariales se caractericen por su profesionalidad, excelencia, neutralidad, objetividad, mérito y capacidad, libre de injerencias políticas. 

Todo es mejorable, sin duda, pero debemos tener cuidado en no destruir uno de los activos con los que cuenta España, sus cuerpos profesionales que han accedido a la Administración Pública mediante un duro y exigente proceso de capacitación.

Pero las características del actual proceso de selección no son tan importantes cuando se trata de analizar las posibles reformas que se proponen, sino que hay que someter a éstas a un “test de estrés” para sobre todo evitar que pueden dar lugar claramente a discrecionalidad, clientelismos y nepotismos de influencia política.

Si se reforman las oposiciones a la carrera judicial/fiscal, han de reformarse todos los sistemas de oposiciones, puesto que de lo contrario, cualquier intento de reformar únicamente las oposiciones a judicatura y fiscalía (o incluso únicamente a jueces) tendrán como fin menoscabar la independencia judicial y buscarán controlar e influir en el acceso de los nuevos miembros del poder judicial.

La selección por oposiciones no es un sistema perfecto y todo es susceptible de mejorar pero hay que considerarlas como uno de los procesos más transparentes, imparciales, objetivos e igualitarios y sin influencia de componentes políticos e ideológicos. En un país donde el nepotismo, la corrupción y la politización y el tráfico político con las instituciones copan las noticias diarias hay que resaltar el funcionamiento de un proceso basado en el mérito, la capacidad y el esfuerzo. Cambios en la selección del funcionariado en nuestra actual situación del país podrían provocar grandes y graves daños y hemos de ser conscientes de ello por lo que cualquier propuesta hay que analizar profundamente y no tomarla a la ligera.

Alfonso Peralta Gutiérrez

[i]               The Training of Judges and Public Prosecutors in Europe: Proceedings, Multilateral Meeting Organised by the Council of Europe in Conjunction with the Centre for Judicial Studies, Lisbon : Lisbon, 27-28 April 1995, Volumen 68 https://books.google.com/books/about/The_Training_of_Judges_and_Public_Prosec.html?hl=es&id=RoFIHHLRq0UC

[ii]                     https://e-justice.europa.eu/content_legal_professions-29-nl-es.do?member=1

[iii]                   https://www.ganintegrity.com/portal/country-profiles/belgium

[iv]             https://www.abc.es/espana/abci-belgica-pais-poco-ejemplar-para-lecciones-democracia-201711082204_noticia.html

[v]                     https://elpais.com/diario/1996/09/02/internacional/841615218_850215.html

[vi] https://www.encj.eu/images/stories/pdf/workinggroups/independence/encj_report_ia_ga_adopted_ga_13_6.pdf

[vii]                  El sistema de reclutamiento y la formación de magistrados en Francia.  L’École Nationale de la Magistrature. Iñaki Esparza Leibar. Cuaderno del Instituto Vasco de Criminología, ISSN 0210-9700, Nº. 23, 2009, págs. 333-350

[viii]           Las oposiciones a la judicatura fueron implantadas en España en 1869 para garantizar la independencia de los jueces. Carlos Berbell. Confilegal. 6/12/2020. https://confilegal.com/20201206-las-oposiciones-a-la-judicatura-fueron-implantadas-en-espana-en-1869-para-garantizar-la-independencia-de-los-jueces/

[ix]                    Training and Recruitment of Judges in Germany.  Johannes Riedel. International Journal for Court Administration, Vol. 5, No. 2, 2013. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2894271

[x]                     Judicial Appointments in Germany and the United States. Fiona O’Connell & Ray McCaffrey. Research and Information Service Research Paper. March 2012. NIAR 175-12 http://www.niassembly.gov.uk/globalassets/documents/raise/publications/2012/justice/6012.pdf

[xi]                    Recruitment and appointment of judges and justices in Europe and the US: law and legal culture. Paul Bovend’Eert. https://trema.nvvr.org/editie/2018-05/recruitment-and-appointment-of-judges-and-justices-in-europe-and-the-us

[xii]                  The Role of the Judiciary in Germany. By Hans-Ernst Böttcher. Simposio “The Role of the Judiciary in Changing Societies” – Japanese Association of Sociology of Law en Tokyo en 2001.

[xiii]                 Questionnaire “B” on the role of training institutions in recruitment and initial training of judges and prosecutors. Consejo de Europa. https://www.coe.int/t/dghl/cooperation/lisbonnetwork/questionnaires/Germany-reply-B.pdf

[xiv]           https://www.elnortedecastilla.es/castillayleon/universidades-estudiaran-septiembre-20190816193538-nt.html

[xv]            https://m.dw.com/es/jueces-en-alemania-se-elige-siempre-a-los-mejores/a-39848731

[xvi]           Recruitment, professional evaluation and career of judges and prosecutors in europe:Giuseppe Di Federico http://www.difederico-giustizia.it/wp-content/uploads/2010/09/recruitment-evaluation-and-career.pdf

[xvii]          En Magisterio tuvo que modificarse el sistema de baremación de publicaciones puesto que denunciaron la falta de rigor y validez de las publicaciones que muchos de los opositores presentaban para conseguir puntuación y que se publicaban a través de “editoriales patera https://www.elmundo.es/elmundo/2009/07/07/andalucia/1246993750.html

[xviii]              https://www.theguardian.com/uk/2005/feb/19/ukcrime.constitution

[xix]           https://www.legalcheek.com/2019/08/high-court-appoints-seven-new-judges-all-oxbridge-educated/

[xx]            ¿Qué determina el éxito en unas Oposiciones? Por Manuel F. Bagüés.. http://www.manuelbagues.com/dt2005-01.pdf

Recientemente, hemos visto que un juez de un tribunal inferior holandés (Tribunal de Distrito de Güeldres, 07-06-2024; Fecha de publicación 26-07-2024; Número de caso 10664071 CV23-2321) ha utilizado ChatGPT como fuente de información para el fallo. El caso era una disputa entre vecinos sobre paneles solares y el juez utilizó ChatGPT para averiguar la vida útil media de un panel solar, así como el precio medio de la electricidad. El juez del tribunal de distrito, en parte con la ayuda de ChatGPT, estima la vida media de los paneles solares desde 2009 entre 25 y 30 años; por lo tanto, esa esperanza de vida se fija aquí en 27,5 años y suponiendo, también en parte basándose en ChatGPT, un precio medio actual del kWh de 0,30 € (de 0,29 € a 0,34 €, según el tipo de contrato. El juez no utilizó ChatGPT para ayudar a dictar sentencia sino para obtener información extraprocesal para valorar la prueba practicada.

Pero basta recordar algunos extremos por lo menos en el derecho español. Lo cierto es que hoy en día no existe propiamente en España unas “Directrices de uso de IA Generativa” del Poder Judicial, sin embargo, sí que existen principios procesales básicos y normas procesales sobre la prueba y sí que hay dos resoluciones de la Comisión Ética Judicial sobre la búsqueda de información en internet por los jueces al margen del proceso.

De igual manera, parece que este camino se está recorriendo, y también en España. Este pasado junio se aprobó la POLITICA DE USO DE LA INTELIGENCIA ARTIFICIAL EN LA ADMINISTRACIÓN DE JUSTICIA en la Secretaría General del CTEAJE destinada a todos los trabajadores de la Administración de Justicia pero que no obstante, tiene que ser ratificada su adopción de manera específica por parte del Consejo General del Poder Judicial (CGPJ), Fiscalía General del Estado (FGE), Comunidades Autónomas con competencias en materia de Justicia y Ministerio de la Presidencia, Justicia y Relaciones con las Cortes (MPJRC).

– en el proceso civil, como éste, rige el principio dispositivo o de aportación de parte. Son las partes las que disponen del objeto del proceso. A ellas les corresponden las facultades de iniciar, renunciar, desistir y transigir en la acción ejercida, y también la de aportar los hechos que la configuran y proponer los medios de prueba que crean oportunos (artículo 19.1 LEC). Y ojo, esto podría no ser aplicable por ejemplo a procesos de familia ( SENTENCIA T-323 de 2024, CORTE CONSTITUCIONAL COLOMBIA-Sala Segunda de Revisión-. Referencia: expediente T-9.301.656. Magistrado sustanciador: Juan Carlos Cortés González donde el juez consultó si un menor autista tenía derecho a exoneración de cuotas moderadoras de la Seguridad Social) o procesos penales. Pero sí da unas directrices interesantes.

– carga de la prueba: cuando, al tiempo de dictar sentencia o resolución semejante, el tribunal considerase dudosos unos hechos relevantes para la decisión, desestimará las pretensiones del actor o del reconviniente, o las del demandado o reconvenido, según corresponda a unos u otros la carga de probar los hechos que permanezcan inciertos y fundamenten las pretensiones (Art. 217 LEC).

– tanto a testigos, parte como a peritos, el juez puede formular preguntas de adición o aclaración, y pedir explicaciones a los peritos de parte e incluso solicitar ampliación de la pericial (Art. 372.2, 306.1, 347.2 LEC)

– ¿qué papel ejerce ChatGPT para el juez? ¿actúa como perito? ¿actúa como perito judicial o dirimente? Los peritos deberán poseer el título oficial que corresponda a la materia objeto del dictamen y a la naturaleza de éste. Si se tratare de materias que no estén comprendidas en títulos profesionales oficiales, habrán de ser nombrados entre personas entendidas en aquellas materias. Podrá asimismo solicitarse dictamen de Academias e instituciones culturales y científicas que se ocupen del estudio de las materias correspondientes al objeto de la pericia. También podrán emitir dictamen sobre cuestiones específicas las personas jurídicas legalmente habilitadas para ello. Se puede nombrar un perito judicial en los supuestos legalmente previstos, y existen criterios jurisprudenciales sobre la pericial judicial como pericial dirimente. (Arts. 339 y 340 de la LEC). Pero nada se establece de la posibilidad de perito de inteligencia artificial o ilustración del juez por sí mismo.

– las Directrices de UNESCO en las que hemos trabajado, hablan de posibles restricciones de uso de la IA Generativo como la generación unilateral de decisiones jurídicas vinculantes o la creación de material probatorio fabricado.

– Por último, ya resolvió sobre algo muy similar la Comisión Ética Judicial española, DICTAMEN (CONSULTA 7/2019), DE 5 DE JUNIO DE 2019 sobre búsqueda de internet de información relativa al caso. Y remite a consulta 1/2019, dos dictámenes de hace más de 4 años, que ahora reproducimos:

5. Desde la perspectiva de la ética judicial, el juez tiene que ser extremadamente diligente en la preservación de los principios de independencia e imparcialidad, de tal modo que no se deje contaminar en su proceso de decisión sobre los hechos y la valoración de la prueba por cualquier clase de prejuicio contra alguna de las partes que pudiera tener su origen en información obtenida fuera de los cauces procesales oportunos.

7. Especial interés reviste en los tiempos actuales, desde la perspectiva de la ética judicial, las posibilidades que se le ofrecen al juez de obtener información a través de internet o las redes sociales sobre las partes, sus abogados o determinados hechos que afecten a la cuestión objeto de controversia. El juez debe ser especialmente diligente y cuidadoso en evitar que la información que pudiera llegarle por esta vía pueda alterar la posición imparcial que debe adoptar en su enjuiciamiento. Por una parte, puede llegar a conocer hechos o circunstancias que no han sido aportadas por las partes al proceso y este conocimiento puede operar a modo de sesgo inconsciente en su enjuiciamiento. Y, por otra, puede llegar a conocer información sobre alguna de las partes o sus letrados que le predisponga negativa o positivamente, lo que también puede sesgar su enjuiciamiento. En cualquier caso, no es aconsejable que el juez haga una búsqueda de la verdad material fuera del acervo probatorio.

la Comisión de Ética Judicial se limita a advertir, y ahora reiterar, que en la búsqueda de información adicional por internet existe un riesgo que debe ser tenido en cuenta, que consiste en conocer cuestiones, más o menos relacionadas con el pleito o con las partes y sus letrados, que puedan, de forma inconsciente, influir a modo de prejuicio o sesgo en el enjuiciamiento. Se trata de una información que, en el caso de no llegar a aportarse al proceso, puede influir en la interpretación de la prueba practicada y en el enjuiciamiento de los hechos, sin que haya podido haber contradicción al respecto. En este sentido, el juez además de tratar de evitar aquello que pueda sesgar su enjuiciamiento, para lo que resulta muy útil ser consciente de este riesgo, ha de velar por preservar la igualdad de oportunidades de las partes, en relación con la aportación de información y la prueba.

[…] el juez debe evitar guiarse por la información que pudiera tener sobre la cuestión objeto de enjuiciamiento, mientras no haya sido alegado por alguna de las partes.

iii) En tanto la ley procesal no lo permita, en ningún caso el juez puede introducir hechos distintos a los alegados por las partes.

iv) Por lo que se refiere a los hechos probados, el juez debe hacer un esfuerzo por atenerse objetivamente al resultado de la prueba practicada.

Y,

En cualquier caso, no es aconsejable que el juez haga una búsqueda de la verdad material fuera del acervo probatorio.

Se trata de una información que, en el caso de no llegar a aportarse al proceso, puede influir en la interpretación de la prueba practicada y en el enjuiciamiento de los hechos, sin que haya podido haber contradicción al respecto.

Como excepción de estos principios, en ámbito de familia con menores, o instrucción penal, puede decirse que el juez sí busca más la verdad material y no la judicial.

En definitiva, utilizar ChatGPT por el juez, no es distinto a por ejemplo buscar en Google, y esto está más que resuelto.

Alfonso Peralta Gutiérrez

Alfonso Peralta Gutiérrez.

En los últimos días ha surgido el debate sobre elecciones y voto telemático en Sala de Gobierno de los Tribunales Superiores de Justicia por parte de los jueces y magistrados. Como sabemos, estas elecciones, junto con las elecciones a los decanos electivos son la máxima y únicas expresiones democráticas en la carrera judicial. Quizás de ahí su principal importancia. Cierto es, que también se ha podido votar a la Comisión Ética Judicial y de manera telemática, y sin perjuicio de la importancia de su función y lo valioso de sus informes, no menos cierto es que los aspectos gubernativos puede decirse que suponen una afectación más directa al día a día de los jueces que los dilemas éticos más puntuales. Otra diferencia en sí en las elecciones a la Comisión Ética es que principalmente se vota a personas sin candidaturas asociativas propiamente dichas.

Lo cierto es que la discrepancia entre las distintas asociaciones no es sobre la metodología ni la tecnología del voto sino que APM se opone a las elecciones telemáticas por falta de cobertura legal, ya que no está contemplada está opción ni legal ni reglamentariamente.

Por su parte, el 25 de abril, el Pleno del Consejo General del Poder Judicial ha acordado y por mayoría continuar los trabajos para la modificación del Reglamento 01/2000 de los órganos de gobierno de los tribunales para incluir la posibilidad de emitir el voto de forma telemática en las elecciones a las Salas de Gobierno del Tribunal Supremo, la Audiencia Nacional y los Tribunales Superiores de Justicia.

Así, los miembros del órgano de gobierno de los jueces han decidido convalidar el acuerdo adoptado por la Comisión Permanente el pasado 2 de noviembre -en el que se aprobó un informe del Gabinete Técnico del CGPJ relativo a la viabilidad legal y reglamentaria del voto telemático en esas elecciones y se acordó constituir un grupo de trabajo- y continuar con la tramitación de la modificación reglamentaria.

Por ello, sin ser un experto informático ni auditor o consultor en el tema, pero sí al menos estando certificado con la ISO 27001 en seguridad de la información, tengo que añadir a este debate el aspecto técnico correspondiente a seguridad de la información y ciberseguridad.

Y es que según la nota de prensa del CGPJ si bien consta un informe del Gabinete Técnico sobre la viabilidad legal y reglamentaria, salvo omisión, no consta un informe sobre la viabilidad técnica y sobre todo sobre la ciberseguridad del voto telemático.

Así, a dichos trabajos debería añadirse la petición de un informe al Centro Criptológico Nacional sobre la viabilidad en materia de ciberseguridad de unas elecciones telemáticas como órgano competente en materia de soporte y despliegue de seguridad de los sistemas de las tecnologías de la información de la Administración que procesan, almacenan o transmiten información en formato electrónico, que normativamente requieren protección, y que incluyen medios de cifrado[i]. Y es que dicha tecnología debería cumplir con el mínimo del Esquema Nacional de Seguridad, el cual resulta de aplicación a todo el sector público y supone los principios básicos y requisitos mínimos necesarios para una protección adecuada de la información tratada y los servicios prestados por las entidades de su ámbito de aplicación, con objeto de asegurar el acceso, la confidencialidad, la integridad, la trazabilidad, la autenticidad, la disponibilidad y la conservación de los datos, la información y los servicios utilizados por medios electrónicos que gestionen en el ejercicio de sus competencias[ii].

Y es que no podemos olvidar frente a ataques informáticos, no sólo la importancia del poder judicial como un poder del estado, su carácter estratégico frente a amenazas y el impacto significativo que puede suponer en un estado su vulnerabilidad, ya que además no es la primera vez que ha sufrido ataques la institución en sí, o bien las credenciales de algunos de sus miembros.

Siendo en ciberseguridad algunos de los principios básicos la prevención, la formación, y la ya clásica seguridad y privacidad por defecto y desde el diseño, antes de la implantación de cualquier herramienta de voto electrónico deberíamos no tener dudas de que al menos cumple los estándares del Esquema Nacional de Seguridad y existe una viabilidad técnica en materia de seguridad de la información.

Para ello, se puede comprobar por ejemplo, si hay alguna herramienta al respecto en el Catálogo de Productos de Seguridad de las Tecnologías de la Información y Comunicación (CPSTIC), el cual recoge los Productos Aprobados para el manejo de información clasificada y los Productos Cualificados para el manejo de información sensible, de forma que pueda servir de referencia a las organizaciones obligadas por el ENS.

De igual manera, de conformidad con lo señalado en el artículo 2.3 del Real Decreto 311/2022, los pliegos de prescripciones administrativas o técnicas de los contratos que celebren las entidades del sector público, incluidas en el ámbito de aplicación del ENS, contemplarán todos aquellos requisitos necesarios para asegurar la conformidad con el ENS de los sistemas de información en los que se sustenten los servicios prestados por los contratistas, tales como la presentación de las correspondientes Declaraciones o Certificaciones de Conformidad con el ENS.

Por supuesto, además de ello, sería muy recomendable que la tecnología cumpla con la denominada Directiva NIS2 de ciberseguridad[iii] así como las normas estandarizadas de seguridad de la información como productos Common Criteria u otra certificación de producto reconocida internacionalmente.

Así, en un análisis de riesgos de unas elecciones telemáticas lo primero que hay que contemplar es si el sistema que se pretende garantiza la seguridad y la confidencialidad. De tal manera que no permita usurpaciones, suplantaciones o existan medidas técnicas y organizativas para evitarlo, pero a su vez, garantice un voto secreto. Y que además, los recuentos y sistemas de servidores sean seguros de tal manera que no pueda producirse una manipulación de los resultados.

Por ejemplo, el Artículo 9.3, 10.2 de la Ley 39/2015 o 122.2.c) de la Ley 9/2017, de 8 de noviembre, de Contratos del Sector Público en cuanto a identificación y firma, en caso de tratarse de datos personales, y más tratándose de categorías especiales de datos del Art. 9 del RGPD de “opiniones políticas” o “afiliaciones sindicales”, deberían tratarse en servidores ubicados en España.

Además, cuando hay un recuento electrónico, hay alguien que “controla” ese recuento, que pone el sistema y los servidores. ¿A quién cedemos ese control? ¿Al Ministerio de Justicia, a INDRA, a empresas privadas?

¿Y cuál sería el resultado de comprobar todo esto? Pues ya se lo adelanto. Que no existe sistema de elecciones telemáticas que lo cumpla. Que es IMPOSIBLE. NO EXISTE. NO SE HA INVENTADO. NO SE CONOCE. Tan imposible como romper la ley de la gravedad o pedir manzanas al olmo o como no podemos saber cuántos mundos hay en el universo.

Y es que parece que como en Justicia vamos tan atrasados a nivel tecnológico, a ver si podemos avanzar con algo que sea telemático, tecnológico o informático.

Pero ojo, que si no hay ningunas elecciones serias en el mundo que sean telemáticas, pues por algo será. Porque por mucha inteligencia artificial, blockchain, o demás, hoy en día en esta materia, lo único verdaderamente confiable es el papel.

El voto telemático no puede ser seguro y secreto a la vez. Si es seguro  (por certificado electrónico, por ejemplo, debe ser al menos un sistema de doble autenticación), es trazable. Y por lo tanto no es secreto. Se podría trazar el voto de cada uno y revelarse los votos de todos los jueces y magistrados de España mediante sistemas de desanonimización inversa.

Lo segundo es si el servidor sería seguro. Ya que los resultados de una votación telemática podrían ser hackeables y manipulables.

Y si el voto es anónimo, nunca será seguro y será fácilmente manipulable porque nunca podrás asegurar su trazabilidad.

No hay un sistema seguro y de voto secreto telemático. Y no hay un sistema informático de resultados telemáticos que no sea hackeable y manipulable. Y por lo tanto no hay un sistema de voto electrónico confiable. Y si no puedes confiar en las elecciones, te cargas uno de los pilares de la democracia. Y por eso no hay ningunas elecciones serias con voto electrónico.

Así, por ejemplo, cuando se ha hecho uso de sistemas de voto electrónico en primarias de partidos políticos, al final se han acabado investigando por manipulación electoral. Y alguien podría decir, en algunas votaciones a rector ha habido votación electrónica, por ejemplo en la Universidad de Granada.  Pues sí, y la empresa que las hizo ha acabado en liquidación, por algo será. Suiza llegó a implantar bastante masivamente el voto electrónico, hasta que lo acabó quitando en 2019 porque la democracia suiza era demasiado valiosa para experimentos.

Y cuando se habla de Estonia, su sistema de e-voting fue auditado y las conclusiones son las siguientes:

Lo que encontramos nos alarmó. Había lagunas asombrosas en la seguridad operativa y de procedimiento , y la arquitectura del sistema lo deja abierto a ataques cibernéticos de potencias extranjeras , como Rusia. Estos ataques podrían alterar los votos o dejar los resultados electorales en disputa. Hemos confirmado estos ataques en nuestro laboratorio: son amenazas reales. Recomendamos urgentemente que Estonia deje de utilizar el sistema.

Pero es que en Estonia, el voto secreto se ha considerado como el derecho del ciudadano a emitir su voto de manera solitaria[iv]. ¿Por qué? Porque en el voto por internet el estado no está en condiciones de asegurar el aspecto privado del procedimiento. No el derecho a que no se sepa su sentido del voto. En Estonia por ejemplo las listas de votantes tienen la información sobre quién ha votado y quién no y de qué manera. El voto secreto no abarca el derecho a revelar o no si votas o no. ¿Es el mismo concepto de voto secreto que puede tener nuestra Constitución, la LOPJ o la LOREG?

Y los estonios no votan con credenciales de email ni cosas así, sino con (…) su tarjeta de identificación nacional o un identificador móvil con certificados y PINs válidos, un lector especial de tarjetas y una aplicación de voto que verifica de forma automática si el votante es elegible para emitir su voto”.

La Electronic Frontier Foundation, una organización sin ánimo de lucro por los derechos digitales que acaba de cumplir 30 años, desaconseja frontalmente el voto electrónico y se opone a cualquier ley electoral que no incluya estas dos medidas: votos individuales de papel y auditorías o comprobaciones que limiten los riesgos para cada elección.

No hablamos de la organización sin ánimo de lucro contra la digitalización, la modernización y por la vuelta a las cavernas. No. Hablamos de una organización por los derechos digitales. De gente que sabe. Igual que los anteriores.

Francia o Estados Unidos han dado un portazo al voto electrónico. Pero es que somos juristas, si queréis dejamos de lado las frikadas. La Corte Constitucional Alemana declaró la inconstitucionalidad del e-vote. Y os dejo algunas de sus argumentaciones:

“Los problemas de seguridad de los aparatos electorales afectan a los principios electorales de libertad, igualdad y secreto del voto. Si los votos pueden ser capturados, desviados o espiados, se vulnera el principio de libertad electoral. Si no se sabe si el voto será contabilizado efectivamente, se vulnera el principio de igualdad electoral. Estas manipulaciones también pueden afectar al principio del secreto del voto. Para lesionar estos principios electorales es suficiente que la utilización de las máquinas electorales permita la concurrencia de estos errores”.

“el fraude que se puede realizar con el software supera en mucho las posibilidades del sistema tradicional”

Así que, por favor, ya que no podemos elegir nuestro órgano de gobierno, tomémonos en serio las elecciones que tenemos y que nos afectan, dejémonos de experimentos y reflexionemos lo que hay que digitalizar. No porque algo sea digital, tiene que ser necesariamente mejor, puede también empeorar. Y si la única ventaja es que votar desde tu despacho es más cómodo, pues hagamos un pequeño sacrificio para las pocas elecciones que tenemos.

Para más información:

• https://www.newtral.es/voto-electronico-seguro-requisitos/20201104/
• https://www.xataka.com/otros/voto-electronico-espana-relacion-largo-aliento-que-no-termina-cuajar
• https://www.xataka.com/seguridad/tecnofilos-contrarios-al-voto-electronico-cuando-papel-vence-goleada-a-tecnologia
•  

[i] Real Decreto 421/2004, de 12 de marzo, por el que se regula el Centro Criptológico Nacional.

[ii] Real Decreto 311/2022, de 3 de mayo, por el que se regula el Esquema Nacional de Seguridad.

[iii] DIRECTIVA (UE) 2022/2555 DEL PARLAMENTO EUROPEO Y DEL CONSEJO de 14 de diciembre de 2022 relativa a las medidas destinadas a garantizar un elevado nivel común de ciberseguridad en toda la Unión, por la que se modifican el Reglamento (UE) n.o 910/2014 y la Directiva (UE) 2018/1972 y por la que se deroga la Directiva (UE) 2016/1148 (Directiva SRI 2)

[iv] Madise, Ülle & Maaten, Epp & Vinkel, Priit. (2014). Voto por Internet en Estonia.

Alfonso Peralta Gutiérrez

Un chaval en vuelo Londres-Menorca antes de embarcar le soltó a sus amigos una broma sin ninguna gracia con un mensaje privado “de camino a volar el avión (soy miembro de los talibán)”. Ese mensaje habría sido intervenido por los servicios de inteligencia, que habrían activado protocolo antiterrorista, sacando un F18 de patrullaje con un coste de 95.000 euros. Fue detenido y se le solicitaba una condena por desórdenes públicos y responsabilidad civil de los gastos ocasionados. Sin comentar una sentencia de sentido común, que ya se ha dictado y supone no darle la razón a una Fiscalía por una calificación muy cuestionable, las cosas han cambiado mucho desde la filtración de Snowden.

El mensaje posiblemente se interceptó a través de Muscular o Prism, todo ello a través de la red Echelon o la comunidad Ukusa de la que forma parte Reino Unido. La otra manera sería a través de las redes de interceptación de cables submarinos.

Los proveedores de servicios de Internet (Google, Meta, Microsoft, etc.) están obligados, según las leyes y con ciertas condiciones a proporcionar a las agencias de inteligencia o de seguridad nacional las comunicaciones enviadas y recibidas por un «selector» o identificadores específicos. Es decir, qué cuando saltaron las alarmas automáticas al escribir «talibán», «volar», «avión», y en una geoposición en un aeropuerto, la gracia para el sistema algorítmico suponía algo muy serio.

Y esto en Reino Unido es legal, en virtud de la RIPA (regulatory investigatory powers act), pero también está regulado en Francia, Alemania, Países Bajos y Suecia, y por supuesto Estados Unidos.

Y esta serie de medidas pueden ser conforme al derecho europeo y al tribunal europeo de derechos humanos como se resolvió en casos Quadrature du Neti o Big Brother Watchii. Se puede transmitir a las agencias de seguridad e inteligencia datos de tráfico y de localización con el fin de proteger la seguridad nacional. Pero ha de ser una medida necesaria, apropiada, especial, idónea, excepcional y proporcionada y se han de establecer reglas claras y precisas y requisitos materiales y procedimentales.

Incluso el TJUE permite un caso muy similar a éste en los asuntos acumulados C-511/18, C-512/18 y C-520/18 en los cuales el Tribunal de Luxemburgo permite que la activación de la vigilancia masiva pueda basarse en un criterio geográfico cuando las autoridades nacionales competentes consideren, sobre la base de elementos objetivos y no discriminatorios, que existe una situación caracterizada por un riesgo elevado de preparación o de comisión de tales delitos graves en una o varias zonas geográficas. Estas zonas pueden ser, en particular, lugares que cuentan con un número elevado de delitos graves, lugares especialmente expuestos a la comisión de delitos graves, como los lugares o infraestructuras a los que acuden con regularidad un número muy elevado de personas, o incluso lugares estratégicos, como aeropuertos, estaciones o zonas de peajes.

Lo que no puede ser, es indiscriminado y generalizado. Y en el caso datos en tiempo real, que se limite a personas de las que se sospeche fundadamente que están implicadas en actividades terroristas. Y deberá haber un control judicial o administrativo efectivo y vinculante.

¿Cuál ha sido el problema? España si bien no tiene sistemas propios de vigilancia masiva, si que participamos de la cooperación y en primer lugar no existe regulación alguna. Pero el problema es que los tribunales exigen un reexamen individual de los medios automatizados.

La razón por la que el TEDH condenó a Reino Unido, aparte de una falta de regulación «de calidad». La falta de supervisión de la selección de portadores para la interceptación, el proceso según el cual los analistas seleccionan las comunicaciones interceptadas y la ausencia de alguna salvaguarda aplicable a la búsqueda y selección para examen de los datos de comunicaciones relacionadas. El TJUE también lo avisó: «deberá reexaminarse individualmente de manera regular por medios no automatizados los resultados de todo análisis automatizado antes de adoptar una medida individual que produzca efectos perjudiciales para las personas afectadas, como la recopilación posterior de los datos de tráfico y de localización en tiempo real, sin que una medida de este tipo pueda basarse, en efecto, de forma decisiva exclusivamente en el resultado de un tratamiento automatizado». Es decir, que cuando saltaron los selectores de posible atentado terrorista, había que haber reexaminado individualmente y con supervisión humana la alerta de los selectores antes de a lo mejor sacar a pasear un F18. Lo de siempre, la necesidad y la obligación de la supervisión humana de la IA.

Lo que debería existir en toda inteligencia artificial y algoritmos públicos es una auditoría, rendición de cuentas y supervisión humana. Lo exige el nuevo reglamento de inteligencia artificial. Y si no existen los procesos o no han funcionado o no se respetaron por riesgo de seguridad nacional, lo que no es lógico es echar la culpa a un chaval que ni siquiera sabe lo que ha hecho ni encima darle publicidad a un fallo del sistema, pues puedes conseguir un efecto Streisand multiplicador de esa vulnerabilidad provocando la inoperancia de los sistemas de monitorización.

Digámoslo claros. Podemos tener un gran problema con los algoritmos públicos y este puede ser el primero de muchos casos de fallos en distintos ámbitos.

Todo esto lo escribí en LA LEY hace más de 2 años por si os interesa conocer más en profundidad la vigilancia masiva, cómo funciona, y los requisitos jurisprudenciales para su homologación en derechos humanos, y lo hablé con Sasi Alami en el programa de inteligencia Código Crystal de Radio Nacional De España por si preferís el podcast. 

i Casos de la Gran Sala del Tribunal de Justicia de la Unión Europea Quadruture Du Net and Others, Asuntos acumulados C-511/18, C-512/18 y C-520/18 TJUE, y Caso Privacy International and others C 623/17, ambas de 6 de octubre de 2020.
ii Case Of Big Brother Watch And Others v. The United Kingdom, 25 de mayo de 2021 Gran Sala TEDH. (Applications nos. 58170/13, 62322/14 and 24960/15)

Llevamos ya unos pocos años hablando de la inteligencia artificial y es la hora de su regulación y de comenzar a interpretarla y aplicarla. Y en esto, las administraciones públicas deberían ser las primeras en conocer la ley europea una vez sea publicada y en dar ejemplo, estando obligadas a ello.

Así, con la aprobación por el Parlamento Europeo quedarán prohibidos definitivamente los “sistemas de IA para realizar evaluaciones de riesgo de personas físicas o grupos de personas físicas con el fin de evaluar el riesgo de una persona física de delinquir o reincidir o para predecir la ocurrencia o reincidencia de una infracción penal o administrativa real o potencial basada en la elaboración de perfiles de una persona física o en la evaluación de rasgos y características de la personalidad, incluida la ubicación de la persona, o del comportamiento delictivo pasado de personas físicas o grupos de personas físicas”

Por lo tanto, no sólo es que administraciones públicas deben comenzar a revisar sus sistemas y publicar los algoritmos, algo que no han hecho ni con VioGèn, ni con Veripol, ni con RisCanvi en Cataluña, los cuales carecen de una mínima transparencia o mínima auditoria del sistema de predicción de riesgo de violencia de género considera que la calidad de los datos es mejorable o presenta sesgos y discriminaciones. De igual manera, hasta que no lo publicó El Confidencial[i][ii] se desconocía que la Seguridad Social usaba un algoritmo secreto para “cazar” posibles fraudes en bajas laborales. De la misma forma, ya están saliendo las primeras informaciones que la Agencia Tributaria se espera comience a utilizar nuevas herramientas basadas en IA para el análisis de datos que permitan hacer un control más eficiente de los datos y de esa manera detectar quienes cumplen y quienes no, con el pago de los impuestos que les corresponden[iii].

Desde Hacienda ya están dando los primeros pasos en este sentido con el sistema de vigilancia que permite actualmente, detectar el fraude fiscal y también prevenirlo, ayudando en esta tarea a los inspectores.

O BOSCO[iv], un software que utiliza el Gobierno, de algoritmo igualmente secreto, que las eléctricas utilizan para decidir quién es beneficiario del denominado bono social eléctrico y que se ha denunciado que además de su opacidad tiene fallos y sesgos.

A tenor de ello, directamente estos sistemas -según la última versión del Reglamento Europeo (si ésta se mantiene)- el primer día de su entrada en vigor deberían dejar de utilizarse por el Gobierno español. 

El ejecutivo holandés utilizaba el algoritmo SyRI para detectar diversas formas de fraude, incluidos los beneficios sociales, las asignaciones y el fraude fiscal, y en 2020 el Tribunal de Distrito de La Haya declaró que este sistema violaba los derechos humanos. Este sistema Systeem Risico Indicatie, SyRI, que significa «indicación de riesgo del sistema»), pretendía prevenir y combatir el fraude, a través de identificar «perfiles de ciudadanos poco probables» que requirieran un examen más detenido. El sistema se basaba en la asignación del nivel de riesgo de que una determinada persona cometa fraude a los ingresos públicos, en función de una serie de parámetros analizados y relacionados entre sí.

Si un organismo público (por ejemplo, los ayuntamientos, el banco de la Seguridad Social o la Agencia Tributaria) detectaba fraude con prestaciones, subsidios o impuestos en un barrio determinado, podía utilizar SyRI. SyRI determinaba qué residentes locales merecían una investigación más a fondo. Para calcular posibles irregularidades, los algoritmos enlazan todos los datos personales de sus residentes almacenados por instancias gubernamentales. La aplicación procesaba datos personales pseudoanonimizados, de todo tipo sobre el individuo, incluidos datos de endeudamiento, antecedentes penales, salud, etc. y de ella se extraían una serie de conclusiones sobre el nivel de riesgo de la persona[v]. Esos datos se comparan luego con el perfil de riesgo creado a partir de la información de otros ciudadanos que sí han delinquido. Observadas las similitudes, se confecciona una lista de nombres que las autoridades pueden conservar hasta dos años.

En 2020, el Tribunal de La Haya[vi] ordenó la paralización inmediata de SyRI, al concluir que la legislación por la que se establecía SyRI proporcionaba una protección insuficiente contra la intromisión en la vida privada, debido a las medidas desproporcionadas adoptadas para prevenir y castigar el fraude en aras del bienestar económico. El tribunal concluyó que SyRI violaba el artículo 8 del Convenio Europeo de Derechos Humanos (CEDH), que protege el derecho al respeto de la vida privada y familiar[vii] por ausencia de proporcionalidad y transparencia.

En el caso de Bosco, este programa es utilizado por el Ministerio para la Transición Ecológica, al objeto de reconocer o no el derecho al bono social.

Según el juzgado “no puede considerarse que el acto administrativo se dicte por una aplicación informática, sino por un órgano administrativo, y en caso de que el destinatario de dicho acto esté disconforme con el mismo, podrá impugnarlo en vía administrativa”

Y se deniega el acceso al código fuente con base en el Informe técnico Subdirector General de Tecnologías de la Información y de las Comunicaciones del Ministerio de Industria, Comercio y Turismo

Por ello, se desestimó el recurso interpuesto, si bien la sentencia se encuentra apelada y a expensas de resolución.

A este respecto, nos preguntamos cómo afectará la nueva normativa de Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminación a la resolución del recurso, según el cual, en su artículo 23: […] las administraciones públicas favorecerán la puesta en marcha de mecanismos para que los algoritmos involucrados en la toma de decisiones que se utilicen en las administraciones públicas tengan en cuenta criterios de minimización de sesgos, transparencia y rendición de cuentas, siempre que sea factible técnicamente. En estos mecanismos se incluirán su diseño y datos de entrenamiento, y abordarán su potencial impacto discriminatorio. Para lograr este fin, se promoverá la realización de evaluaciones de impacto que determinen el posible sesgo discriminatorio.

2. Las administraciones públicas, en el marco de sus competencias en el ámbito de los algoritmos involucrados en procesos de toma de decisiones, priorizarán la transparencia en el diseño y la implementación y la capacidad de interpretación de las decisiones adoptadas por los mismos.

3. Las administraciones públicas y las empresas promoverán el uso de una Inteligencia Artificial ética, confiable y respetuosa con los derechos fundamentales, siguiendo especialmente las recomendaciones de la Unión Europea en este sentido.

4. Se promoverá un sello de calidad de los algoritmos.

Al igual que el Reglamento Europeo de inteligencia artificial según el cual, en su art. 4 bis, en cuanto a la «Transparencia», “los sistemas de IA se desarrollarán y utilizarán facilitando una trazabilidad y explicabilidad adecuadas, haciendo que las personas sean conscientes de que se comunican o interactúan con un sistema de IA, informando debidamente a los usuarios sobre las capacidades y limitaciones de dicho sistema de IA e informando a las personas afectadas de sus derechos”.

O por ejemplo en su Art. 13 apartado 1º: la transparencia significará que, en el momento de la introducción en el mercado del sistema de IA de alto riesgo, se utilizarán todos los medios técnicos disponibles de conformidad con el estado actual de la técnica generalmente reconocido para garantizar que el proveedor y el usuario puedan interpretar la información de salida del sistema de IA de alto riesgo. El usuario de estar  capacitado para comprender y utilizar adecuadamente el sistema de IA sabiendo, en general, cómo funciona el sistema de IA y qué datos trata, lo que le permitirá explicar las decisiones adoptadas por el sistema de IA a la persona afectada de conformidad con el artículo 68, letra c).

En el orden social, CASTILLO PARRILLA aborda la discriminación a través del algoritmo en una plataforma con el análisis de la sentencia del caso Deliveroo Bolonia y sus implicaciones para el sector público[viii]. Unos sindicatos demandan a Deliveroo Italia SRL, una de las principales plataformas de envío de comida a domicilio, por discriminación en las condiciones de acceso al trabajo por parte de los riders. Esta sentencia, viene a superar a la de Uber de la Corte Suprema del Reino Unido, porque no sólo analiza la existencia de una relación laboral de los riders sino que además entra en el análisis de la posible discriminación del algoritmo respecto a las condiciones de acceso a las sesiones de trabajo por los repartidores y en particular de los parámetros de tratamiento del llamado “ranking reputacional”.

Así, el algoritmo no permitiría las ausencias al trabajo por motivos de huelga, enfermedad, o por ejemplo cuidado de familiares o hijos, de tal manera que estaría impidiendo en la práctica el ejercicio de derechos, permisos y licencias reconocidos legalmente. El código se convierte en la ley como dice LESSIG[ix]. Dice el tribunal de Bolonia, que Deliveroo no sabe y no quiere saber los motivos por los que el corredor cancela su reserva o no participa en una sesión reservada y no cancelada. Pero es precisamente en esta «inconsciencia» (como lo define Deliveroo) y «ceguera» (como lo definen los solicitantes) del programa de procesamiento de estadísticas de cada corredor que alberga el potencial discriminatorio del mismo.

En materia de responsabilidad civil, ya han existido múltiples accidentes con vehículos autonómos o robots, incluso con resultado de muerte [x] [xi] [xii] [xiii] [xiv]. Es más, algunos estudios[xv] revelan un número que si bien no es masivo, y ni siquiera importante si se comparan con por ejemplo el número de vehículos Tesla que se venden al año, o el número de accidentes de la seguridad vial, pero sí es relevante porque ha supuesto 17 vidas y por la necesidad de regular una nueva responsabilidad civil sobre quién responde e indemniza en caso de accidente de un vehículo autónomo. Por lo que lamentablemente los juzgados de Primera Instancia seguirán recibiendo demandas de responsabilidad civil extracontractual por daños de tráfico, pero esta vez con un coche autómata.

El Proyecto Detección (Senging, en inglés) está diseñado para prevenir y detectar delitos contra la propiedad cometidos por lo que se conoce como “bandidaje móvil” en la localidad de Roermond.

El Tribunal Supremo de Holanda (Hoge Raad)[xvi] ha establecido que este proyecto que produce paradas y controles preventivos señalando sus coches por matrículas de países de Europa del Este supone una distinción basada en la nacionalidad o el origen étnico de los pasajeros, lo cual es un tratamiento desigual o discriminatorio, cuando no hay ninguna razón objetiva para parar el coche, aparte de coincidir con el perfil de nacionalidad.

Otros casos relativos al ámbito policial eran la plataforma para el “análisis” de datos (Hesse, plataforma “hessenDATA”) o una “evaluación” de datos (Hamburgo) por la policía de ambos territorios y que fueron declarados inconstitucionales por la Primera Cámara del Tribunal Constitucional Federal en sentencia de 16 de febrero de 2023 (1 BvR 1547/19, 1 BvR 2634/20[xvii]).

En España, el sistema VioGèn tiene en cuenta a efectos de evaluación e incremento del riesgo, que la víctima sea extranjera, teniendo en cuenta su origen o su nacionalidad, y su procedencia cultural. Así, se desconocen qué nacionalidades, orígenes o procedencias culturales se catalogan como arraigados valores sexistas y qué estudios los justifican como tal, en cuanto que podría producirse un sesgo racista. Si bien se trataría de un indicador de la víctima, lo cierto es que se entiende que será más posible que víctima y agresor sean de la misma nacionalidad y origen.

Debemos recordar que por ejemplo el programa HART habría desarrollado un sesgo aporofóbico[xviii], aumentando el notablemente el riesgo en relación a las personas de bajos recursos económicos. Sesgo que se intentó corregir por sus desarrolladores eliminando como parámetros el código postal evitando con ello que residir en determinadas zonas depauperadas supusiera un factor relevante. O que por ejemplo PredPol, habría sido modificado porque asignaba una dotación policial excesiva en los barrios en los que proliferaban las comunidades de color o de escasos recursos económicos.

Sin poder realizar una auditoría en profundidad del sistema VioGén, sí que podemos apreciar que son indicadores que suponen un aumento de la valoración del riesgo policial de reincidencia en materia de violencia de género, ser menor de 24 años, que la víctima sea extranjera y que el autor tenga deudas o haya sido despedido de su empleo. Posteriormente veremos que estos indicadores pueden ser justificables, pero consideramos que se hace necesaria una auditoría externa, completa y transparente del sistema de tal manera que sea explicable.

Recientemente, sí que se ha auditado el sistema VioGén por Eticas Foundation y en colaboración con Fundación Ana Bella, Red de Mujeres Supervivientes[xix].

La auditoría habría apreciado indiciariamente un importante sesgo en el rendimiento del sistema VioGén a nivel agregado, ya que no se habría estudiado si el sistema se comporta de forma diferente para los distintos grupos de mujeres según su edad, origen o si tienen hijos o no. En este estudio, se ha llevado a cabo un análisis estratificado de los casos de IPH entre diferentes categorías de mujeres con el propósito de indagar sobre los tipos de vulnerabilidad que podría producir y aplicar el sistema. Al hacerlo, Eticas comprobó que a las mujeres sin hijos se les asigna sistemáticamente una puntuación de riesgo menor que a las mujeres con hijos. Y lo mismo debería hacerse con VioGén, para comprender mejor cómo se calibra y si se tienen en cuenta las disparidades entre los grupos protegidos.

Asimismo, sostiene el estudio que habría que revisar la razón de por qué el 45% de los casos reciben la puntuación de «sin riesgo» y que quizás se esté infraevaluando la violencia psicológica y las nuevas formas de violencia y acoso a través de redes sociales.

En la conclusión de auditoría se fundamenta que para los sistemas de toma de decisiones altamente automatizados y financiados con fondos públicos, de enorme impacto social como VioGén (que, en algunos casos, toma decisiones de vida o muerte), deberían exigirse por ley auditorías independientes. Que el sistema no es transparente, y que la mayor parte de los estudios sobre VioGén han sido realizados por los mismos investigadores que contribuyeron a su desarrollo (López-Ossorio et al., 2019; López-Ossorio, González-Álvarez, et al., 2020), y por personas que trabajan o que tienen intereses particulares en el ministerio y las fuerzas policiales. Que existe una ausencia de rendición de cuentas a efectos de responsabilidad y falta de participación de las poblaciones afectadas. De las entrevistas con víctimas y abogados, las primeras en un 48% evaluaron negativamente el sistema, y los 7 abogados muestran poca confianza en el algoritmo.

Así, la auditora muestras sus “preocupaciones en relación con la transparencia, la supervisión independiente, la rendición de cuentas, la participación de los usuarios finales y la transición al Machine Learning”. En cuanto que en los últimos tiempos habría sido valorada la posibilidad de incorporar al sistema VioGén un algoritmo de aprendizaje automático, basado en la técnica de Nearest Centroid para la clasificación -o un modelo híbrido que implemente una mezcla estocástica del sistema actual y de Nearest Centroid-, según el informe y para ello debería plantearse un debate público y abierto sobre este proceso.

Por último, la auditoría destaca que “VioGén es, en la práctica, un sistema automatizado con una supervisión humana mínima e inconsistente”.

Gemma Galdón, en la entrevista realizada por DIGITAL FUTURE SOCIETY refiere lo crucial de que sepamos cómo se toman las decisiones automatizadas en el ámbito público, y considera que dentro de 5 años miraremos atrás y nos tiraremos de los pelos de cómo implementábamos algoritmos de IA sin auditar, porque la opacidad del sistema es una irresponsabilidad. Si un sistema, como por ejemplo VioGén falla, y se producen muertes de víctimas con una predicción de riesgo bajo o inexistente o no apreciado, no sabemos por qué.

De igual manera, el proyecto RisCanvi[xx] está diseñado para dar respuesta a la evaluación y gestión del riesgo de todo el conjunto de la población penitenciaria catalana (centros penitenciarios de régimen ordinario y abierto y liberados condicionales).

El propio documento de Instituciones Penitenciarias catalanas reconoce que la evaluación y valoración del riesgo es la primera y una de las partes fundamentales del proyecto RisCanvi.

Allá por 2020 en el Caso Edward BRIDGES v. South Wales Police[xxi], Ed Bridges fue el primero que desafió al uso público del reconocimiento facial en vivo o a tiempo real por parte de la policía de Gales del Sur, alegando que estaba violando los derechos a la privacidad, las leyes de protección de datos y las leyes de igualdad.

La intención de Policía del Sur de Gales durante cada implementación es permitir que AFR Locate procese a tantas personas como sea posible. Está claro que el número de personas procesadas es muy grande. Durante los 50 despliegues que se llevaron a cabo en 2017 y 2018, es posible que se hayan escaneado alrededor de 500 000 rostros. La gran mayoría de las personas cuyos datos biométricos son capturados y procesados por SWP utilizando AFR Locate no son sospechosas de ningún delito, no son de interés para la policía y se habría obtenido sin su consentimiento (16).

En agosto de 2020, el Tribunal de Apelación revocó la decisión de septiembre de 2019 del Tribunal Superior y consideró que el uso de la tecnología de reconocimiento facial por parte de la Policía de Gales del Sur infringe los derechos de privacidad, las leyes de protección de datos y las leyes de igualdad debido a “deficiencias fundamentales” en el marco legal.

En cuanto al marco legal suficiente, se considera una excesiva discrecionalidad. Asimismo, se considera que la DPIA (Data Protection Impact Assestment, evaluación de impacto de protección de datos) no contenía una evaluación de la privacidad (evaluación de impacto, evaluación de riesgos y mitigación de los mismos), los datos personales y las garantías.

De igual manera, en el Reglamento futuro europeo quedan prohibidos los sistemas de reconocimiento facial y biométrico a tiempo real no selectivos, pero se permiten si se utiliza a posteriori previa resolución judicial para análisis de imágenes obtenidas.

Así, el sistema ABIS, siglas en inglés que responden a «sistema automático de identificación biométrica», que está entrenando el Ministerio del Interior y que además no ha consultado previamente a la AEPD, lo primero que deberá hacer será adaptarse a los requisitos del reglamento europeo como sistema de alto riesgo. Y el legislador deberá prever un nuevo artículo 588 nonies de la Ley de Enjuiciamiento Criminal para autorizar este tipo de sistemas.

Y por último, mencionar también que al parecer ya se habrían interpuesto las primeras demandas contra el revolucionario sistema Chatgpt de OpenAI. La primera[xxii] se basaría en la vulneración de datos personales, en cuanto que el sistema habría “escrapeado” datos personales de manera no autorizada. La segunda demanda[xxiii] habría sido por presunta vulneración de derechos de autor.

De igual manera, deberemos de estar especialmente atentos a la decisión del TJUE en el Asunto C-634/21 OQ contra Land Hessen, con intervención de: SCHUFA Holding AG, puesto que puede determinar la obligación de suministrar información significativa sobre la lógica aplicada, así como la importancia y las consecuencias previstas en el caso de decisiones automatizadas, considerando ésta en el sentido de que incluya explicaciones suficientemente detalladas sobre el método utilizado para el cálculo del score y sobre las razones y factores que han conducido a un resultado determinado en la toma de decisiones y su importancia desde el punto de vista agregado a fin de poder impugnar la decisión. Sin que pueda acogerse a causas de secreto comercial o de propiedad intelectual, algo que nos recuerda mucho al caso Bosco.

¿Veremos pronto decisiones jurisdiccionales declarando la prohibición de utilización de algoritmos españoles o la obligación de las administraciones de suministrar información significativa sobre la lógica aplicada? Por lo pronto, Bosco se encuentra en recurso de apelación en la Sala de lo Contencioso de la Audiencia Nacional.

De igual manera, puede que comencemos a ver decisiones jurisdiccionales respecto a algoritmos privados que puedan ser discriminatorios y contrarios a la ley como en los casos de Uber, Deliveroo o una posible responsabilidad respecto a Amazon o Chatgpt.

Es decir, el camino no ha terminado con la aprobación del Reglamento europeo de IA, sino que acaba de comenzar, y como veremos a continuación los tribunales tendrán mucho que decir. 

[i] JIMÉNEZ ARANDIA, Pablo y MÉNDEZ, Manuel Ángel. La Seguridad Social usa una IA secreta para rastrear bajas laborales y cazar fraudes. EL CONFIDENCIAL. 17 de abril 2023. Consultado el 25 de junio de 23. Disponible en: https://www.elconfidencial.com/tecnologia/2023-04-17/seguridad-social-ia-inteligencia-artificial-inss-bajas-empleo-algoritmos_3611167/#:~:text=Desde%202018%2C%20la%20Seguridad%20Social,EC%20Dise%C3%B1o.

[ii] JIMÉNEZ ARANDIA, Pablo. Preguntas sin respuesta sobre el sistema predictivo de la Seguridad Social. EL CONFIDENCIAL. 17 de abril 2023. Consultado el 25 de junio de 23. Disponible en: https://www.elconfidencial.com/tecnologia/2023-04-17/preguntas-sin-respuesta-del-sistema-predictivo-de-la-seguridad-social_3610544/

[iii] LENCINA, Fernanda. Así te vigila Hacienda con una poderosa Inteligencia Artificial para evitar fraudes. The Huffington Post. 2 de agosto de 2023. Consultado el 2 de agosto 2023. Disponible en: https://noticiastrabajo.huffingtonpost.es/economia/hacienda-te-vigila-con-inteligencia-artificial/

[iv] OLLERO, Daniel J. El algoritmo secreto del Gobierno que decide si te llevas una subvención para la factura de la luz. EL MUNDO. 3 julio de 2019. Consultado el 25 de junio de 23. Disponible en: https://www.elmundo.es/tecnologia/2019/07/03/5d1b89fbfc6c83a2358b46ca.html

[v] GONZÁLEZ-ESPEJO, M. J., “Sector público y algoritmos: Transparencia o un poco más

de paciencia”, 19-2-2020 Diario la Ley, Consultado el 25 de junio de 2023. Disponible en: https://diariolaley.laleynext.es/Content/Documento.aspx?params=H4sIAAAAAAAEAMtMSbH1c

zUwMDAyNDEyMTNTK0stKs7Mz7M1MjACCVqq5eWnpIa4ONuW5qWkpmXmpaaAlGSmVbrkJ

4dUFqTapiXmFKeqpSbl52ejmBQPMwEAZnEi5GMAAAA=WKE  

[vi] Nota de prensa de la sentencia por el Poder Judicial Holandés. Consultado el 25 de junio de 2023. Disponible en: https://www.rechtspraak.nl/Organisatie-en-contact/Organisatie/Rechtbanken/Rechtbank-Den-Haag/Nieuws/Paginas/SyRI-wetgeving-in-strijd-met-het-Europees-Verdrag-voor-de-Rechten-voor-de-Mens.aspx

Sentencia Autoridad Tribunal de Distrito de La Haya 05-02-2020 ECLI:ES:RBDHA:2020:865; Número de caso C-09-550982-HA SA 18-388; En inglés: ECLI:NL:RBDHA:2020:1878. Consultado el 25 de junio de 2023. Disponible en: https://uitspraken.rechtspraak.nl/#!/details?id=ECLI:NL:RBDHA:2020:865

[vii] DE LA ROSA Esteban, FERNANDO (Director), VERDEGAY GALDEANO José Luis, ZELEZNIKOW John, RUIZ RESA Josefa Dolores, MORAL SORIANO Leonor, FERNÁNDEZ-FÍGARES María José, VALLS PRIETO Javier, PELTA MOCHCOVSKY David Alejandro, CABRERA CUEVAS Marcelino, CASTILLO PARRILLA José Antonio, CORTÉS Pablo y VILALTA NICUESA Aura Esther, Justicia Digital. Guía para el diálogo sobre el diseño y uso eficiente, de calidad y ético de herramientas tecnológicas en la justicia civil, Madrid, Fundación Cotec para la Innovación – Universidad de Granada, 2022.

En el contexto de este procedimiento, el relator especial Philip Alston emitió un informe afirmando que tiene un efecto discriminatorio y estigmatizador. P. Alston, debido, entre otras razones, a la autoridad que se confiere a los algoritmos. «Brief by the United Nations Special Rapporteur on extreme poverty and human rights as amicus curiae before the District Court of the Hague on the case of NJCM c.s./De Staat der Nederlanden (SyRI), case No. C/09/550982/HA ZA 18/388», 2019, disponible en https://www.ohchr.org/Documents/Issues/Poverty/Amicusfinalversionsigned.pdf.

[viii] CASTILLO PARRILLA, José Antonio. La discriminación a través del algoritmo en una plataforma. El caso Deliveroo Bolonia y sus implicaciones para el sector público. 11 de marzo de 2021. Consultado el 1 de julio de 2023. Disponible en: https://www.uv.es/catedra-pagoda/es/actualidad/la-discriminacion-traves-del-algoritmo-jose-antonio-castillo-parrilla-1286053802801/Novetat.html?id=1286182093538 Puede consultarse la sentencia aquí, TRIBUNALE ORDINARIO di BOLOGNA Sezione Lavoro Causa n. r.g. 2949/2019 27 de noviembre de 2020 FILCAMS CGIL BOLOGNA. NIDIL CGIL BOLOGNA, FILT CGIL BOLOGNA Contro DELIVEROO ITALIA S.R.L https://www.algoritmolegal.com/wp-content/uploads/2021/01/Sentencia-Bologna-Italia-Deliveroo-dic-2020-Original-italiano.pdf

[ix] LESSIG, Lawrence. El código 2.0. Madrid. Proyecto editorial Traficantes de Sueños. 2009.

[x] Un robot mata a un técnico de Volkswagen en Alemania. EL PAÍS. 2 julio de 2015. Consultado el 1 de julio de 2023. Disponible en: https://elpais.com/economia/2015/07/02/actualidad/1435838812_094380.html

[xi] Un robot defectuoso asesinó a una mujer en una fábrica de Michigan. Infobae. 21 de marzo de 2017. Consultado el 1 de julio de 2023. Disponible en: https://www.infobae.com/mix5411/2017/03/21/un-robot-defectuoso-asesino-a-una-mujer-en-una-fabrica-de-michigan/

[xii] FUENTES, Victoria. Acusada de homicidio la conductora de Uber cuyo coche autónomo atropelló a una mujer en Arizona. Motorpasion. 17 Septiembre 2020. Consultado el 1 de julio de 2023. Disponible en: https://www.motorpasion.com/seguridad/acusada-homicidio-conductora-coche-autonomo-uber-que-causo-atropello-mortal-arizona#:~:text=La%20conductora%20que%20deb%C3%ADa%20controlar,de%202021%2C%20seg%C3%BAn%20publica%20Reuters.

[xiii] Dos muertos y tres heridos cuando un Tesla en piloto automático en vez de aparcar aceleró a todo velocidad arrollando a otros vehículos. 20 minutos. 14 de noviembre de 2022. Consultado el 1 de julio de 2023. Disponible en: https://www.20minutos.es/noticia/5076259/0/dos-muertos-y-tres-heridos-cuando-un-tesla-en-piloto-automatico-en-vez-de-aparcar-acelero-a-todo-velocidad-arrollando-a-otros-vehiculos/ 

[xiv] Otro Tesla descontrolado provoca un accidente con dos muertos en China. La Vanguardia. 1 de diciembre de 2022. Consultado el 1 de julio de 2023. Disponible en: https://www.lavanguardia.com/motor/actualidad/20221201/8630726/tesla-descontrolado-provoca-accidente-dos-muertos-china.html

[xv] PASCUAL ESTAPÉ, Juan Antonio. Autopilot de Tesla: 736 accidentes y 17 muertos. Computer Hoy. 11 jun. 2023. Consultado el 1 de julio de 2023. Disponible en: https://computerhoy.com/motor/autopilot-tesla-736-accidentes-17-muertos-1258862

[xvi] Tribunal Supremo de los Países Bajos, 1 de noviembre de 2016, ECLI:NL:HR:2016:2454. Consultado el 25 de junio de 2023. Disponible en: https://uitspraken.rechtspraak.nl/#!/details?id=ECLI:NL:HR:2016:2454&keyword=%22ECLI:NL:HR:2016:2454%22                                                                                                

[xvii] Sentencia de la Cámara Primera del Tribunal Constitucional Federal de 16 de febrero de 2023 – 1 BVR 1547/19 – – 1 BVR 2634/20 – Consultado el 25 de junio de 2023. Disponible en: https://www.bundesverfassungsgericht.de/e/rs20230216_1bvr154719.html

[xviii] Vid. Nota al Pie 13.

[xix] ”Eticas. (2022). The External Audit of the VioGén System. Association Eticas Research and Innovation.” Auditoría externa del Sistema VioGén. Eticas Foundation y Fundación Ana Bella, Red de Mujeres Supervivientes. 8/3/22 https://eticasfoundation.org/wp-content/uploads/2022/04/ETICAS-_-Auditori%CC%81a-Externa-del-sistema-VioGe%CC%81n-_-20220308.docx.pdf

[xx] Resum sobre RisCanvi, el protocol de valoració del risc. Consultado el 1 de julio de 2023. Disponible en: https://justicia.gencat.cat/web/.content/home/ambits/reinsercio_i_serveis_peni/resum-riscanvi.pdf

[xxi] Neutral citation number: [2020] ewca civ 1058; Case No: C1/2019/2670; Court Of Appeal (Civil Division) on Appeal from the High Court of Justice Queen’s Bench Division (Administrative Court) Cardiff District Registry; 11/08/2020;  Edward Bridges Appellant- and –  The Chief  Constable of South Wales Police – and The Secretary of State for the Home Department – and the Information Commissioner  the Surveillance Camera Commissioner (2) The Police and Crime Commissioner for South Wales (3) consultado el 25 de junio de 2023. Disponible en: https://www.judiciary.uk/wp-content/uploads/2020/08/r-bridges-v-cc-south-wales-ors-judgment.pdf Toda la documentación del caso puede consultarse aquí: https://www.libertyhumanrights.org.uk/issue/legal-challenge-ed-bridges-v-south-wales-police/

[xxii] THORBECKE, Catherine. OpenAI, maker of ChatGPT, hit with proposed class action lawsuit alleging it stole people’s data. CNN. 28 de junio de 2023. Consultado el 1 de julio de 2023. Disponible en: https://edition.cnn.com/2023/06/28/tech/openai-chatgpt-microsoft-data-sued/index.html

[xxiii] Brittain, Blake. Lawsuit says OpenAI violated US authors’ copyrights to train AI chatbot. 29 de junio de 2023. Reuters. Consultado el 1 de julio de 2023. Disponible en: https://www.reuters.com/legal/lawsuit-says-openai-violated-us-authors-copyrights-train-ai-chatbot-2023-06-29/

Estamos acostumbrados en derecho a las normas jurídicas, mandatos o reglas que tienes como objetivo dirigir el comportamiento de la sociedad. En concreto, la norma jurídica confiere derechos e impone deberes a los individuos de la sociedad. Una norma jurídica es una regla o principio establecido por una autoridad legalmente reconocida que tiene como objetivo regular la conducta de las personas en una sociedad, con el propósito de mantener el orden, la justicia y la coexistencia pacífica en la comunidad. Las normas jurídicas son creadas por el sistema legal de un país o una jurisdicción específica, y su cumplimiento puede ser exigido y sancionado por las autoridades competentes.

Así, como normas españoles tenemos la Constitución, la norma de normas, la norma suprema, los Estatutos de Autonomía, las Leyes Orgánicas, las leyes, Reales Decretos Leyes o Reglamentos y demás normativa reglamentaria (ordenanzas, reglamentos, etc.)

Sin embargo, salvo ámbitos muy específicos del derecho, no estamos demasiado habituados al concepto de normas como estandarización o normalización de manera técnica. No obstante, con la aparición de nuevas tecnologías y ámbitos de las TIC como la inteligencia artificial, los macrodatos, la robótica, blockchain/DLT la computación en nube y el IoT, la importancia de la normalización va más allá de la interoperabilidad necesaria para completar mercado único digital. Las normas estandarizadas son cada vez más importantes en la estrategia digital europea, especialmente en energía, sostenibilidad y digitalización. Estas normas son un conjunto de directrices y requisitos técnicos que establecen un estándar para la fabricación, el diseño, la seguridad y la calidad de los productos y servicios.

Así cada vez más comienzan a aparecer en distinta normativa europea: el Reglamento General de Protección de Datos, la NIS 2 de Ciberseguridad, el Reglamento de Ciberresiliencia, el Reglamento de Inteligencia Artificial, el Reglamento de Servicios Digitales, el Reglamento eIDAS 2, la ley de chips, Reglamento MiCa, etc.

La normalización o estandarización tiene como objeto la elaboración de una serie de especificaciones técnicas – NORMAS – que son utilizadas de modo voluntario.

El artículo 8 de la Ley 21/1992, de 16 de julio, de Industria define norma como “la especificación técnica de aplicación repetitiva o continuada cuya observancia no es obligatoria, establecida con participación de todas las partes interesadas, que aprueba un Organismo reconocido, a nivel nacional o internacional, por su actividad normativa.” Su definición clásica es que son un conjunto de reglas, directrices y requisitos técnicos que establecen un estándar para la fabricación, el diseño, la seguridad y la calidad de los productos y servicios.

Estas normas se desarrollan y publican por organizaciones internacionales de normalización, como la Organización Internacional de Normalización (ISO), la Comisión Electrotécnica Internacional (IEC), el Comité Europeo de Normalización (CEN), el Comité Europeo de Normalización Electrotécnica (CENELEC), Instituto Europeo de Normas de Telecomunicaciones (ETSI), la Comisión Electrotécnica Internacional (IEC), etc.

El Comité Europeo de Normalización es una de las tres Organizaciones Europeas de Normalización (junto con CENELEC y ETSI) que han sido reconocidas oficialmente por la Unión Europea y por la Asociación Europea de Libre Comercio (EFTA) como responsables de desarrollar y definir estándares voluntarios a nivel europeo

A nivel nacional, UNE es la entidad reconocida en España como organismo nacional de normalización conforme a lo establecido en el Reglamento de la Infraestructura para la Calidad y la Seguridad Industrial, aprobado por Real Decreto 2200/1995 y en el Reglamento (UE) 1025/2012 sobre Normalización Europea. Asimismo, UNE es el representante español ante las organizaciones de normalización internacionales ISO e IEC y europeas CEN y CENELEC. Como tal, participa activamente en los comités de normalización internacionales que aparecen mencionados en este documento.

Existen varios tipos de normas estandarizadas, que se pueden clasificar en diferentes categorías según su propósito y función como normas de calidad, normas de diseño, normas de interoperabilidad y normas de seguridad.

Las normas se elaboran por los organismos de normalización (en el caso de España, UNE), a través de Comités Técnicos de Normalización (CTN), en los que está presente una representación equilibrada de todas aquellas entidades que tienen interés en la normalización de un tema en concreto, compuesto por multitud de expertos, lo que garantiza la transparencia, apertura y consenso en el trabajo. El proceso de elaboración de una norma está sometido a una serie de fases que permiten asegurar que el documento final es fruto del consenso, y que cualquier persona, aunque no pertenezca al órgano de trabajo que lo elabora, pueda emitir sus opiniones o comentarios. Así, el proceso de estandarización suele implicar varias fases, que incluyen la identificación de las necesidades de normalización, la elaboración de un proyecto de norma, la consulta pública, la votación y la publicación de la norma.

Algo que hasta hora era bastante técnico y alejado del ámbito jurídico salvo en ámbitos como la privacidad con las famosa serie de ISOS de privacidad, la 27001, 27701 o la 31700, o en el ámbito de seguridad de la información con ciberseguridad y esquema nacional de seguridad y certificaciones al respecto (27032).

Sin embargo, como podemos ver en los últimos tiempos, los nuevos ámbitos de regulación están siendo asumidos por Europa a través de Reglamentos Europeos y abandonando la típica fórmula de Directivas y en cada vez más leyes europeas nos encontramos las figuras de estandarización o normalización.

Y es la propia Europa la que establece el marco normativa de la estandarización a través del Reglamento (UE) n ° 1025/2012 del Parlamento Europeo y del Consejo, de 25 de octubre de 2012 , sobre la normalización europea, por el que se modifican las Directivas 89/686/CEE y 93/15/CEE del Consejo y las Directivas 94/9/CE, 94/25/CE, 95/16/CE, 97/23/CE, 98/34/CE, 2004/22/CE, 2007/23/CE, 2009/23/CE y 2009/105/CE del Parlamento Europeo y del Consejo y por el que se deroga la Decisión 87/95/CEE del Consejo y la Decisión n ° 1673/2006/CE del Parlamento Europeo y del Consejo Texto pertinente a efectos del EEE. Un Reglamento que se ha propuesto su modificación.

Así, las normas europeas son fundamentales para apoyar las prioridades de la UE como la doble transición ecológica y digital y la búsqueda de una autonomía estratégica.

Ello se debe a un sistema de normalización sólido e inclusivo, único en el mundo.

El valor estratégico de las normas ha sido reconocido en la nueva Estrategia Europea de Normalización. Este importante documento ha aportado una nueva y bienvenida dimensión estratégica. Los estándares desempeñarán un papel fundamental para permitir que nuestras industrias enfrenten los desafíos actuales.

La estrategia propone una serie de acciones destinadas a garantizar el liderazgo europeo en estándares globales, hacer de la estandarización un motor de la competitividad y la resiliencia europeas, garantizar que los estándares respalden nuestras inversiones en las transiciones verde y digital e incorporar valores democráticos en las aplicaciones tecnológicas.

Esta acción sobre normalización de la UE está integrada en las políticas de la UE.

Apoya la aplicación de políticas como:

– la doble transición ecológica y digital;

– el mercado único;

– el mercado único digital

– el mercado único de servicios;

– el programa espacial;

– los mercados interiores de los gases renovables y naturales y del hidrógeno;

– eficiencia energética y clima; y

– comercio internacional.

Este programa de trabajo anual de la UE cubre esas prioridades de normalización, que incluyen:

• Revisar las normas existentes para identificar las necesidades de revisiones o desarrollo de nuevas nuevas normas para cumplir los objetivos del Pacto Verde Europeo y de la Década Digital de Europa y apoyar la resistencia del mercado único de la UE.
•  COVID-19 producción de vacunas y medicamentos
•  Materias primas críticas para baterías y pilas usadas
•  Resiliencia climática de las infraestructuras y cemento bajo en carbono
•  Tecnologías y componentes del hidrógeno
•  Transporte y almacenamiento de hidrógeno
•  Normas para la certificación de chips en términos de seguridad, autenticidad y fiabilidad
•  Contratos inteligentes para espacios de datos

Las normas apoyan estas políticas para garantizar que los productos y servicios de la UE sean competitivos en todo el mundo y reflejen los últimos avances en materia de seguridad, salud y medio ambiente, así como la consecución de los Objetivos de Desarrollo Sostenible. y la consecución de los Objetivos de Desarrollo Sostenible.

Las normas son la base silenciosa del mercado único de la UE y la competitividad mundial. Ayudan a los fabricantes a garantizar la interoperabilidad de productos y servicios, reducir costes, mejorar la seguridad y fomentar la innovación. Los estándares son una parte invisible pero fundamental de nuestra vida diaria: desde las frecuencias de Wi-Fi, hasta los juguetes conectados o las fijaciones de esquí, por mencionar algunos. Los estándares dan confianza de que un producto o servicio es adecuado para su propósito, es seguro y no dañará a las personas ni al medio ambiente. El cumplimiento de las normas armonizadas garantiza que los productos se ajusten a la legislación de la UE.

Por ello, la Comisión Europea se enfoca hacia una estandarización cada vez más profunda en el ámbito verde, de digitalización, innovación, sostenibilidad y energía.

Se entiende por certificación como “el Proceso mediante el que un organismo certificador (acreditado) da garantía escrita de que un producto, proceso o servicio es conforme con unos requisitos (normas o estándares) específicos”

Como motivos de certificación podemos destacar:

• El prestigio que supone el reconocimiento de que la gestión se está realizando de manera clara y eficaz y siguiendo buenas prácticas internacionales.
• La confianza que genera tanto en el interior de la organización como ante sus clientes y proveedores. Un compromiso  de la organización en la adopción de buenas prácticas y una base para auditoría
• Mejorar la visibilidad del área facilitando la comunicación entre dicho área y el resto de la organización. Apoyo y cultura en la organización.
• Obtener una ventaja competitiva al establecer un factor de diferenciación respecto a otras de la competencia no certificadas. Esta ventaja competitiva puede convertirse en una verdadera barrera cuando los clientes valoran favorablemente (o incluso exigen) en las licitaciones que las organizaciones proveedoras estén certificadas.
• Reducir riesgos: Evaluación, auditoría por un tercero y revisión continua. Criterios objetivos, medibles y trazables. Suponen una actividad de diligencia desplegada de manera voluntaria.

Como podemos adivinar, si la normalización afecta a sectores como Tecnologías Habilitadoras Digitales (THD), Industria 4.0, Ciberseguridad, Smart Cities, Conectividad del Automóvil y Movilidad Sostenible, Telecomunicaciones, Electrónica de Consumo, Salud Digital, Sector Público, Economía Colaborativa, Comercio Electrónico, Economía Circular o Innovación supone un eje fundamental en el futuro de la economía y desarrollo de la UE.

El Comisario de Mercado Interior, Thierry Breton , dijo: “Las normas técnicas tienen una importancia estratégica. La soberanía tecnológica de Europa, la capacidad para reducir las dependencias y la protección de los valores de la UE dependerán de nuestra capacidad para establecer estándares mundiales. Con la Estrategia de hoy, tenemos muy claras nuestras prioridades de normalización y creamos las condiciones para que las normas europeas se conviertan en puntos de referencia mundiales. Tomamos medidas para preservar la integridad del proceso de normalización europeo, poniendo en el centro a las PYME europeas y el interés europeo”.

De esta manera, cuando cada vez más veamos el concepto de normas en leyes europeas, pensemos en el concepto que no nos han enseñado en la facultad de Derecho.