¿ Debe decirse que hemos usado IA en las sentencias? La transparencia del sistema de IA, la transparencia en el uso de la IA y el secreto de las deliberaciones.
Una de las cuestiones con las que vengo discutiendo en distintos comités y foros a los que pertenezco y que han dado lugar a varias directrices en materia de uso de IA generativa es la diferenciación entre la transparencia del sistema de IA en justicia, más si es de alto riesgo, y la transparencia del uso de la IA. Y es relevante a raíz de la entrada en vigor del Artículo 50 del Reglamento Europeo de Inteligencia Artificial el 2 de agosto de 2026 y de otra serie de decisiones judiciales muy recientes.
– Transparencia del sistema.
En los principales instrumentos éticos internacionales sobre inteligencia artificial que hemos analizado en otras ocasiones[i] [ii] se mencionan como principios fundamentales la transparencia, explicabilidad y trazabilidad de la IA.
La Carta ética europea sobre el uso de la inteligencia artificial en los sistemas judiciales y su entorno, adoptada por el CEPEJ durante su 31.ª reunión plenaria (Estrasburgo, 3-4 de diciembre de 2018),[iii] igualmente reconoce como uno de los principios fundamentales la transparencia, imparcialidad y justicia: hacer que los métodos de procesamiento de datos sean accesibles y comprensibles, autorizar auditorías externas.
En cuanto a la Carta de Derechos Digitales española: la inteligencia artificial deberá asegurar las condiciones de transparencia, auditabilidad, explicabilidad, trazabilidad, supervisión humana y gobernanza. En todo caso, la información facilitada deberá ser accesible y comprensible y deberán garantizarse la accesibilidad, usabilidad y fiabilidad.
Por su parte, la Declaración Europea sobre los principios y derechos digitales se establecen una serie de compromisos, que son plenamente coincidente con gran parte del contenido del reglamento sobre IA. Entre los citados compromisos se concretan en
b) velar por un nivel adecuado de transparencia en el uso de los algoritmos y la inteligencia artificial y porque las personas estén informadas y capacitadas para utilizarlos cuando interactúen con ellos;
En definitiva, se consagran en general como principios éticos la transparencia y explicabilidad. Los principios de transparencia y explicabilidad suponen que los sistemas puedan ser enteramente comprendidos por un ser humano, desde la forma en la que se captan y tratan los datos, sean o no personales, hasta la manera en la que se toman las decisiones, así como las consecuencias de estas y sus interdependencias. Este principio garantiza que la persona tenga y mantenga el control informado global sobre la existencia y la actividad de una solución de inteligencia artificial. La explicabilidad de la tecnología hace referencia a la capacidad de explicar en términos humanos la toma de decisiones de la inteligencia artificial.
La transparencia incluye el acceso al funcionamiento y resultados, explicabilidad, trazabilidad y auditabilidad del uso público y privado de la IA.
En este sentido la Ley Europea de Inteligencia Artificial impone unos requisitos a los sistemas de alto riesgo con obligaciones de documentación, etiquetado y el registro, la transparencia y la comunicación de información a los usuarios, auditoria, análisis de riesgos, evaluación de impacto de derechos fundamentales etc.
Y además cuando los sistemas son de riesgo limitado, se les impone la obligación de transparencia del Art. 50.
Pero, es más, si se tratara de decisiones automatizadas (algo que no siempre se da), esa obligación de transparencia deriva también de los artículos 22 y 13.1.f) del RGPD en cuanto a la obligación de información sobre la lógica aplicada, la importancia y las consecuencias del algoritmo.
Esta obligación de información ha sido desarrollada por el TJUE en la sentencia de 27 de febrero de 2025 en el asunto C-203/22, Dun & Bradstreet Austria, tras la oportunidad perdida de abordarlo en profundidad en el asunto C-634/21 OQ contra Land Hessen, caso SCHUFA Holding AG.
En este sentido, en cuanto al término “información significativa de la lógica aplicada” el tribunal realiza un análisis de las palabras en distintos idiomas concluyendo que el artículo 15, apartado 1, letra h), del RGPD se refiere a toda información pertinente relativa al procedimiento y a los principios de explotación automatizada de datos personales con el fin de obtener un resultado determinado.
En definitiva, la «información significativa sobre la lógica aplicada» de las decisiones automatizadas, se refiere a toda información pertinente relativa al procedimiento y a los principios de explotación de datos personales para obtener, de forma automatizada, un determinado resultado. Además, la obligación de transparencia exige que esa información se facilite en forma concisa, transparente, inteligible y de fácil acceso.
Así pues, la «información significativa sobre la lógica aplicada» a decisiones automatizadas, debe describir el procedimiento y los principios concretamente aplicados de tal manera que el interesado pueda comprender cuáles de sus datos personales se han utilizado y cómo en la adopción de la decisión automatizada en cuestión, sin que la complejidad de las operaciones que deban realizarse para la adopción de una decisión automatizada pueda exonerar al responsable del tratamiento de su deber de explicación.
Además, en materia de algoritmos públicos sobre esta cuestión se ha pronunciado recientemente en el caso BOSCO con sentencia del Tribunal Supremo de la Sala Tercera[iv].
Se pronuncia el alto tribunal sobre la denominada “transparencia algorítmica”, que conlleva exigencias de transparencia de los procesos informáticos seguidos en dichas actuaciones, con el objeto de proporcionar a los ciudadanos la información necesaria para su comprensión y el conocimiento de las características básicas de su funcionamiento, lo que puede requerir el acceso a su código fuente. De igual manera, el Supremo resalta la necesariedad de explicar de forma comprensible el funcionamiento de los algoritmos que se emplean en la toma de decisiones que afectan a los ciudadanos para permitirles conocer, fiscalizar y participar en la gestión pública en lo que denomina “democracia digital”.
Siendo la norma general, de acuerdo con el principio de buena administración conduce también a una interpretación amplia y expansiva de este derecho constitucional de transparencia regulado en Ley 19/2013, de 9 de diciembre, de transparencia, acceso a la información pública y buen gobierno (LTAIBG), que conlleva una interpretación restrictiva de los límites oponibles al acceso a la información pública, con independencia de se exija su aplicación justificada y proporcionada.
Y entre las conclusiones de la sentencia, se destaca: “Por todo ello, en estas circunstancias evitar la opacidad del algoritmo o el código fuente se muestra consustancial al Estado democrático de Derecho, sujeto al principio de transparencia, y refuerza la confianza ciudadana en el correcto funcionamiento de las Administraciones públicas”.
Por ello, se considera que además de la ciberseguridad del código, existen otros intereses de alta significación jurídica relacionados con la participación en la toma de decisiones, el fortalecimiento de la democracia, la efectividad de otros derechos constitucionales, la generación de confianza en las instituciones públicas y el aumento de la eficiencia y eficacia de la actuación pública que deben también tutelarse y tomarse en justa consideración en la ponderación que exige la Ley.
En el Reglamento Europeo de Inteligencia Artificial ya se introduce la Justicia como un uso de alto riesgo en cuanto a uso de estas tecnologías en la interpretación de hechos, normas y auxilio al juez, así como los sistemas de predicción de reincidencia criminal o de reconocimiento facial.
La cuestión será, ¿qué se entiende como uso de estas tecnologías en la interpretación de hechos, normas y auxilio al juez?
¿Una textualización de vistas, un programa de dictado jurídico, un sistema de alertas, unas calculadoras de pensiones de alimentos o de penas, una automatización de monitorios o un buscador jurisprudencial ayudan al juez a interpretar los hechos o las normas? Pues sí, pero ¿ha de considerarse todo de alto riesgo porque todo ayuda al juez en la potestad jurisdiccional?
Quizás menos dudas se plantean si hablamos de borradores automatizados de sentencias, sistemas de análisis masivo de datos del proceso o de evaluación de fiabilidad de las pruebas pues se trataría de sistemas que pueden influir en el núcleo de la potestad jurisdiccional, en su labor de resolución de asuntos judiciales y de valoración de la prueba que puedan afectar a la independencia judicial.
Serán la Dirección de Supervisión y Control de Protección de Datos del Consejo, recientemente nombrada, y la futura Comisión de Supervisión y Control de Protección de Datos del CGPJ las que tendrán un papel fundamental y esencial, pues, como autoridades de vigilancia, deberán determinar qué aplicaciones y sistemas de auxilio al juez deben ser verdaderamente considerados de alto riesgo y, por lo tanto, cumplir con toda la gobernanza y compliance del RIA.
En definitiva, los sistemas de IA en Justicia deberían cumplir como sistemas de riesgo limitado y algoritmos públicos con unas obligaciones de transparencia de los sistemas por ley de transparencia, pura sanidad democrática y gobernanza ética teniendo en cuenta que no sean decisiones automatizadas ni sistemas de alto riesgo.
Y los sistemas de alto riesgo de IA en Justicia, deberán además cumplir con todas las obligaciones legales de compliance y gobernanza establecidas en el RIA.
Pero nada de esto es la transparencia del uso de la ley, sino que en todos los casos estamos hablando de la transparencia de los sistemas de IA.
– La transparencia en el uso de la IA y qué supondría.
La transparencia del uso de la IA se plasma, por ejemplo, en las DIRECTRICES PARA EL USO DE SISTEMAS DE IA EN CORTES Y TRIBUNALES de la UNESCO[v] en el 3.2.3:
“Proporcionar información relevante sobre cuándo se utiliza la herramienta de IA y cómo su uso podría afectar a las personas que forman parte de un procedimiento judicial o a los beneficiarios del trabajo legal. Informar qué herramientas se usaron y sus respectivas versiones. Asegurarse de que los materiales producidos o publicados con IA sean reconocidos y distinguidos mediante comillas o citas”.
De igual manera, en las DIRECTRICES SOBRE EL USO DE LA INTELIGENCIA ARTIFICIAL GENERATIVA PARA TRIBUNALES adoptadas en la 45ª sesión plenaria del CEPEJ (Estrasburgo, 4 y 5 de diciembre de 2025) se establece:
61. Transparencia y razonamiento adecuado. Debe estar claramente documentado si la IA generativa se utiliza en algún aspecto de la toma de decisiones judiciales. Las partes tienen derecho a saber qué elementos de una resolución judicial han sido asistidos por sistemas de IA generativa.
He de decir que he participado como experto español en ambas directrices, y sin poder vulnerar el secreto de las deliberaciones ni tampoco poder formular voto particular, como se podrá deducir, no son puntos que comparta.
Con buen criterio, nada se establece sobre esta cuestión en la Instrucción del Consejo General del Poder Judicial nº 2/2026, sobre la utilización de sistemas de inteligencia artificial en el ejercicio de la actividad jurisdiccional.
Esto mismo es lo que, por ejemplo, se ha planteado en la reciente sentencia de la Sala de Apelación de la Audiencia Nacional (Roj: SAN 2879/2026- ECLI:ES:AN:2026:2879; Id Cendoj: 28079220642026100026; Sala de Apelación de la Audiencia Nacional de 29/06/2026; Nº de Recurso: 21/2026; Nº de Resolución: 26/2026; Ponente: VICENTE MANUEL ROUCO RODRIGUEZ).
El recurso plantea como cuestión previa la utilización para la redacción de la sentencia de un programa de inteligencia artificial generativa.
Sin embargo, considera el Tribunal de Apelación que la alegación de que se habría utilizado IA parte de una suposición, pues no existe ninguna evidencia o indicio al respecto.
Y sobre dicha suposición se solicita que la Sala de Apelación requiera a la Sección sentenciadora para que aporte el código fuente y algoritmo del programa supuestamente empleado, los metadatos de la resolución y el «prompt» o conjunto de instrucciones introducidas para la elaboración de la sentencia. La defensa fundamenta dicha pretensión en el denominado derecho a la transparencia algorítmica y en la tutela judicial efectiva del artículo 24 CE, afirmando que el eventual uso de herramientas automatizadas en la función jurisdiccional exigiría conocer los criterios empleados para la construcción del relato fáctico, la valoración jurídica y la individualización de la pena.
La Segunda Instancia rechaza que la sentencia haya sido una decisión automatizada que implique la obligación de conocer de los Arts. 13 y 22 del RGPD puesto que además en todo caso, el uso de la IA es auxiliar a la función jurisdiccional como herramienta, sin atribuirle valor determinante ni caer en la sobreestimación, sin olvidar la necesaria motivación judicial y la imprescindible individualización de las sentencias. Como así ha establecido la Instrucción del Consejo General del Poder Judicial nº 2/2026, sobre la utilización de sistemas de inteligencia artificial en el ejercicio de la actividad jurisdiccional (Acuerdo de 28 de enero de 2026, del Pleno del Consejo General del Poder Judicial) publicada en el BOE de 30 de enero.
Por tanto, establece la Sala de Apelación que no hay razones para pensar que se haya usado IA por el órgano decisor ni tampoco hay razones para pensar que se hayan transgredido los límites y principios de ámbito orgánico interno que rigen la actividad jurisdiccional.
Hace pocos días, la Sala Civil y Penal del Tribunal Superior de Justicia de Andalucía ha advertido en una sentencia del uso indiscriminado de la inteligencia artificial en la construcción y redacción de los recursos de apelación, una práctica cada vez más frecuente y respecto a la que no cabe ninguna objeción pero que en muchas ocasiones, indica la resolución, “la brillantez sintáctica encubre un vacío de densidad jurídica”. Así, respecto al uso de Inteligencia artificial en un recurso, la sentencia explica que “no cabe objeción alguna por parte de este tribunal a que las partes se auxilien de tales herramientas a fin de mejorar, concretar, afilar y organizar la exposición de los motivos de discrepancia con la sentencia apelada”.
Aun cuando no es fácil determinar cuándo un texto ha sido concebido, preparado y/o redactado con IA, de manera expresa el alto tribunal andaluz reconoce que no tiene sentido esforzarse en investigarlo cuando se trata de una alegación de parte, pues su uso es “absolutamente legítimo”. Así, consideran que la premisa es que el letrado “asume personalmente el texto en todos sus puntos y referencias”. Sin embargo, señala, hay determinados patrones expresivos perfectamente identificables como indicios de redacción por IA. Ante tales indicios perceptibles, llaman la atención “de que una redacción más cuidada y personalizada muy probablemente hubiera reducido a como mucho la mitad la extensión del escrito, ganando fuerza argumentativa y sin desmayarse en circularidades que, en general, simplemente sobran, y en particular, en algún caso, comportan falacias, sofismas o simple énfasis de palabras, inhábil desde el punto de vista de la finalidad de convencer a un tribunal de una tesis determinada”.
Esto mismo fue planteado al Tribunal de Apelación de la SALA MULTICOMPETENTE DE LA CORTE PROVINCIAL DE JUSTICIA DE MORONA SANTIAGO en sentencia de 28 de noviembre del 2025 de Colombia. En ese caso, de la misma manera alegaban vulneración de la tutela judicial efectiva y falta de motivación sosteniendo que habiendo pasado la sentencia de primera instancia por sistemas de detectores de IA, había sido elaborada en un alto grado por ella. Sin embargo, el Tribunal de Apelación colombiano consideró que dichos aplicativos tienen muy altos márgenes de error, puesto que aplicaron los mismos a sentencias de la Corte Provincial sin uso de inteligencia artificial y, sin embargo, el resultado era alto uso de la IA.
Dicha sentencia establece que “la decisión de primera instancia contiene una fundamentación normativa y fáctica y se relaciona las normas a los antecedentes o hechos probados; por ello, la sentencia cumple con una motivación suficiente, concluyendo que la sentencia impugnada si bien usa términos que no son habituales y serían indicativo que se están utilizando inteligencia artificial; sin embargo, existe un razonamiento humano mínimo; por ello, se niega el primer cargo de nulidad de la sentencia”.
Esta sentencia se parece bastante a la reciente sanción impuesta por el Consejo General del Poder Judicial (CGPJ) al magistrado que empleó inteligencia artificial no autorizada ni proveída por la administración competente, en concreto ChatGPT y subiendo datos y documentos del procedimiento, con una multa de 1.000 euros, como autor de una falta grave. Según las informaciones, “Al proponer la sanción, el promotor no cuestionó la utilización “per se” de la herramienta de inteligencia artificial, sino que lo hiciera “eludiendo cumplir con su función jurisdiccional” al utilizar una herramienta externa para procesar información vinculada a actuaciones judiciales. No obstante, la Comisión Disciplinaria ha rechazado finalmente la existencia de esa falta muy grave. En su resolución, considera que el magistrado utilizó la inteligencia artificial “como auxilio y complemento, pero no en sustitución de sus funciones judiciales”, lo que rebaja la gravedad de la conducta.
También podemos recordar la multa que impuso el Tribunal Superior de Xustiza de Galicia (TSXG) de 1.800 euros a un abogado por presentar un recurso elaborado con Inteligencia Artificial (IA) con reiteradas “incoherencias o invenciones” (en concreto 24 citas falsas). Los magistrados indican que “el uso de sistemas de inteligencia artificial generativa en el ejercicio de la abogacía no es, en sí mismo, una práctica vedada”, pero advierten de que, tanto en el Libro Blanco sobre Inteligencia Artificial y Abogacía, como la Instrucción 2/2026 del Pleno del Consejo General del Poder Judicial, señalan que debe de haber un “control humano consciente y efectivo”, así como que su uso está “restringido a la preparación o estudio -no a la elaboración del cuerpo del escrito procesal debido-”.
O el TSJ Canarias en otro caso de sanción a un abogado por uso de IA sin revisar:
El tribunal subraya que la utilización de herramientas de inteligencia artificial no exime al profesional de revisar y verificar el contenido antes de presentarlo ante la Justicia. En este sentido, recuerda que la responsabilidad última del escrito corresponde al letrado firmante y que el uso de estas herramientas debe estar siempre sometido a supervisión humana.
Volviendo a la transparencia de uso de las Directrices de CEPEJ y de la UNESCO, ¿cómo se plasmarían en la práctica y qué sentido tienen?
Imaginemos una sentencia especialmente compleja anterior a 2022 (fecha de lanzamiento de ChatGPT), sobre la que no había dictado y que además no conocía precedentes ni jurisprudencia.
¿Tendría algún sentido que escribiera un párrafo de motivación de la siguiente manera?
“Esta sentencia ha sido redactada con ordenador HP Laptop 15, Windows 10 y su correspondiente versión de Microsoft Word. Además, la misma ha sido editada mediante el editor de Microsoft Word para corregir las faltas de ortografía.
Sobre esta materia, a la vista de que el juzgador no había analizado la misma ni tampoco le constaba jurisprudencia y queriendo profundizar sobre la cuestión meramente jurídica, lo primero que hizo fue ver si las sentencias citadas por las partes en sus escritos iniciales y en conclusiones estaban relacionadas directamente con el caso. Sin embargo, eran totalmente genéricas y sobre cuestiones muy tangenciales que no servían para resolver sobre el fondo de este. Por ello, a continuación, este juzgador comenzó a preguntar a sus compañeros de otros juzgados para saber si habían establecido criterio o conocían jurisprudencia al respecto de la Audiencia Provincial de Granada sobre la materia. A la vista de que ninguna de ellas había abordado dicha materia compleja, este juzgador comenzó a ampliar su campo de investigación preguntando en grupos de WhatsApp de su promoción y de su provincia a la vez que buscaba jurisprudencia en CENDOJ, en La Ley y en VLEX, así como habiendo consultado diversos manuales y códigos comentados. Dado que no encontró jurisprudencia aplicable, llamó a su preparador y a su tutor en las prácticas tuteladas por si hubieran dictado alguna sentencia sobre la materia que no constara en el CENDOJ o si tenían alguna pendiente de dictar y criterio formado al respecto con la finalidad de poder conocer posible criterio jurisprudencial de Segunda Instancia. Además, este juzgador estuvo buscando en Google, en bases de datos académicas y en CENDOJ posibles artículos y publicaciones doctrinales que pudieran ser aplicables a la litis y llamó a un profesor suyo de la carrera con el que mantiene amistad, pidiéndole un libro que encontró de referencia y un artículo doctrinal al que solo se puede acceder mediante la base de datos de la universidad. Durante la tramitación del procedimiento, se alegó la vulneración de un derecho fundamental basándose en un precedente polaco del TEDH cuya sentencia solo figura en polaco y francés, por lo que tras descargarla y no existiendo traducción oficial al español la tradujo con Google Translate. Como esa sentencia se remitía a otras, también las descargó en inglés y francés y las que no fueron inglés, siguió utilizando Google Translate, aunque también lo utilizó para traducir ciertas palabras de un inglés un poco oxidado que no comprendía.
A todos aquellos compañeros y juristas que consulté, les hice la siguiente pregunta: Tengo un caso relacionado con responsabilidad civil por producto defectuoso en materia de inteligencia artificial entre dos empresas y ejercicio de acción “aliud pro alio” porque el producto ha producido la imposibilidad de alcanzar los rendimientos o utilidades previstos o la frustración del fin del contrato. ¿Has visto algo de esto?
En ningún momento se ha compartido con nadie datos personales o confidenciales sobre el procedimiento.
Este juzgador, tras haber realizado toda esa investigación, haber leído diversas sentencias, artículos doctrinales, haber pedido opinión a diversos compañeros y juristas, ha llegado a la siguiente conclusión, con base en la siguiente argumentación, y procede a dictar la siguiente sentencia, de la que se hace su entero responsable; así lo pronuncia, manda y firma Ilmo. Sr. ….”
¿Alguien ha visto una sentencia dictada así? Ahora volvamos a 2026 y qué sentencia haríamos si de verdad hubiera que hacer una transparencia de uso de IA.
“Esta sentencia ha sido redactada con ordenador HP Omnibook5, Windows 11 y su correspondiente versión de Microsoft Word. Además, la misma ha sido editada mediante el editor de Microsoft Word para corregir las faltas de ortografía y con la extensión de Grammarly.
Sobre esta materia, a la vista de que el juzgador no había analizado la misma ni tampoco le constaba jurisprudencia y para profundizar sobre la cuestión meramente jurídica, lo primero que hizo fue ver si las sentencias citadas por las partes en sus escritos iniciales y en conclusiones estaban relacionadas directamente con el caso.
Para ello, subió los escritos iniciales a la herramienta “Clasificación y Citas” del KENDOJ para encontrarlas rápidamente a golpe de clic sin necesidad de utilizar el buscador e introducir manualmente sus datos. Sin embargo, aunque no eran falsas ni alucinaciones, el propio sistema de “Resumen IA” de la sentencia no anticipaba nada relacionado con el caso, y aunque se procedió a verificar, se comprobó que eran totalmente genéricas y sobre cuestiones muy tangenciales que no servían para resolver sobre el fondo de este. En la fase de conclusiones, una de las partes mencionó una sentencia no referida en su contestación a la demanda, por lo que se verificó mediante el sistema de textualización si la anotación de esta era correcta.
A continuación, lo que hizo este juzgador fue preguntar a sus compañeros de otros juzgados para saber si habían establecido criterio o conocían jurisprudencia al respecto de la Audiencia Provincial respectiva. A la vista de que ninguna de ellas había abordado dicha materia compleja, este juzgador comenzó a ampliar su campo de investigación preguntando en grupos de WhatsApp de su promoción y de su ciudad.
A continuación, este juzgador pidió un Deep Research a los distintos sistemas de IA ChatGPT, Gemini, y Claude en su versión gratuita buscando referencias doctrinales y jurisprudenciales.
Para ello les introduje el siguiente prompt: hazme una búsqueda Deep Research como jurista investigador español sobre la responsabilidad civil por producto defectuoso en materia de inteligencia artificial y ejercicio de acción aliud pro alio entre empresas porque el producto ha producido la imposibilidad de alcanzar los rendimientos o utilidades previstos o la frustración del fin del contrato.
Dado que algunas referencias de sentencias eran inventadas, falsas o algunos artículos doctrinales no estaban relacionados con el tema, acudió también a CENDOJ, La Ley y VLEX, así como habiendo consultado diversos manuales y códigos comentados.
Como algunos artículos doctrinales parecían no estar demasiado relacionados con el tema, este juzgador los ha metido en un proyecto de IA de NotebookLM Gemini y ha preguntado sobre los mismos si pueden ser aplicables al objeto de la litis. Alguno que parecía más útil creó un podcast para poder escucharlo en coche a la ida y la vuelta del juzgado.
Este juzgador llamó también a su preparador y a su tutor en las prácticas tuteladas por si hubieran dictado alguna sentencia sobre la materia que no constara en el CENDOJ o si tenían alguna pendiente de dictar y criterio formado al respecto con la finalidad de poder conocer posible criterio jurisprudencial de Segunda Instancia. Y llamó a un profesor suyo de la carrera con el que mantiene amistad, pidiéndole un libro de referencia y un artículo doctrinal al que solo se puede acceder mediante la base de datos de la universidad que le fue sugerido como referencia en el resultado de Gemini para comprobar si la cita era correcta, adecuada y cierta y le podía servir.
Durante la tramitación del procedimiento, se alegó la vulneración de un derecho fundamental basándose en un precedente polaco del TEDH cuya sentencia solo figura en polaco y francés, por lo que tras descargarla y no existiendo traducción oficial al español la subió al sistema de Servicios multilingües basados en la IA de la Comisión Europea y como esa sentencia se remitía a otras, también las descargó en inglés y francés y las tradujo utilizando el sistema e-Translation.
Para la redacción del Primer Fundamento de Derecho de esta sentencia respecto al posicionamiento de las partes, se han subido demanda y contestación al KENDOJ al sistema de resumen automático y preguntas sobre el mismo, y se ha completado, revisado, añadido y modificado sobre el mismo.
Durante la redacción de la sentencia se ha utilizado el sistema de dictado jurídico facilitado por la Administración de Justicia, si bien los errores y erratas se han corregido con el editor de Microsoft Word para corregir las faltas de ortografía y con la extensión de Grammarly. En alguna ocasión, este juzgador ha apreciado que su redacción era un poco farragosa, compleja y difícil de entender, por lo que le ha pedido a Copilot de Word, facilitado por la Administración de Justicia, la reescritura automática de una manera más sencilla, entendible y accesible para un no jurista.
En ningún momento se han compartido con ningún sistema no autorizado ni provisto por la Administración Pública datos personales o confidenciales sobre el procedimiento.
Este juzgador tras haber realizado toda esa investigación, haber leído diversas sentencias, artículos doctrinales, haber pedido opinión a diversos compañeros y juristas, ha llegado a la siguiente conclusión y procede a dictar la siguiente sentencia con base en la siguiente argumentación, de la que se hace su entero responsable, habiendo supervisado, ejercido el control humano y comprobado los resultados de los sistemas de IA utilizados. Así lo pronuncia manda y firma Ilmo. Sr. ….”
¿De verdad sería necesario hacer algo así? ¿Cuál es su utilidad?
¿O lo que debemos hacer es un disclaimer o aviso legal como el del juez texano Brantley Starr, en Dallas?
“Todos los abogados que comparezcan ante el Tribunal deben presentar en el expediente un certificado que acredite que ninguna parte del escrito fue redactada por inteligencia artificial generativa (como ChatGPT, Harvey.AI o Google Bard) o que cualquier texto redactado por inteligencia artificial generativa fue revisado por un ser humano para verificar su exactitud, utilizando reporteros impresos o bases de datos jurídicas tradicionales”
¿Saben en qué ha quedado esto? En que ha sido borrado de la web del tribunal.
Este tipo de disclaimers, a quien escribe que ya peina canas, le recuerda a la firma de correo electrónico del Iphone 1 “Enviado desde mi iPhone” que se puso de moda hace más de 20 años y que no servía para absolutamente nada. Como recuerda BBC, cuando el iPhone salió al mercado, los correos de millones de personas empezaron a firmar con una particular frase al final: «Enviado desde mi iPhone».
En ese momento, dada la novedad del correo electrónico en el teléfono, esa firma parecía tener dos funciones, una la de vanagloriarse de que se estaba a la última con el mejor y más caro teléfono del mercado. Y también se pensó que pretendía justificar posibles erratas o errores gramaticales fruto de que se estaba escribiendo desde un teléfono y no de un ordenador de sobremesa.
¿Una cláusula de este estilo podría producir el efecto contrario? ¿Qué, en realidad, quien la lea, da por supuesto que no se ha revisado tanto el contenido como se dice?
¿De verdad es necesario un aviso legal de que el juez ha cumplido con sus funciones, no las ha delegado y asume la responsabilidad de su sentencia?
¿El Reglamento de Inteligencia Artificial no impone una obligación de transparencia?
El RIA establece en su Artículo 50 una serie de obligaciones de transparencia de los sistemas de alto riesgo y de propósito general. Para los jueces, que podrían considerarse como responsables del despliegue (cualquier persona física o jurídica, autoridad, organismo o cualquier otra entidad que utilice un sistema de IA bajo su autoridad, salvo cuando dicho uso se enmarque en una actividad personal de carácter no profesional) las obligaciones de dicho artículo en cuanto a texto (son distintas para imágenes) son:
Los responsables del despliegue de un sistema de IA que genere o manipule texto que se publique con el fin de informar al público sobre asuntos de interés público divulgarán que el texto se ha generado o manipulado de manera artificial. Esta obligación no se aplicará cuando el uso esté autorizado por ley para detectar, prevenir, investigar o enjuiciar delitos, o cuando el contenido generado por IA haya sido sometido a un proceso de revisión humana o de control editorial y cuando una persona física o jurídica tenga la responsabilidad editorial por la publicación del contenido.
Está claro que una sentencia donde se haya podido utilizar un sistema de IA ha sido o debería serlo -so pena de sanción disciplinaria- sometida a un proceso de revisión humana y control editorial, existiendo el juez o magistrado quien se hace responsable del contenido y así lo firma.
Por lo tanto, las obligaciones de transparencia en tal caso recaerán sobre los proveedores, no sobre los responsables del despliegue. Es más, incluso en esos casos, hay que tener en cuenta la excepción del Art. 50.2 in fine: “Esta obligación no se aplicará en la medida en que los sistemas de IA desempeñen una función de apoyo a la edición estándar o no alteren sustancialmente los datos de entrada facilitados por el responsable del despliegue o su semántica, o cuando estén autorizados por ley para detectar, prevenir, investigar o enjuiciar delitos”.
Partes que se mantienen inmutables con el REGLAMENTO (UE) 2026/1744 DEL PARLAMENTO EUROPEO Y DEL CONSEJO de 8 de julio de 2026 por el que se modifican los Reglamentos (UE) 2024/1689, (UE) 2018/1139 y (UE) 2023/1230 en lo que respecta a la simplificación de la aplicación de normas armonizadas en materia de inteligencia artificial (Ómnibus digital sobre IA).
La mayoría de principales proveedores de IA (OpenAI, Anthropic, Google, Microsoft, Meta o Mistral) ya han firmado la Sección 1ª del Código de Buenas Prácticas de Transparencia de contenido generado por IA y ya están saliendo noticias de que Claude ya está aplicando las marcas de agua a los resultados de uso de sus últimos modelos.
Los firmantes velarán por que los contenidos generados o manipulados por la IA estén marcados con una marca de agua imperceptible, salvo un texto muy breve. Para el texto en abierto superior a 200 tokens, aún debe aplicarse el marcado de agua, aunque puede tener una menor fiabilidad en comparación con el texto muy largo. Este marcado de texto generado o manipulado con IA puede complementarse con metadatos y otras medidas de rastreo y registro como sellos de tiempo.
Además, los firmantes pondrán a disposición una solución de detección, compuesta por uno o varios mecanismos de detección, para que los responsables del despliegue, los usuarios de su sistema de IA generativa, los integradores tercera parte, los usuarios finales expuestos al contenido y otras partes legítimas (como las autoridades competentes, los investigadores independientes, la sociedad civil y las organizaciones de medios de comunicación) puedan verificar si el contenido ha sido generado o manipulado por su sistema de IA.
Lo cierto es, que según las Directrices sobre la aplicación de las obligaciones de transparencia en el marco de determinados sistemas de IA el artículo 50 del Reglamento de Inteligencia Artificial no se aplica explícitamente a los modelos de propósito general ((26) y (27)). Sin embargo, si un sistema de IA interactivo o generativo que entra en el ámbito de aplicación del artículo 50, apartado 1, o (2) del Reglamento de Inteligencia Artificial se basa en un modelo GPAI facilitado por el mismo proveedor, las medidas de transparencia establecidas en las presentes Directrices también podrían aplicarse. Además, aunque no entran en el ámbito de aplicación del artículo 50 se anima a los proveedores principales de IA a firmar el Código de Buenas Prácticas y cumplir con las Directrices antes mencionadas.
En cuanto a las obligaciones del Código de Buenas Prácticas para responsables del despliegue (función que sería aplicable a un juez o tribunal que utilice la IA dentro de los usos permitidos por el Poder Judicial español), el etiquetado del texto publicado elaborado y manipulado de la IA implica dos cuestiones que no se dan (o no deberían darse so pena de sanción) en los usos de IA por juzgados y tribunales:
ii) un texto procedente de la IA o manipulado publicado con el fin de informar al público sobre cuestiones de interés público, sin control humano ni control editorial,
y cuando ninguna persona física o jurídica asuma la responsabilidad editorial de la publicación del contenido (denominado «texto publicado» o «texto publicado en asuntos de interés público»).
Como puede verse en el Compromiso 4º de la sección 2ª del Código de Buenas Prácticas, dicho apartado 4º del Artículo 50 parece destinado a medios de comunicación e informaciones automatizadas, con la expresa mención a la libertad de prensa, la independencia editorial y la protección de la información sobre las fuentes periodísticas.
Sin embargo, en el FAQ de preguntas y respuestas, las Directrices y en el Código de Buenas Prácticas, lo cierto es que vienen a ampliar lo dispuesto legalmente.
Para que el texto entre en esta obligación, deben cumplirse tres criterios. El texto
debe ser:
- Publicado
- Información al público
- En asuntos de interés público, tales como:
la política y los procesos democráticos,
administración y servicios públicos,
administración de justicia y aplicación de la ley,
derechos fundamentales,
seguridad pública,
salud pública,
protección del medio ambiente,
la seguridad de los consumidores y cualquier aspecto económico,
desarrollos financieros, políticos, científicos o culturales que puedan ser objeto
de debate público.
Pero claramente establece como excepción: No es necesario etiquetar el texto publicado que haya sido sometido a revisión humana o control editorial.
La revisión humana se refiere al examen deliberado de la sustancia del contenido por parte de una o más personas físicas que poseen conocimientos pertinentes y juicio profesional en relación con el tema objeto de examen (por ejemplo, la revisión académica por pares o las cadenas de validación profesional).
La responsabilidad editorial significa que una persona debe tener la responsabilidad legal última sobre la publicación del contenido, incluida la revisión humana o el control editorial.
En palabras de las Directrices,
(130) El artículo 50, apartado 4, párrafo segundo, del Reglamento de Inteligencia Artificial se aplica si se cumplen varias condiciones:
i. El sistema debe ser un sistema de IA;
ii. Utilizado para generar o manipular el texto (véase la sección 4.2.1) publicado con el fin de informar al público sobre cuestiones de interés público;
iii. El uso del sistema de IA no está cubierto por ninguna de las excepciones cuando (1) el contenido generado por la IA haya sido objeto de un proceso de revisión humana o de supervisión editorial y una persona física o jurídica asuma la responsabilidad editorial de la publicación del contenido o (2) el uso esté autorizado por ley para la detección, prevención, investigación o enjuiciamiento de infracciones penales.
En definitiva, podemos decir que para un juez no es legalmente obligatorio informar sobre el uso de inteligencia artificial mientras cumpla con su deber de supervisión y control humano, y que, además, los principales proveedores de servicios de IA ya cumplirán con su deber de marcado.
Y, por último, lo más importante,
¿Dónde queda el secreto de las deliberaciones?
Artículo 233 LOPJ.
Las deliberaciones de los Tribunales son secretas. También lo será el resultado de las votaciones, sin perjuicio de lo dispuesto en esta Ley sobre la publicación de los votos particulares.
Artículo 139 LEC. Secreto de las deliberaciones de los tribunales colegiados.
Las deliberaciones de los tribunales colegiados son secretas. También lo será el resultado de las votaciones, sin perjuicio de lo dispuesto por la ley sobre publicidad de los votos particulares.
Artículo 150 LECRIM.
La discusión y votación de las sentencias se verificará en todos los Tribunales a puerta cerrada y antes o después de las horas señaladas para el despacho ordinario.
15. Los jueces estarán obligados por el secreto profesional con respecto a sus deliberaciones y a la información confidencial que hayan obtenido en el desempeño de sus funciones, a menos que se trate de audiencias públicas, y no se les exigirá que testifiquen sobre tales asuntos.
Con el paso del absolutismo a las democracias liberales, se pasa del juez como delegado del monarca y un poder real e incluso sacro a la exigencia de fundamentación de un juez como parte del pueblo y su secularización. Una garantía para las partes y también para el pueblo que les permite constatar que su situación jurídica ha sido evaluada por el juez con imparcialidad y sin arbitrariedad. El paso de súbditos a ciudadanos, como describe ACCATINO[vi]
Sobre esta cuestión podemos citar Sentencia de la Sala Tercera del Supremo, y como ponente su propia presidenta actual (Roj: STS 140/2020 – ECLI:ES:TS:2020:140; Id Cendoj: 28079130032020100016; Fecha: 17/01/2020; Nº de Recurso: 7487/2018; Nº de Resolución: 34/2020; Ponente: MARÍA ISABEL PERELLO DOMENECH). Una empresa solicita información a la Comisión Nacional del Mercado de la Competencia (CNMC) sobre el sentido del voto de cada uno de los miembros del Consejo que decidieron el incidente de recusación planteado contra algunos de sus integrantes porque la transparencia de los votos afecta a su derecho a la defensa.
Y la Sala Tercera decide que “las razones que han llevado a su rechazo, así como el nombre de los consejeros del Pleno del Consejo de la CNMC que han formado parte de su deliberación. Y si a la misma no se acompañan votos particulares es que no se han formulado por ninguna de las personas que formaban parte del órgano colegiado encargado de su resolución. El reconocimiento del derecho de defensa y del derecho a tener acceso a los archivos y registros públicos administrativos no puede implicar que se tenga derecho a conocer el contenido de las deliberaciones por cuanto esa actuación del órgano colegiado se ha plasmado posteriormente en una resolución administrativa en la que si se recogen las razones que han llevado a rechazar las causas de la recusación formulada que son el resultado de las deliberaciones y opiniones de todos los miembros del Pleno del Consejo que participaron en su adopción. Resultado que, al menos, fue adoptado por la mayoría del Pleno sin que ninguno formulara discrepancia con ese resultado mayoritario al no acompañarse votos particulares”.
[…] “Como ya hemos indicado, la verdadera pretensión del recurrente no es acceder a documentos que forman parte de un expediente administrativo que ha sido elaborado por el órgano al que se dirige sino la emisión de un documento «ad hoc» que certifique unos datos e información que no forman parte del expediente administrativo como son, en realidad, el contenido de las deliberaciones que han servido para dictar la resolución denegatoria de la recusación. Pero el recurrente olvida que uno de los límites al derecho de acceso a la información pública es, según dispone el artículo 18.1.b) de la Ley 19/2013, de 9 de diciembre, de transparencia, acceso a la información pública y buen gobierno, la garantía de la confidencialidad o el secreto requerido en procesos de toma de decisiones
Y, por ello, la solicitud de que se emita un certificado por parte de la CNMC donde se recojan datos de las deliberaciones y de la opinión de cada uno de sus intervinientes no puede admitirse porque no forman parte de la información pública y ello porque así lo dispone el Reglamento de Funcionamiento Interno de la CNMC y la Ley 19/2013, de 9 de diciembre, de transparencia, acceso a la información pública y buen gobierno. En consecuencia, no se acepta que el recurrente, amparándose en el principio de transparencia de la actuación administrativa pueda obtener datos que forman parte de las deliberaciones del órgano colegiado.
El voto de cada uno de los miembros de la CNMC no puede considerarse como «información» a los efectos de su acceso ex artículo 18 de la Ley 19/2013, de 9 de diciembre, de Transparencia por razón de la específica forma de la toma de decisiones.
Así, “no es coherente con la naturaleza de los órganos colegiados desagregar e individualizar el voto de cada miembro o componente del órgano que por sí sólo carece de trascendencia y relevancia, puesto que lo que es esencial es, precisamente, la voluntad única de la mayoría de sus miembros”. Y “la ley no otorga relevancia al criterio individual de cada uno de los miembros que componen el órgano colegiado, sino a su mayoría, salvando los supuestos de votos expresos. De esta forma, el criterio o sentido de voto de cada uno de los miembros carece de trascendencia que la parte pretende, salvo para conformar la decisión mayoritaria, por ello, una vez alcanzada la mayoría, la opinión individual de cada miembro se integra de forma definitiva en aquella mayoritaria, sin que quepa su posterior disgregación, salvo la excepción indicada, a instancia exclusiva de cada miembro”.
De la misma manera se resolvió STS, Sala de lo Contencioso , Sección: 3ª, 19/02/2021 (rec. 1866/2020 en cuanto al consejo de administración de las autoridades portuarias como órgano colegiado y STS, Contencioso sección 3 del 17 de noviembre de 2022 ( ROJ: STS 4174/2022 – ECLI:ES:TS:2022:4174 ;Sentencia: 1518/2022 Recurso: 1837/2021; Ponente: JOSÉ MARÍA DEL RIEGO VALLEDOR).
Así, la Sala Tercera tiene bien claras tres cuestiones:
- Que la transparencia no abarca el secreto de las deliberaciones, y, por lo tanto, podríamos decir que la transparencia del sistema de inteligencia artificial no tiene por qué suponer la transparencia de uso de sistemas de IA,
- Que una cosa son las deliberaciones y opiniones de los miembros de un órgano colegiado y otra las razones que han llevado a adoptar la decisión, y, por último,
- Que los abogados lo que buscan con esa supuesta transparencia es el secreto de las deliberaciones para ver posibles fallas, posibles desacuerdos, discusiones y debates no plasmados en la sentencia o en votos particulares que no se hayan formulado con la finalidad de reforzar sus recursos.
Esto último también lo ha referido el Tribunal Supremo en su Sala Segunda y en su Sala Tercera.
En la Sala Tercera en cuanto a que la violación del secreto de las deliberaciones podría acarrear una infracción disciplinaria muy grave conforme al 417.12 LOPJ. Así, fue confirmada la sanción disciplinaria a un magistrado por la Comisión Disciplinaria del CGPJ (Roj: STS 1581/2014 – ECLI:ES:TS:2014:1581; Nº de Recurso: 60/2013; Fecha de Resolución: 01/04/2014; Ponente: RAFAEL FERNANDEZ MONTALVO) por revelar el juez o magistrado y fuera de los cauces de información judicial establecidos, hechos o datos de los que conozcan en el ejercicio de su función o con ocasión de ésta cuando no constituya la falta muy grave del apartado 12 del artículo 417 de esta Ley» con ocasión de un voto particular.
Según la sanción, « (…) SEGUNDO.- Entrando en la valoración de la conducta, de los hechos probados se patentiza que el Magistrado expedientado infringió el deber de guardar secreto de la deliberación establecido en el artículo 233 de la LOPJ , difundiendo el contenido material de la deliberación y realizando un peyorativo juicio de intenciones sobre la postura de los demás miembros del Tribunal. En efecto, en ese denominado «voto particular» no se limita a exponer quien lo redacta su discrepancia con el criterio de la mayoría en cuanto a la fundamentación fáctica o jurídica de la decisión plasmada en la resolución con la que no se está conforme, sino que lo realizado por él fue algo distinto: difundir el contenido material de la deliberación y de los cambios de criterio y supuestas intenciones de los deliberantes, según la percepción que de lo acontecido en el proceso de deliberación tuvo del magistrado disidente, desvelando aquello de lo que, por legal exigencia, es obligado guardar secreto de conformidad con lo establecido en el artículo 233 LOPJ . Lo que en dicho «voto particular» se hace es contar las incidencias acontecidas durante la fase de deliberación y, muy especialmente, referir aquello que el magistrado que lo redacta considera como irregularidades en el comportamiento de los otros dos magistrados integrantes del tribunal, que, de entenderlas cometidas, debió poner en conocimiento, por el cauce legalmente establecido, del órgano que considerara competente para conocer de las mismas, pero no mediante la emisión de un llamado «voto particular» cuyo natural destinatario son las partes del proceso.
De acuerdo con el expediente sancionatorio del CGPJ, el secreto de las deliberaciones “pretende asegurar que en las deliberaciones cada Magistrado se exprese con total libertad y sin atender a la posible presión que pudiera suponer el conocimiento de su particular intervención en el debate de la Sala. Ello es así por cuanto el control de las partes y de los Tribunales superiores a través de los recursos se hace sobre lo resuelto, sobre lo decidido y votado y sobre los razonamientos que el Tribunal utiliza en la resolución que dicte, y no sobre las intervenciones personales de cada Magistrado. Se advierte por tanto que el legislador considera el secreto de las deliberaciones como un bien jurídico digno de protección por contribuir al mejor funcionamiento del servicio judicial por proteger la libertad de expresión de los Magistrados en el ejercicio de su función jurisdiccional, necesaria para garantizar que la decisión colegiada adoptada sea el resultado final de un debate amplio, libre, serio y riguroso. Se trata, por tanto de un bien jurídico digno de protección y que conlleva de manera razonable su protección a través del ilícito disciplinario aplicado, sin que con ello se produzca lesión de los derecho que denuncia el recurrente, pues la LOPJ es el marco que establece los deberes profesionales del Juez, modulando de esa manera el ejercicio de sus derechos cuando pudieran entrar en conflicto, sin que el hipotético sacrificio que pretende haber sufrido el recurrente sea injustificado, arbitrario o caprichoso, pues lo cierto es que con el contenido del voto particular emitido divulgó el contenido de la deliberación, infringiendo un deber expreso establecido en el citado Art. 233 de la LOPJ . Finalmente, entiende el Pleno del Consejo General del Poder Judicial que, frente a lo sostenido por el recurrente, la independencia judicial se protege, entre otros instrumentos, precisamente con el secreto de las deliberaciones de sus Tribunales, no con su revelación, sin que ello signifique ni opacidad, ni arbitrariedad, pues el parecer del Tribunal es el que se expresa motivadamente en sus resoluciones, fruto de un debate libre, en el que cada integrante del Tribunal se puede expresar sin miedo a que sus criterios (variables, oscilantes, imprecisos, oscuros…) vayan alcanzando precisión y versión definitiva en un contraste constructivo y dirigido a la solución en derecho del supuesto litigioso”.
Por parte de la Sala Tercera se confirma la sanción disciplinaria tras descartar motivos procesales y formales al considerar que se desbordó por el sancionado el contenido material del voto particular.
Y en la Sala Segunda incluso a posible responsabilidad penal (ATS, Especial sección 61 del 22 de diciembre de 2025 ( ROJ: ATS 11665/2025 ECLI:ES:TS:2025:11665A; Sentencia: 26/2025 Recurso: 16/2025 Ponente: CONCEPCIÓN ROSARIO URESTE GARCÍA):
b) El secreto de las deliberaciones, como excepción al principio de publicidad de las actuaciones judiciales consagrado en los arts. 24.2 y 120.1 de la Constitución, constituye una garantía de la independencia de los integrantes del tribunal para intervenir en ellas con total libertad, sin atender a la presión que pudiera derivarse de la circunstancia de que su particular posición en el debate estuviera sujeta al escrutinio público. El hermetismo de las deliberaciones permite, por tanto, alejar eventuales presiones, mediáticas o de otra índole, sobre la decisión judicial.
El secreto de las deliberaciones es, en definitiva, un medio a través del que defender el bien jurídico que el ordenamiento pretende proteger, consistente en el buen funcionamiento de la Administración de Justicia, de modo que los magistrados puedan expresar su parecer en la deliberación con la libertad necesaria para garantizar que la decisión colegiada a adoptar sea el resultado final de un debate amplio, libre, serio y riguroso.
Además, con este deber de secreto también se pretende proteger los derechos procesales de las partes y sus garantías constitucionales, ya que la publicidad de las posturas mantenidas en la deliberación por los miembros del tribunal podría contribuir a la realización de juicios paralelos extraprocesales y, así, dañar el derecho de aquellas a un juicio justo, al juez imparcial, a la presunción de inocencia o, en fin, al honor o la intimidad.
Precisamente para la protección de las finalidades perseguidas, el ordenamiento jurídico deriva consecuencias disciplinarias de la infracción del secreto por parte de los miembros del tribunal. Así, la STS, Sala Tercera, de 1 de abril de 2014 (rec. 60/2013) confirmó la imposición de una multa por el Consejo General del Poder Judicial a un magistrado que, en un voto particular, difundió el contenido material de la deliberación, de los cambios de criterio y de las supuestas intenciones de otros de los magistrados que intervinieron en la deliberación, desvelando aquello de lo que, por exigencia legal, estaba obligado a guardar secreto. Es decir, para que la revelación sea relevante disciplinariamente es necesario que en ella se desvele el contenido material de la deliberación o el resultado de las votaciones.
Por último, considero que la transparencia del uso del sistema en realidad tiene por finalidad cuestionar la supervisión humana.
En este sentido, la Carta de Derechos Digitales en su Título XVIII 6 d) establece “El interesado tendrá derecho a que se motive o se explique la decisión administrativa cuando esta se separe del criterio propuesto por un sistema automatizado o inteligente”. Consideramos que, si bien las resoluciones administrativas o judiciales han de ser obligatoriamente motivadas, dicha motivación no tiene que girar necesariamente en la justificación o expresión del apartamiento de la decisión propuesta por el sistema automatizado o inteligente en cuanto que ello supone dar por hecho una presunción de que la decisión correcta es la automatizada. Tal y como está redactado el derecho en la Carta, parece subordinado el control humano a la decisión automatizada debiendo explicarse dicha supervisión y efectiva superioridad humana. “Los humanos siempre deben conservar el poder de decidir qué decisiones tomar”[vii]
Es verdad que las sentencias no entran dentro del concepto de decisión automatizada, pero en este sentido, se puede plantear, como ha pasado, en el supuesto de la existencia de una propuesta de borrador de resolución o de uso de IA generativa: ¿tienen las partes derecho a conocer el sentido en el que el sistema propuso o sugirió con independencia de lo que haya resuelto el juez humano?. ¿Podría utilizarse ese argumento como motivo de recurso o como argumentación fundamentadora del mismo el acceso al output del sistema? Por este autor, si se asume la necesidad y obligación ética y legal de supervisión humana sobre las decisiones algorítmicas, no puede pretenderse cuestionar dicha supervisión mediante el acceso a una posible propuesta de resolución, borrador o sugerencias de tendencias jurisprudenciales o posibles auxilios del caso realizados y utilizados por el juez mediante Inteligencia Artificial válidamente supervisada, controlada y como función indelegable.
Ya que ello supone el cuestionamiento en sí mismo de la supervisión y la formación humanas. Es más, la posible propuesta o auxilio o uso de IA como herramienta bien sea de interpretación o consulta de las normas o bien sea de borrador de resolución judicial no deja de ser una discusión o deliberación en su caso, del juez con la máquina, asimilable a la deliberación entre magistrados de órgano colegiado. Tomando las palabras del CGPJ, podríamos decir que un uso permitido de la IA puede suponer la construcción de un debate libre, en el que el magistrado exprese sin miedo sus criterios y donde vaya alcanzando precisión y la versión definitiva en un contraste constructivo y dirigido a la solución del litigio, de tal manera que lo que debe plasmarse en la sentencia es lo decidido y los razonamientos que han llevado a ello, pero no el proceso mental y lógico para llegar a esa decision.
De esta manera, hay que destacar que el apartamiento por parte del juez de cualquier decisión que sea asistida o propuesta no puede suponer ningún tipo de represalia, sanción, inspección o régimen disciplinario.
Si prevalece esa supervisión y control humano, no debería poderse cuestionar cuál fue el resultado, propuesta o contenido suministrado por la máquina.
Alfonso Peralta Gutiérrez.
[i] TORRES LÓPEZ, L. S., & PERALTA GUTIÉRREZ, A. (2023). Visión comparada de los principios éticos de la inteligencia artificial y su aplicación a la función jurisdiccional. En El derecho y la inteligencia artificial (Cuadernos Digitales de Formación, N.º 3 .p.43) CENDOJ. Consejo General del Poder Judicial.
[ii] PERALTA GUTIÉRREZ, A., & DE LA TORRE RODRÍGUEZ, P. (2024, Diciembre 16). Pericial de la IA: ¿Es necesario el acceso al algoritmo? Diario LA LEY, 90, Sección Ciberderecho. Diario LA LEY
[iii] Consultado el 28 de enero de 2023. Versión en español. Disponible en: https://campusialab.com.ar/wp-content/uploads/2020/07/Carta-e%CC%81tica-europea-sobre-el-uso-de-la-IA-en-los-sistemas-judiciales-.pdf
[iv] Tribunal Supremo. (2025). Sentencia núm. 1.119/2025, R. CASACION 7878/2024. Sala de lo Contencioso-Administrativo, Sección Tercera. Fecha de sentencia: 11 de septiembre de 2025. Fallo: Sentencia estimatoria. Fecha de votación y fallo: 8 de julio de 2025. Ponente: Excmo. Sr. D. Juan Pedro Quintana Carretero.
[v] Disponibles en: https://unesdoc.unesco.org/ark:/48223/pf0000396582
[vi] ACCATINO SCAGLIOTTI, Daniela. (2003). La Fundamentación de las sentencias : ¿Un rasgo distintivo de las judicatura moderna?. Revista de derecho (Valdivia), 15, 09-35. https://dx.doi.org/10.4067/S0718-09502003000200001
[vii] AI-HLEG: 10; Floridi et al, 2018: 698.