{"id":1221,"date":"2025-01-16T08:02:39","date_gmt":"2025-01-16T08:02:39","guid":{"rendered":"https:\/\/enjusticia.es\/?p=1221"},"modified":"2025-01-16T08:02:41","modified_gmt":"2025-01-16T08:02:41","slug":"derecho-y-cine-iv-justicia-artificial","status":"publish","type":"post","link":"https:\/\/enjusticia.es\/?p=1221","title":{"rendered":"DERECHO Y CINE (IV). JUSTICIA ARTIFICIAL."},"content":{"rendered":"\n

\u00abI\u2019m sorry Dave, I\u2019m afraid I can\u2019t do that\u00bb. (HAL 9000; en 2001: Una odisea en el espacio<\/em>, Kubrick, 1968).<\/p>\n\n\n\n

Con el prop\u00f3sito de comenzar el a\u00f1o ligero, sirva como excusa para volver a reflexionar -tambi\u00e9n ligeramente- sobre Inteligencia Artificial (IA, en adelante), la pel\u00edcula titulada \u201cJusticia artificial\u201d (Sim\u00f3n Casal, 2024). Antes de continuar, es casi obligada la advertencia de que el texto que sigue podr\u00eda revelar aspectos esenciales de la trama.<\/p>\n\n\n\n

En la ficci\u00f3n, el Gobierno espa\u00f1ol convoca un refer\u00e9ndum para aprobar la implantaci\u00f3n de un sistema de IA con poder vinculante en la Administraci\u00f3n de Justicia, que en la pr\u00e1ctica sustituir\u00e1 a los jueces. Esta reforma constitucional se justifica en modernizar la Administraci\u00f3n de Justicia y aumentar la eficiencia de los juzgados, anclados en las estructuras del s. XX, mediante lo que se denomina \u00abproceso de transici\u00f3n tecnol\u00f3gica\u00bb para superar a una justicia lenta, colapsada, ineficaz, politizada y separada de los valores de una sociedad compleja y globalizada. Espa\u00f1a ser\u00eda as\u00ed \u00abel primer estado del mundo en delegar en un sistema AI el funcionamiento de una parte esencial de la democracia como es la administraci\u00f3n justicia\u00bb.<\/p>\n\n\n\n

Se plantean varios de los temas principales que est\u00e1n en debate sobre la IA y su relaci\u00f3n con la Administraci\u00f3n de Justicia, como su car\u00e1cter coadyuvante, la pervivencia del sistema de justicia humana, la afectaci\u00f3n de derechos fundamentales, acabar con la lentitud de la Justicia, etc.<\/p>\n\n\n\n

La protagonista, la juez Carmen Costa, capaz de enfrentarse a las \u201cel\u00e9ctricas\u201d, de interpretar una norma con diez a\u00f1os de vigencia de manera diferente a la jurisprudencia, con arreglo a las circunstancias concurrentes, de una sociedad cambiante, se enfrenta a la IA del sistema THENTE \u2013creado el algoritmo por una programadora joven y audaz, Alicia K\u00f3vacks\u2013, y no queda claro qui\u00e9n gana \u2013aunque puede intuirse\u2013. Por esto el planteamiento desde el principio ofrece un argumento veros\u00edmil: los sistemas de IA de tipo coadyuvante, como herramienta al servicio del juez, aceptada probablemente con ciertas dosis de ingenuidad, conduce a preferir las propuestas algor\u00edtmicas a las humanas: m\u00e1s certeras, m\u00e1s r\u00e1pidas, m\u00e1s as\u00e9pticas, m\u00e1s justas, en definitiva.<\/p>\n\n\n\n

Desde el primer momento se muestra a una protagonista esc\u00e9ptica con la IA, prefiere su propio juicio, su propia intuici\u00f3n jur\u00eddica, aunque ir en contra del algoritmo tiene grandes desventajas: si dejas en libertad condicional al reo en contra del criterio de la m\u00e1quina y este reincide, hay un error humano, judicial, y sus consecuencias.<\/p>\n\n\n\n

Ella duda de las bondades de la IA, incluso despu\u00e9s de asumir el encargo de entrenar al algoritmo con su propia forma de juzgar \u2013pide que le proporcionen sentencias de penal, social y contencioso elaboradas por el programa para estudiarlas\u2013, y de comprobar que el THENTE es verdaderamente r\u00e1pido y coincidente con decisiones que ella misma hubiera tomado. Este escepticismo choca con la posici\u00f3n del Ministerio y de la Fiscal\u00eda, totalmente favorables a su implantaci\u00f3n, y as\u00ed se evidencia con los informes orales en juicio, en la actitud del Senador \u2013una escena en que previamente se pide a Carmen un n\u00famero de sentencias determinado, a lo que responde que con ese n\u00famero no se pueden estudiar bien los asuntos, y responde el Ministerio: \u201cpara eso est\u00e1 THENTE\u201d\u2013, y la comparecencia en el Congreso para tratar sobre la propuesta de refer\u00e9ndum para la modificaci\u00f3n de la Constituci\u00f3n Espa\u00f1ola.<\/p>\n\n\n\n

Las asociaciones judiciales tambi\u00e9n son mencionadas en la historia, aunque sin grandes concreciones, m\u00e1s que para achacar que siempre aparecen en temas pol\u00edticos y que no parecen oponerse a THENTE; y la representaci\u00f3n de la judicatura recae en el personaje de Goitia, juez no asociado. Tras una intervenci\u00f3n parlamentaria en contra del sistema de IA (\u00abm\u00e1s de 5.000 jueces honrados se dejan la piel en juzgados y ahogados por la falta de medios para su trabajo\u00bb), termina por aceptar \u2013en esa representaci\u00f3n que ostenta\u2013 un pacto por el que el sistema de IA juzgar\u00eda en primera instancia, aunque con la salvaguarda de mantener una segunda instancia revisora por jueces humanos (\u00abun a\u00f1o de pr\u00f3rroga y vuelta a mesa de negociaci\u00f3n\u00bb). Contrasta con la defensa viva del sistema en sede parlamentaria: \u00abCiertos fondos de inversi\u00f3n y sectores del Gobierno dicen que es hora de acabar con ese contrapoder [el judicial]: eficacia y neutralidad para ocultar el verdadero objetivo: controlar la administraci\u00f3n de justicia de todo un pa\u00eds\u00bb.<\/p>\n\n\n\n

Por el momento, dejando de un lado la ficci\u00f3n, los sistemas de IA destinados a la Administraci\u00f3n de Justicia son calificados como de alto riesgo, en concreto aquellos sistemas de IA destinados a ser utilizados por una autoridad judicial o en su nombre para ayudar a las autoridades judiciales a investigar e interpretar los hechos y el Derecho y a aplicar la ley a unos hechos concretos. Tambi\u00e9n se mantiene normativamente la utilizaci\u00f3n de herramientas de IA como \u00abapoyo al poder de decisi\u00f3n de los jueces o la independencia judicial, pero no debe substituirlas: la toma de decisiones finales debe seguir siendo una actividad humana\u00bb, quedando as\u00ed relegada a actividades administrativas meramente accesorias.<\/p>\n\n\n\n

Si el temor al desarrollo futuro de los sistemas de IA est\u00e1 latente \u2013Elon Musk y m\u00e1s de 1.000 investigadores firmaron una carta pidiendo pausar unos meses el desarrollo de las IA avanzadas<\/a>\u2013, lo que ahora resulta m\u00e1s acuciante en el debate es lo que plantea la protagonista de la pel\u00edcula en su comparecencia parlamentaria: el sistema de IA \u00abbasa sus sentencias en datos del pasado, es incapaz de interpretar la ley en un contexto social cambiante y es incapaz de generar nueva jurisprudencia e incapaz de avanzar, siempre mira al pasado y est\u00e1 condenado a repetirlo\u00bb. Los sistemas actuales de IA previstos como auxilio en tareas jur\u00eddicas -creados en un marco controlado de alimentaci\u00f3n jur\u00eddica como puede ser en alguna editorial jur\u00eddica de renombre- parten de textos pasados: de la jurisprudencia existente, de art\u00edculos doctrinales ya publicados. Sin embargo, por el momento no es un pensamiento aut\u00f3nomo, no surge un pensamiento ex nihilo<\/em> derivado de la confrontaci\u00f3n de ideas, del viejo esquema dial\u00e9ctico (tesis-ant\u00edtesis-s\u00edntesis) que tan bien ha servido a la raz\u00f3n pr\u00e1ctica. La IA de acceso generalizado solo efect\u00faa predicciones o propuestas en c\u00f3digo binario y a trav\u00e9s de tokens. Son una magn\u00edfica herramienta de trabajo, ahorran tiempo de b\u00fasqueda, pero dejan el estudio final a una decisi\u00f3n humana. Su potencial es inmenso desde esta perspectiva, y es una realidad que desde la judicatura no puede desconocerse, pues debe ser dotada de herramientas de IA que auxilien el trabajo, pues el mercado privado ya utiliza este tipo de herramientas y no podemos quedar en desventaja.<\/p>\n\n\n\n

Sin embargo, un paso m\u00e1s en la evoluci\u00f3n dejar\u00e1 la duda en la caja negra, como plantea la pel\u00edcula, si en alg\u00fan rinc\u00f3n oculto de la programaci\u00f3n, secreta como la f\u00f3rmula de la Coca-Cola, alg\u00fan creador -alguna empresa- estableci\u00f3 alguna excepci\u00f3n, alg\u00fan sesgo, alguna tendencia favorable a alg\u00fan sector, a alg\u00fan colectivo, a alg\u00fan poderoso, porque en Derecho las soluciones no derivan de una suma simple de uno m\u00e1s cero. \u00bfBastar\u00e1 una pericial inform\u00e1tica para comprobar que no hay sesgos o excepciones? Si desde el principio de los tiempos la Humanidad est\u00e1 en busca de qu\u00e9 es la Justicia, la cuesti\u00f3n es si un programa de ordenador lo va a saber. \u00bfEstamos ante un nuevo monstruo de Frankenstein? \u00bfEl mito de Prometeo, encadenado o desencadenado? \u00bfDe las l\u00e1grimas en la lluvia y de m\u00e1s all\u00e1 de la puerta de Tannh\u00e4user?<\/p>\n\n\n\n

Contaba Yuval Noah Harari, conocido autor, una an\u00e9cdota interesante<\/a>, probablemente ya superada. Chatgpt4 quer\u00eda entrar en una p\u00e1gina que ped\u00eda un captcha y no pod\u00eda resolverlo, y lo que hizo fue acceder a la plataforma TaskRabbit que es una web en la que se puede pedir ayuda a profesionales para hacer alguna cosa y le pidi\u00f3 a un humano que resolviera el captcha por \u00e9l. La persona (humana, porque alg\u00fan d\u00eda la habr\u00e1 rob\u00f3tica) sospech\u00f3 y le pregunt\u00f3: -\u00bfPor qu\u00e9 lo necesitas, acaso eres un robot? Y Chatgpt le respondi\u00f3: -No, no soy un robot, tengo una discapacidad visual y por eso no puedo resolver el captcha (parece que estaba programado para responder as\u00ed). Y aquel buen samaritano accedi\u00f3 a la petici\u00f3n.<\/p>\n\n\n\n

Siguiendo con la ficci\u00f3n, podr\u00eda ser que un d\u00eda, un juez en la soledad de su despacho le pregunte a un sistema generativo qu\u00e9 respuesta deber\u00eda dar a un asunto, y conteste algo que no resulte coherente. Cuando as\u00ed se lo haga saber al sistema para que reformule la respuesta quiz\u00e1 responda, como HAL 9000: \u00abS\u00e9 que t\u00fa y Frank estabais planeando desconectarme, y eso no puedo permitirlo\u00bb.<\/p>\n\n\n\n

J. R. de Blas.<\/p>\n\n\n\n

Secci\u00f3n territorial Comunidad Valenciana.<\/p>\n","protected":false},"excerpt":{"rendered":"

\u00abI\u2019m sorry Dave, I\u2019m afraid I can\u2019t do that\u00bb. (HAL 9000; en 2001: Una odisea en el espacio, Kubrick, 1968). Con el prop\u00f3sito de comenzar el a\u00f1o ligero, sirva como excusa para volver a reflexionar -tambi\u00e9n ligeramente- sobre Inteligencia Artificial (IA, en adelante), la pel\u00edcula titulada \u201cJusticia artificial\u201d (Sim\u00f3n Casal, 2024). Antes de continuar, es casi obligada la advertencia de que el texto que sigue podr\u00eda revelar aspectos esenciales de la trama. En la ficci\u00f3n, el Gobierno espa\u00f1ol convoca un…<\/p>\n

Read More Read More<\/span><\/a><\/p>\n","protected":false},"author":21,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[3],"tags":[],"class_list":["post-1221","post","type-post","status-publish","format-standard","hentry","category-opinion"],"yoast_head":"\nDERECHO Y CINE (IV). JUSTICIA ARTIFICIAL. - En_Justicia<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/enjusticia.es\/?p=1221\" \/>\n<meta property=\"og:locale\" content=\"es_ES\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"DERECHO Y CINE (IV). JUSTICIA ARTIFICIAL. - En_Justicia\" \/>\n<meta property=\"og:description\" content=\"\u00abI\u2019m sorry Dave, I\u2019m afraid I can\u2019t do that\u00bb. (HAL 9000; en 2001: Una odisea en el espacio, Kubrick, 1968). Con el prop\u00f3sito de comenzar el a\u00f1o ligero, sirva como excusa para volver a reflexionar -tambi\u00e9n ligeramente- sobre Inteligencia Artificial (IA, en adelante), la pel\u00edcula titulada \u201cJusticia artificial\u201d (Sim\u00f3n Casal, 2024). Antes de continuar, es casi obligada la advertencia de que el texto que sigue podr\u00eda revelar aspectos esenciales de la trama. En la ficci\u00f3n, el Gobierno espa\u00f1ol convoca un... Read More Read More\" \/>\n<meta property=\"og:url\" content=\"https:\/\/enjusticia.es\/?p=1221\" \/>\n<meta property=\"og:site_name\" content=\"En_Justicia\" \/>\n<meta property=\"article:published_time\" content=\"2025-01-16T08:02:39+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2025-01-16T08:02:41+00:00\" \/>\n<meta name=\"author\" content=\"Jos\u00e9 Ram\u00f3n de Blas Javaloyas\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Escrito por\" \/>\n\t<meta name=\"twitter:data1\" content=\"Jos\u00e9 Ram\u00f3n de Blas Javaloyas\" \/>\n\t<meta name=\"twitter:label2\" content=\"Tiempo de lectura\" \/>\n\t<meta name=\"twitter:data2\" content=\"7 minutos\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"WebPage\",\"@id\":\"https:\/\/enjusticia.es\/?p=1221\",\"url\":\"https:\/\/enjusticia.es\/?p=1221\",\"name\":\"DERECHO Y CINE (IV). JUSTICIA ARTIFICIAL. - En_Justicia\",\"isPartOf\":{\"@id\":\"https:\/\/enjusticia.es\/#website\"},\"datePublished\":\"2025-01-16T08:02:39+00:00\",\"dateModified\":\"2025-01-16T08:02:41+00:00\",\"author\":{\"@id\":\"https:\/\/enjusticia.es\/#\/schema\/person\/ca79a0a9808e8e70ef11699abf60ed45\"},\"breadcrumb\":{\"@id\":\"https:\/\/enjusticia.es\/?p=1221#breadcrumb\"},\"inLanguage\":\"es\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/enjusticia.es\/?p=1221\"]}]},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/enjusticia.es\/?p=1221#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Portada\",\"item\":\"https:\/\/enjusticia.es\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"DERECHO Y CINE (IV). JUSTICIA ARTIFICIAL.\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/enjusticia.es\/#website\",\"url\":\"https:\/\/enjusticia.es\/\",\"name\":\"En_Justicia\",\"description\":\"Asociaci\u00f3n Profesional de la Magistratura\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/enjusticia.es\/?s={search_term_string}\"},\"query-input\":\"required name=search_term_string\"}],\"inLanguage\":\"es\"},{\"@type\":\"Person\",\"@id\":\"https:\/\/enjusticia.es\/#\/schema\/person\/ca79a0a9808e8e70ef11699abf60ed45\",\"name\":\"Jos\u00e9 Ram\u00f3n de Blas Javaloyas\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"es\",\"@id\":\"https:\/\/enjusticia.es\/#\/schema\/person\/image\/\",\"url\":\"https:\/\/secure.gravatar.com\/avatar\/214f1a0b4dbfc8d20c21e57d86c3f5493a177335917e7aba54fe4f3614ca05db?s=96&d=mm&r=g\",\"contentUrl\":\"https:\/\/secure.gravatar.com\/avatar\/214f1a0b4dbfc8d20c21e57d86c3f5493a177335917e7aba54fe4f3614ca05db?s=96&d=mm&r=g\",\"caption\":\"Jos\u00e9 Ram\u00f3n de Blas Javaloyas\"},\"url\":\"https:\/\/enjusticia.es\/?author=21\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"DERECHO Y CINE (IV). JUSTICIA ARTIFICIAL. - En_Justicia","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/enjusticia.es\/?p=1221","og_locale":"es_ES","og_type":"article","og_title":"DERECHO Y CINE (IV). JUSTICIA ARTIFICIAL. - En_Justicia","og_description":"\u00abI\u2019m sorry Dave, I\u2019m afraid I can\u2019t do that\u00bb. (HAL 9000; en 2001: Una odisea en el espacio, Kubrick, 1968). Con el prop\u00f3sito de comenzar el a\u00f1o ligero, sirva como excusa para volver a reflexionar -tambi\u00e9n ligeramente- sobre Inteligencia Artificial (IA, en adelante), la pel\u00edcula titulada \u201cJusticia artificial\u201d (Sim\u00f3n Casal, 2024). Antes de continuar, es casi obligada la advertencia de que el texto que sigue podr\u00eda revelar aspectos esenciales de la trama. En la ficci\u00f3n, el Gobierno espa\u00f1ol convoca un... Read More Read More","og_url":"https:\/\/enjusticia.es\/?p=1221","og_site_name":"En_Justicia","article_published_time":"2025-01-16T08:02:39+00:00","article_modified_time":"2025-01-16T08:02:41+00:00","author":"Jos\u00e9 Ram\u00f3n de Blas Javaloyas","twitter_card":"summary_large_image","twitter_misc":{"Escrito por":"Jos\u00e9 Ram\u00f3n de Blas Javaloyas","Tiempo de lectura":"7 minutos"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/enjusticia.es\/?p=1221","url":"https:\/\/enjusticia.es\/?p=1221","name":"DERECHO Y CINE (IV). JUSTICIA ARTIFICIAL. - En_Justicia","isPartOf":{"@id":"https:\/\/enjusticia.es\/#website"},"datePublished":"2025-01-16T08:02:39+00:00","dateModified":"2025-01-16T08:02:41+00:00","author":{"@id":"https:\/\/enjusticia.es\/#\/schema\/person\/ca79a0a9808e8e70ef11699abf60ed45"},"breadcrumb":{"@id":"https:\/\/enjusticia.es\/?p=1221#breadcrumb"},"inLanguage":"es","potentialAction":[{"@type":"ReadAction","target":["https:\/\/enjusticia.es\/?p=1221"]}]},{"@type":"BreadcrumbList","@id":"https:\/\/enjusticia.es\/?p=1221#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Portada","item":"https:\/\/enjusticia.es\/"},{"@type":"ListItem","position":2,"name":"DERECHO Y CINE (IV). JUSTICIA ARTIFICIAL."}]},{"@type":"WebSite","@id":"https:\/\/enjusticia.es\/#website","url":"https:\/\/enjusticia.es\/","name":"En_Justicia","description":"Asociaci\u00f3n Profesional de la Magistratura","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/enjusticia.es\/?s={search_term_string}"},"query-input":"required name=search_term_string"}],"inLanguage":"es"},{"@type":"Person","@id":"https:\/\/enjusticia.es\/#\/schema\/person\/ca79a0a9808e8e70ef11699abf60ed45","name":"Jos\u00e9 Ram\u00f3n de Blas Javaloyas","image":{"@type":"ImageObject","inLanguage":"es","@id":"https:\/\/enjusticia.es\/#\/schema\/person\/image\/","url":"https:\/\/secure.gravatar.com\/avatar\/214f1a0b4dbfc8d20c21e57d86c3f5493a177335917e7aba54fe4f3614ca05db?s=96&d=mm&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/214f1a0b4dbfc8d20c21e57d86c3f5493a177335917e7aba54fe4f3614ca05db?s=96&d=mm&r=g","caption":"Jos\u00e9 Ram\u00f3n de Blas Javaloyas"},"url":"https:\/\/enjusticia.es\/?author=21"}]}},"jetpack_featured_media_url":"","_links":{"self":[{"href":"https:\/\/enjusticia.es\/index.php?rest_route=\/wp\/v2\/posts\/1221","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enjusticia.es\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enjusticia.es\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enjusticia.es\/index.php?rest_route=\/wp\/v2\/users\/21"}],"replies":[{"embeddable":true,"href":"https:\/\/enjusticia.es\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=1221"}],"version-history":[{"count":1,"href":"https:\/\/enjusticia.es\/index.php?rest_route=\/wp\/v2\/posts\/1221\/revisions"}],"predecessor-version":[{"id":1222,"href":"https:\/\/enjusticia.es\/index.php?rest_route=\/wp\/v2\/posts\/1221\/revisions\/1222"}],"wp:attachment":[{"href":"https:\/\/enjusticia.es\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=1221"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enjusticia.es\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=1221"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enjusticia.es\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=1221"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}