Hay algo tentador en que otros hagan por nosotros aquello que nos exige esfuerzo. Pensar, ordenar una idea, buscar una respuesta o enfrentarnos a un problema complejo requiere tiempo y concentración. Si existe una herramienta capaz de hacerlo en unos segundos, es lógico que queramos utilizarla. El problema empieza cuando esa comodidad deja de servirnos para trabajar mejor y empieza, poco a poco, a sustituir el esfuerzo que nos permitía aprender, razonar y construir nuestro propio criterio. Cuando una tarea exige esfuerzo, concentración o tiempo, buscamos una forma de hacerla más sencilla. Inventamos herramientas, procedimientos y máquinas para ahorrarnos trabajo y, en general, eso ha sido una magnífica noticia. La calculadora nos evitó tener que hacer determinadas operaciones de memoria, los buscadores nos permitieron dejar de almacenar cantidades ingentes de información, el GPS consiguió que ya no necesitáramos aprendernos las carreteras y ahora la inteligencia artificial promete llevar esa delegación un paso más allá: no solo puede hacer determinadas tareas por nosotros, sino que puede ayudarnos a pensar.

Puede resumir un documento, explicar una teoría, proponer argumentos, encontrar contraargumentos, redactar un informe, comparar opciones, ordenar información y sugerir una respuesta. Puede hacerlo, además, en cuestión de segundos y con una capacidad para procesar información que ningún ser humano puede igualar. Es extraordinariamente útil. Y precisamente por eso deberíamos preocuparnos un poco. Porque quizá el problema de la inteligencia artificial no sea que algún día piense demasiado bien, sino que nosotros terminemos acostumbrándonos a pensar demasiado poco.

La idea que me interesa plantear es sencilla: pensar también se entrena. Comprender un texto difícil exige esfuerzo. Escribir implica ordenar las ideas. Resolver un problema nos obliga a enfrentarnos a nuestra propia ignorancia. Intentar defender una posición y después buscar argumentos en contra nos ayuda a detectar nuestros errores. Incluso equivocarse tiene una función. Cuando intentamos recordar algo y no lo conseguimos inmediatamente, cuando tratamos de explicar una cuestión y descubrimos que en realidad no la comprendemos tan bien como pensábamos, cuando escribimos un párrafo y después lo eliminamos porque no termina de funcionar, estamos haciendo algo más que perder el tiempo. Estamos aprendiendo.

El problema aparece cuando empezamos a considerar ese esfuerzo como un acto ineficaz que debe ser eliminado. Si una inteligencia artificial puede resumirnos un libro en treinta segundos, ¿para qué leerlo? Si puede redactarnos un informe en dos minutos, ¿para qué sentarnos a escribir? Si puede ofrecernos diez argumentos sobre una cuestión, ¿para qué dedicar una tarde a construirlos nosotros mismos? Si puede explicarnos una sentencia, ¿para qué enfrentarnos directamente al texto? La respuesta evidente es que no siempre necesitamos hacerlo. Sería absurdo defender que debemos renunciar a las herramientas que precisamente hemos creado para hacernos la vida más fácil. Pero existe una diferencia que quizá sea mucho más importante de lo que parece: una cosa es delegar una tarea y otra muy distinta es delegar el proceso intelectual que nos hacía capaces de realizarla.

La cuestión no es nueva. Cada avance tecnológico ha trasladado determinadas capacidades desde las personas hacia las herramientas. El GPS es un ejemplo sencillo: nos permite llegar a cualquier lugar sin conocer el camino y eso es magnífico, pero también significa que podemos recorrer una ciudad durante años sin desarrollar una representación mental especialmente buena de ella. No es ninguna tragedia, por supuesto, pero demuestra algo importante: cuando dejamos de utilizar una capacidad, esa capacidad deja de ejercitarse. Con la inteligencia artificial ocurre algo parecido, aunque a una escala mucho mayor, porque ya no estamos hablando únicamente de memoria espacial o de cálculo. Estamos hablando de capacidades intelectuales que consideramos esenciales: escribir, sintetizar, argumentar, distinguir lo relevante de lo accesorio, formular hipótesis, cuestionar una respuesta, establecer conexiones y tomar decisiones.

Y aquí aparece una paradoja especialmente interesante. Cuanto mejor funciona la herramienta, mayor es la tentación de utilizarla como sustituto. Una inteligencia artificial que produce un texto mediocre nos obliga a intervenir, corregir y pensar. Una que produce un texto excelente puede conseguir que dejemos de hacerlo. Una respuesta mal construida despierta nuestras sospechas; una respuesta perfectamente redactada y llena de argumentos puede provocar justamente lo contrario: la sensación de que ya no hay nada más que hacer.

Pero una respuesta convincente no es necesariamente una respuesta correcta. Y una respuesta correcta tampoco significa necesariamente que nosotros hayamos aprendido algo al obtenerla. Un estudiante que copia una respuesta correcta no ha aprendido necesariamente aquello que la respuesta contiene. Un profesional que recibe un análisis impecable de una inteligencia artificial no necesariamente ha desarrollado el razonamiento que conduce hasta él. Y una persona que utiliza permanentemente una herramienta para decidir qué pensar puede acabar teniendo respuestas para muchas cosas sin haber desarrollado suficientemente su propio criterio. Quizá por eso deberíamos empezar a hablar no solo de inteligencia artificial, sino también de dependencia intelectual. La pregunta no es solamente cuánto puede hacer la IA. La pregunta es: ¿cuánto estamos dejando de hacer nosotros porque puede hacerlo ella?

En el mundo jurídico esta cuestión adquiere una dimensión especial. Porque quienes trabajamos con el Derecho sabemos que nuestra actividad no consiste simplemente en encontrar una respuesta. Una decisión judicial no es una búsqueda en una base de datos ni una operación matemática cuyo resultado pueda separarse del proceso que conduce hasta él. Hay hechos que deben ser comprendidos, argumentos que deben ser contrastados, normas que deben ser interpretadas y pruebas que deben ser valoradas. Hay que decidir qué es relevante y qué no lo es, qué argumentos resultan convincentes y cuáles deben ser rechazados cuando existen posiciones enfrentadas. Y hay algo más que quizá sea todavía más importante: hay que hacerse responsable de la decisión.

La inteligencia artificial puede ser extraordinariamente útil en ese proceso. Puede ayudarnos a localizar información, detectar cuestiones que quizá no habíamos considerado, resumir documentación extensa, comparar argumentos, identificar contradicciones o mejorar la claridad de un texto. Puede permitirnos ahorrar horas de trabajo mecánico y dedicar más tiempo a aquello que realmente importa. Pero precisamente por eso deberíamos establecer una frontera clara: la IA puede asistir al razonamiento jurídico; no debería sustituirlo.

Hay una diferencia fundamental entre preguntarle a una herramienta qué cuestiones deberíamos tener en cuenta para analizar un determinado problema y pedirle que analice el problema y nos diga cuál es la solución. En el primer caso estamos utilizando la IA como un instrumento para ampliar nuestro campo de visión; en el segundo corremos el riesgo de convertirla en el sujeto que realiza una parte esencial de nuestro trabajo intelectual. Y cuanto más convincente sea su respuesta, más difícil puede resultar detectar dónde hemos dejado de pensar nosotros.

Pero quizá la forma más peligrosa de delegación sea precisamente la que apenas percibimos. No consiste en aceptar sin más lo que dice la inteligencia artificial. Consiste en dejar que la IA piense primero y nosotros después. Parece una diferencia pequeña, pero no lo es. Imaginemos que tenemos que resolver una cuestión compleja. Antes de utilizar ninguna herramienta nos vemos obligados a identificar el problema, formular una hipótesis y construir una primera respuesta. Después utilizamos la IA para contrastarla, buscar puntos ciegos o plantearnos argumentos que no habíamos considerado. En ese caso tenemos un criterio propio con el que comparar la respuesta de la máquina.

Ahora imaginemos lo contrario. Introducimos el problema, recibimos un análisis de dos páginas y, a partir de ahí, empezamos a trabajar sobre él. Es posible que el análisis sea correcto. Pero también es posible que hayamos aceptado, sin darnos cuenta, el marco mental que la herramienta ha elegido para nosotros. Y quizá esa sea una de las formas más profundas de dependencia: no que la máquina nos dé la respuesta, sino que nos determine la respuesta al problema que le planteamos.

Esto resulta especialmente delicado en el ámbito judicial. Porque la motivación de una resolución no es un ejercicio puramente formal. La motivación expresa un proceso intelectual y jurídico mediante el cual quien decide explica por qué, a partir de unos hechos, unas pruebas y unas normas, llega a una determinada conclusión y no a otra.  Y ahí está precisamente la cuestión: no basta con que el resultado tenga apariencia de razonamiento; es necesario que detrás exista realmente un proceso de análisis, valoración y decisión.

Y hay otra cuestión que tampoco deberíamos ignorar: la inteligencia artificial puede equivocarse, pero puede hacerlo de una manera extraordinariamente convincente. Puede interpretar mal un hecho, utilizar de forma inadecuada una norma, confundir conceptos o proporcionar una referencia que después resulte necesario verificar. El problema no es simplemente que pueda cometer errores. Los seres humanos también los cometemos constantemente. El verdadero problema es que puede presentarlos con una seguridad y una fluidez que hacen que bajemos la guardia. Por eso el llamado sesgo de automatización adquiere tanta importancia. Tendemos a confiar en los sistemas automáticos, especialmente cuando percibimos que son sofisticados o cuando habitualmente funcionan bien. Si una herramienta nos ha proporcionado cien respuestas correctas, podemos empezar a comprobar con menos atención la número ciento uno. Y precisamente ahí puede aparecer el problema. No se trata, sin embargo, de volver atrás ni de construir una especie de nostalgia por un mundo anterior a la inteligencia artificial. No tiene sentido. La cuestión no es elegir entre tecnología y pensamiento humano, sino decidir qué queremos que la tecnología haga por nosotros y qué capacidades queremos seguir ejercitando nosotros mismos.

Quizá tengamos que aceptar una idea que parece contradictoria: aprender a utilizar bien la inteligencia artificial implica también aprender cuándo no utilizarla. Puede ser útil enfrentarnos primero a un problema y utilizar después la IA para buscar puntos ciegos. Puede ser conveniente redactar primero nuestras propias conclusiones y pedir posteriormente a la herramienta que intente destruirlas. Puede ser más formativo leer primero una sentencia y pedir después un resumen, en lugar de leer únicamente el resumen. Puede ser mucho más interesante utilizar la IA como un interlocutor crítico que como un redactor fantasma.

Porque, en definitiva, la mejor utilización de la inteligencia artificial no será necesariamente aquella que nos permita hacer menos, sino aquella que nos permita pensar mejor. Y esta cuestión debería preocuparnos especialmente en una profesión como la judicial. La inteligencia artificial puede hacernos más rápidos, puede hacernos más eficientes. Pero solo si seguimos siendo nosotros quienes decidimos qué hacer con aquello que nos ofrece. Una herramienta que nos ayuda a encontrar un argumento que no habíamos visto puede ampliar nuestro razonamiento. Una herramienta que nos obliga a considerar una posición contraria puede mejorar nuestra decisión. Una herramienta que nos permite dedicar menos tiempo a tareas repetitivas puede devolvernos tiempo para estudiar, reflexionar y decidir. Pero una herramienta que empieza a realizar por nosotros el esfuerzo intelectual que constituye precisamente el núcleo de nuestra profesión puede producir el efecto contrario.

Por eso quizá deberíamos formularnos una pregunta distinta cuando hablamos de inteligencia artificial. No solamente: “¿Puede hacerlo la IA?”. Esa respuesta, cada día más, será afirmativa. Tampoco únicamente: “¿Lo puede hacer mejor o más rápido que yo?”. En muchas ocasiones, también. La pregunta verdaderamente importante es otra: “¿Debería dejar que lo hiciera por mí?”

Porque quizá dentro de unos años no recordemos qué herramienta utilizábamos para redactar un informe, buscar una sentencia o resumir un expediente. Pero sí podríamos descubrir que hemos perdido algo mucho más difícil de recuperar: la costumbre de enfrentarnos personalmente a los problemas antes de pedirle a una máquina que los resuelva.

El verdadero reto de la inteligencia artificial no consiste, por tanto, en conseguir que las máquinas piensen como nosotros. Tampoco en impedir que las utilicemos. Consiste en encontrar el equilibrio que nos permita aprovechar una tecnología extraordinariamente poderosa sin convertirla, poco a poco y casi sin darnos cuenta, en una prótesis permanente de nuestro propio criterio. Porque el problema quizá no sea que la inteligencia artificial piense. El problema es que, si delegamos demasiado nuestro pensamiento, podemos terminar dejando de pensar nosotros.

Javier Lapeña Azurmendi