Hay algo tentador en que otros hagan por nosotros aquello que nos exige esfuerzo. Pensar, ordenar una idea, buscar una respuesta o enfrentarnos a un problema complejo requiere tiempo y concentraci\u00f3n. Si existe una herramienta capaz de hacerlo en unos segundos, es l\u00f3gico que queramos utilizarla. El problema empieza cuando esa comodidad deja de servirnos para trabajar mejor y empieza, poco a poco, a sustituir el esfuerzo que nos permit\u00eda aprender, razonar y construir nuestro propio criterio. Cuando una tarea exige esfuerzo, concentraci\u00f3n o tiempo, buscamos una forma de hacerla m\u00e1s sencilla. Inventamos herramientas, procedimientos y m\u00e1quinas para ahorrarnos trabajo y, en general, eso ha sido una magn\u00edfica noticia. La calculadora nos evit\u00f3 tener que hacer determinadas operaciones de memoria, los buscadores nos permitieron dejar de almacenar cantidades ingentes de informaci\u00f3n, el GPS consigui\u00f3 que ya no necesit\u00e1ramos aprendernos las carreteras y ahora la inteligencia artificial promete llevar esa delegaci\u00f3n un paso m\u00e1s all\u00e1: no solo puede hacer determinadas tareas por nosotros, sino que puede ayudarnos a pensar.<\/p>\n\n\n\n
Puede resumir un documento, explicar una teor\u00eda, proponer argumentos, encontrar contraargumentos, redactar un informe, comparar opciones, ordenar informaci\u00f3n y sugerir una respuesta. Puede hacerlo, adem\u00e1s, en cuesti\u00f3n de segundos y con una capacidad para procesar informaci\u00f3n que ning\u00fan ser humano puede igualar. Es extraordinariamente \u00fatil. Y precisamente por eso deber\u00edamos preocuparnos un poco. Porque quiz\u00e1 el problema de la inteligencia artificial no sea que alg\u00fan d\u00eda piense demasiado bien, sino que nosotros terminemos acostumbr\u00e1ndonos a pensar demasiado poco.<\/p>\n\n\n\n
La idea que me interesa plantear es sencilla: pensar tambi\u00e9n se entrena<\/strong>.<\/strong> Comprender un texto dif\u00edcil exige esfuerzo. Escribir implica ordenar las ideas. Resolver un problema nos obliga a enfrentarnos a nuestra propia ignorancia. Intentar defender una posici\u00f3n y despu\u00e9s buscar argumentos en contra nos ayuda a detectar nuestros errores. Incluso equivocarse tiene una funci\u00f3n. Cuando intentamos recordar algo y no lo conseguimos inmediatamente, cuando tratamos de explicar una cuesti\u00f3n y descubrimos que en realidad no la comprendemos tan bien como pens\u00e1bamos, cuando escribimos un p\u00e1rrafo y despu\u00e9s lo eliminamos porque no termina de funcionar, estamos haciendo algo m\u00e1s que perder el tiempo. Estamos aprendiendo.<\/p>\n\n\n\n El problema aparece cuando empezamos a considerar ese esfuerzo como un acto ineficaz que debe ser eliminado. Si una inteligencia artificial puede resumirnos un libro en treinta segundos, \u00bfpara qu\u00e9 leerlo? Si puede redactarnos un informe en dos minutos, \u00bfpara qu\u00e9 sentarnos a escribir? Si puede ofrecernos diez argumentos sobre una cuesti\u00f3n, \u00bfpara qu\u00e9 dedicar una tarde a construirlos nosotros mismos? Si puede explicarnos una sentencia, \u00bfpara qu\u00e9 enfrentarnos directamente al texto? La respuesta evidente es que no siempre necesitamos hacerlo. Ser\u00eda absurdo defender que debemos renunciar a las herramientas que precisamente hemos creado para hacernos la vida m\u00e1s f\u00e1cil. Pero existe una diferencia que quiz\u00e1 sea mucho m\u00e1s importante de lo que parece: una cosa es delegar una tarea y otra muy distinta es delegar el proceso intelectual que nos hac\u00eda capaces de realizarla<\/strong>.<\/strong><\/p>\n\n\n\n La cuesti\u00f3n no es nueva. Cada avance tecnol\u00f3gico ha trasladado determinadas capacidades desde las personas hacia las herramientas. El GPS es un ejemplo sencillo: nos permite llegar a cualquier lugar sin conocer el camino y eso es magn\u00edfico, pero tambi\u00e9n significa que podemos recorrer una ciudad durante a\u00f1os sin desarrollar una representaci\u00f3n mental especialmente buena de ella. No es ninguna tragedia, por supuesto, pero demuestra algo importante: cuando dejamos de utilizar una capacidad, esa capacidad deja de ejercitarse. Con la inteligencia artificial ocurre algo parecido, aunque a una escala mucho mayor, porque ya no estamos hablando \u00fanicamente de memoria espacial o de c\u00e1lculo. Estamos hablando de capacidades intelectuales que consideramos esenciales: escribir, sintetizar, argumentar, distinguir lo relevante de lo accesorio, formular hip\u00f3tesis, cuestionar una respuesta, establecer conexiones y tomar decisiones.<\/p>\n\n\n\n Y aqu\u00ed aparece una paradoja especialmente interesante. Cuanto mejor funciona la herramienta, mayor es la tentaci\u00f3n de utilizarla como sustituto. Una inteligencia artificial que produce un texto mediocre nos obliga a intervenir, corregir y pensar. Una que produce un texto excelente puede conseguir que dejemos de hacerlo. Una respuesta mal construida despierta nuestras sospechas; una respuesta perfectamente redactada y llena de argumentos puede provocar justamente lo contrario: la sensaci\u00f3n de que ya no hay nada m\u00e1s que hacer.<\/p>\n\n\n\n Pero una respuesta convincente no es necesariamente una respuesta correcta. Y una respuesta correcta tampoco significa necesariamente que nosotros hayamos aprendido algo al obtenerla. Un estudiante que copia una respuesta correcta no ha aprendido necesariamente aquello que la respuesta contiene. Un profesional que recibe un an\u00e1lisis impecable de una inteligencia artificial no necesariamente ha desarrollado el razonamiento que conduce hasta \u00e9l. Y una persona que utiliza permanentemente una herramienta para decidir qu\u00e9 pensar puede acabar teniendo respuestas para muchas cosas sin haber desarrollado suficientemente su propio criterio. Quiz\u00e1 por eso deber\u00edamos empezar a hablar no solo de inteligencia artificial, sino tambi\u00e9n de dependencia intelectual<\/strong>.<\/strong> La pregunta no es solamente cu\u00e1nto puede hacer la IA. La pregunta es: \u00bfcu\u00e1nto estamos dejando de hacer nosotros porque puede hacerlo ella?<\/strong><\/p>\n\n\n\n En el mundo jur\u00eddico esta cuesti\u00f3n adquiere una dimensi\u00f3n especial. Porque quienes trabajamos con el Derecho sabemos que nuestra actividad no consiste simplemente en encontrar una respuesta. Una decisi\u00f3n judicial no es una b\u00fasqueda en una base de datos ni una operaci\u00f3n matem\u00e1tica cuyo resultado pueda separarse del proceso que conduce hasta \u00e9l. Hay hechos que deben ser comprendidos, argumentos que deben ser contrastados, normas que deben ser interpretadas y pruebas que deben ser valoradas. Hay que decidir qu\u00e9 es relevante y qu\u00e9 no lo es, qu\u00e9 argumentos resultan convincentes y cu\u00e1les deben ser rechazados cuando existen posiciones enfrentadas. Y hay algo m\u00e1s que quiz\u00e1 sea todav\u00eda m\u00e1s importante: hay que hacerse responsable de la decisi\u00f3n<\/strong>.<\/strong><\/p>\n\n\n\n La inteligencia artificial puede ser extraordinariamente \u00fatil en ese proceso. Puede ayudarnos a localizar informaci\u00f3n, detectar cuestiones que quiz\u00e1 no hab\u00edamos considerado, resumir documentaci\u00f3n extensa, comparar argumentos, identificar contradicciones o mejorar la claridad de un texto. Puede permitirnos ahorrar horas de trabajo mec\u00e1nico y dedicar m\u00e1s tiempo a aquello que realmente importa. Pero precisamente por eso deber\u00edamos establecer una frontera clara: la IA puede asistir al razonamiento jur\u00eddico; no deber\u00eda sustituirlo<\/strong>.<\/strong><\/p>\n\n\n\n Hay una diferencia fundamental entre preguntarle a una herramienta qu\u00e9 cuestiones deber\u00edamos tener en cuenta para analizar un determinado problema y pedirle que analice el problema y nos diga cu\u00e1l es la soluci\u00f3n. En el primer caso estamos utilizando la IA como un instrumento para ampliar nuestro campo de visi\u00f3n; en el segundo corremos el riesgo de convertirla en el sujeto que realiza una parte esencial de nuestro trabajo intelectual. Y cuanto m\u00e1s convincente sea su respuesta, m\u00e1s dif\u00edcil puede resultar detectar d\u00f3nde hemos dejado de pensar nosotros.<\/p>\n\n\n\n Pero quiz\u00e1 la forma m\u00e1s peligrosa de delegaci\u00f3n sea precisamente la que apenas percibimos. No consiste en aceptar sin m\u00e1s lo que dice la inteligencia artificial. Consiste en dejar que la IA piense primero y nosotros despu\u00e9s<\/strong>. Parece una diferencia peque\u00f1a, pero no lo es. Imaginemos que tenemos que resolver una cuesti\u00f3n compleja. Antes de utilizar ninguna herramienta nos vemos obligados a identificar el problema, formular una hip\u00f3tesis y construir una primera respuesta. Despu\u00e9s utilizamos la IA para contrastarla, buscar puntos ciegos o plantearnos argumentos que no hab\u00edamos considerado. En ese caso tenemos un criterio propio con el que comparar la respuesta de la m\u00e1quina.<\/p>\n\n\n\n Ahora imaginemos lo contrario. Introducimos el problema, recibimos un an\u00e1lisis de dos p\u00e1ginas y, a partir de ah\u00ed, empezamos a trabajar sobre \u00e9l. Es posible que el an\u00e1lisis sea correcto. Pero tambi\u00e9n es posible que hayamos aceptado, sin darnos cuenta, el marco mental que la herramienta ha elegido para nosotros<\/strong>.<\/strong> Y quiz\u00e1 esa sea una de las formas m\u00e1s profundas de dependencia: no que la m\u00e1quina nos d\u00e9 la respuesta, sino que nos determine la respuesta al problema que le planteamos.<\/p>\n\n\n\n Esto resulta especialmente delicado en el \u00e1mbito judicial. Porque la motivaci\u00f3n de una resoluci\u00f3n no es un ejercicio puramente formal. La motivaci\u00f3n expresa un proceso intelectual y jur\u00eddico mediante el cual quien decide explica por qu\u00e9, a partir de unos hechos, unas pruebas y unas normas, llega a una determinada conclusi\u00f3n y no a otra. Y ah\u00ed est\u00e1 precisamente la cuesti\u00f3n: no basta con que el resultado tenga apariencia de razonamiento; es necesario que detr\u00e1s exista realmente un proceso de an\u00e1lisis, valoraci\u00f3n y decisi\u00f3n.<\/p>\n\n\n\n Y hay otra cuesti\u00f3n que tampoco deber\u00edamos ignorar: la inteligencia artificial puede equivocarse, pero puede hacerlo de una manera extraordinariamente convincente. Puede interpretar mal un hecho, utilizar de forma inadecuada una norma, confundir conceptos o proporcionar una referencia que despu\u00e9s resulte necesario verificar. El problema no es simplemente que pueda cometer errores. Los seres humanos tambi\u00e9n los cometemos constantemente. El verdadero problema es que puede presentarlos con una seguridad y una fluidez que hacen que bajemos la guardia. Por eso el llamado sesgo de automatizaci\u00f3n<\/strong> adquiere tanta importancia. Tendemos a confiar en los sistemas autom\u00e1ticos, especialmente cuando percibimos que son sofisticados o cuando habitualmente funcionan bien. Si una herramienta nos ha proporcionado cien respuestas correctas, podemos empezar a comprobar con menos atenci\u00f3n la n\u00famero ciento uno. Y precisamente ah\u00ed puede aparecer el problema. No se trata, sin embargo, de volver atr\u00e1s ni de construir una especie de nostalgia por un mundo anterior a la inteligencia artificial. No tiene sentido. La cuesti\u00f3n no es elegir entre tecnolog\u00eda y pensamiento humano, sino decidir qu\u00e9 queremos que la tecnolog\u00eda haga por nosotros y qu\u00e9 capacidades queremos seguir ejercitando nosotros mismos<\/strong>.<\/strong><\/p>\n\n\n\n Quiz\u00e1 tengamos que aceptar una idea que parece contradictoria: aprender a utilizar bien la inteligencia artificial implica tambi\u00e9n aprender cu\u00e1ndo no utilizarla. Puede ser \u00fatil enfrentarnos primero a un problema y utilizar despu\u00e9s la IA para buscar puntos ciegos. Puede ser conveniente redactar primero nuestras propias conclusiones y pedir posteriormente a la herramienta que intente destruirlas. Puede ser m\u00e1s formativo leer primero una sentencia y pedir despu\u00e9s un resumen, en lugar de leer \u00fanicamente el resumen. Puede ser mucho m\u00e1s interesante utilizar la IA como un interlocutor cr\u00edtico que como un redactor fantasma.<\/p>\n\n\n\n Porque, en definitiva, la mejor utilizaci\u00f3n de la inteligencia artificial no ser\u00e1 necesariamente aquella que nos permita hacer menos, sino aquella que nos permita pensar mejor<\/strong>.<\/strong> Y esta cuesti\u00f3n deber\u00eda preocuparnos especialmente en una profesi\u00f3n como la judicial. La inteligencia artificial puede hacernos m\u00e1s r\u00e1pidos, puede hacernos m\u00e1s eficientes. Pero solo si seguimos siendo nosotros quienes decidimos qu\u00e9 hacer con aquello que nos ofrece. Una herramienta que nos ayuda a encontrar un argumento que no hab\u00edamos visto puede ampliar nuestro razonamiento. Una herramienta que nos obliga a considerar una posici\u00f3n contraria puede mejorar nuestra decisi\u00f3n. Una herramienta que nos permite dedicar menos tiempo a tareas repetitivas puede devolvernos tiempo para estudiar, reflexionar y decidir. Pero una herramienta que empieza a realizar por nosotros el esfuerzo intelectual que constituye precisamente el n\u00facleo de nuestra profesi\u00f3n puede producir el efecto contrario.<\/p>\n\n\n\n Por eso quiz\u00e1 deber\u00edamos formularnos una pregunta distinta cuando hablamos de inteligencia artificial. No solamente: \u201c\u00bfPuede hacerlo la IA?\u201d<\/strong>.<\/strong> Esa respuesta, cada d\u00eda m\u00e1s, ser\u00e1 afirmativa. Tampoco \u00fanicamente: \u201c\u00bfLo puede hacer mejor o m\u00e1s r\u00e1pido que yo?\u201d<\/strong>.<\/strong> En muchas ocasiones, tambi\u00e9n. La pregunta verdaderamente importante es otra: \u201c\u00bfDeber\u00eda dejar que lo hiciera por m\u00ed?\u201d<\/strong><\/p>\n\n\n\n Porque quiz\u00e1 dentro de unos a\u00f1os no recordemos qu\u00e9 herramienta utiliz\u00e1bamos para redactar un informe, buscar una sentencia o resumir un expediente. Pero s\u00ed podr\u00edamos descubrir que hemos perdido algo mucho m\u00e1s dif\u00edcil de recuperar: la costumbre de enfrentarnos personalmente a los problemas antes de pedirle a una m\u00e1quina que los resuelva.<\/p>\n\n\n\n El verdadero reto de la inteligencia artificial no consiste, por tanto, en conseguir que las m\u00e1quinas piensen como nosotros. Tampoco en impedir que las utilicemos. Consiste en encontrar el equilibrio que nos permita aprovechar una tecnolog\u00eda extraordinariamente poderosa sin convertirla, poco a poco y casi sin darnos cuenta, en una pr\u00f3tesis permanente de nuestro propio criterio. Porque el problema quiz\u00e1 no sea que la inteligencia artificial piense. El problema es que, si delegamos demasiado nuestro pensamiento, podemos terminar dejando de pensar nosotros.<\/strong><\/p>\n\n\n\n