{"id":482,"date":"2024-05-21T22:27:21","date_gmt":"2024-05-21T22:27:21","guid":{"rendered":"https:\/\/campusvirtual.net\/escritos\/?p=482"},"modified":"2024-06-20T22:28:53","modified_gmt":"2024-06-20T22:28:53","slug":"inteligencia-artificial-derechos-procesales","status":"publish","type":"post","link":"https:\/\/campusvirtual.net\/escritos\/2024\/05\/21\/inteligencia-artificial-derechos-procesales\/","title":{"rendered":"Inteligencia artificial \u00bfUna tremenda amenaza para los derechos procesales o una gran oportunidad para reafirmarlos?"},"content":{"rendered":"<p><strong>Exposici\u00f3n de Jordi Nieva-Fenoll (Universidad de Barcelona).<\/strong><\/p>\n<p><strong>En Seminario sobre Derechos Fundamentales e Inteligencia Artificial<\/strong><\/p>\n<p><a href=\"https:\/\/blogs.uned.es\/derechoyconstitucion\/seminario-sobre-derechos-fundamentales-e-inteligencia-artificial\/\" target=\"_blank\" rel=\"noopener\"><strong>UNED, Madrid, 17 de mayo 2024.<\/strong><\/a><\/p>\n<p><strong>Modera: Sonia Calaza L\u00f3pez<\/strong><\/p>\n<p style=\"text-align: center;\"><iframe loading=\"lazy\" id=\"pumukitiframe\" src=\"https:\/\/canal.uned.es\/iframe\/664b0c77a35b625a586e18d2\" width=\"560\" height=\"315\" frameborder=\"0\" allowfullscreen=\"allowfullscreen\"><\/iframe><\/p>\n<p>&nbsp;<\/p>\n<p>TRANSCRIPCI\u00d3N\u00a0 DE LA EXPOSICI\u00d3N<\/p>\n<h2>Inteligencia artificial \u00bfUna tremenda amenaza para los derechos procesales o una gran oportunidad para reafirmarlos?<\/h2>\n<h2><strong>Jordi Nieva-Fenoll<\/strong><\/h2>\n<hr \/>\n<h2>Presentaci\u00f3n<\/h2>\n<p><strong>Sonia Calaza L\u00f3pez:<\/strong><\/p>\n<p>Buenas tardes,<\/p>\n<p>Va a dar comienzo la sesi\u00f3n de la tarde y tengo el gusto de presentar a mi querido amigo Jordi Nieva-Fenoll, siempre me dice que lo pronuncio mal, pero hago lo que puedo. \u00c9l nos va a hablar de Inteligencia Artificial y lo ha titulado de forma muy sugerente, como siempre \u00e9l hace: <em>\u201cUna tremenda amenaza para los derechos procesales o una gran oportunidad para reafirmarlos<\/em>\u201d. Como no hace falta presentar a Jordi, sencillamente le doy la palabra y ahora \u00e9l nos sorprender\u00e1. Muchas gracias.<\/p>\n<h2>Introducci\u00f3n<\/h2>\n<p><strong>Jordi Nieva-Fenoll:<\/strong><\/p>\n<p>Muy bien, muchas gracias. Buenas tardes a todos y me parece que es la vez que me bajo de un tren y doy una conferencia m\u00e1s r\u00e1pido, en menos plazo, porque realmente acabo de llegar ahora mismo. En todo caso, muchas gracias por estar aqu\u00ed; muchas gracias tambi\u00e9n por invitarme. Es siempre un placer estar aqu\u00ed con nosotros y, bueno, para hablar de un tema del que, hace seis a\u00f1os, habl\u00e1bamos cuatro, pero ahora la verdad es que est\u00e1 en boca de todo el mundo: la inteligencia artificial.<\/p>\n<p>Est\u00e1 bien que haya debate, pero llega un momento en que tambi\u00e9n empiezan a repetirse demasiadas ideas, como nos van diciendo lo mismo una y otra vez, y tambi\u00e9n un poco haciendo castillos en el aire, si me permiten la expresi\u00f3n, tratando de adivinar qu\u00e9 va a ser esto.<\/p>\n<h3>La Inteligencia Artificial en la Justicia<\/h3>\n<p>\u00bfPor qu\u00e9 estoy diciendo esto? Porque ustedes se han dado cuenta de que en la justicia no utilizamos inteligencia artificial, seis a\u00f1os despu\u00e9s de estar hablando de ella.<\/p>\n<p>Es un contraste: estamos haciendo todo tipo de congresos, jornadas, conferencias, actos, cursos, etc\u00e9tera, sobre inteligencia artificial, y uno va a un juzgado y, salvo la que tenga uno en el tel\u00e9fono m\u00f3vil, no hay inteligencia artificial, o pr\u00e1cticamente no se trabaja con ella, salvo excepcionalmente en alguna prueba pericial. Me referir\u00e9 a ello ahora mismo.<\/p>\n<h3>Oportunidad o Peligro para los Derechos Procesales<\/h3>\n<p>Esto tiene que ver con lo que voy a hablar hoy, que es fundamentalmente, si esto es un peligro o es una ventaja. Es decir, si los derechos procesales que tenemos reconocidos, tanto por la Constituci\u00f3n, en parte, como m\u00e1s profundamente por la jurisprudencia del Tribunal Constitucional, est\u00e1n en peligro por la inteligencia artificial o por culpa de la inteligencia artificial, o bien a lo mejor encontramos la oportunidad de transformar la manera en que hemos entendido tradicionalmente estos derechos y, tal vez, tenemos un refuerzo que no nos esper\u00e1bamos en absoluto.<\/p>\n<p>Nos est\u00e1 pasando lo mismo en la universidad. El otro d\u00eda est\u00e1bamos en la Universidad de Barcelona, hablando de la aplicaci\u00f3n de inteligencia artificial a las t\u00e9cnicas docentes, etc\u00e9tera. Y de entrada lo que ves es miedo. Es decir, bueno, \u00bfpero esto se podr\u00e1 utilizar? Que si la inteligencia artificial generativa&#8230; Y claro, hay una incertidumbre sobre si esto va a ser bueno o va a ser malo.<\/p>\n<h3>Perspectiva General sobre la Inteligencia Artificial<\/h3>\n<p>Miren, yo voy a empezar dici\u00e9ndoles que la inteligencia artificial no es ni buena ni mala, es como cualquier otra invenci\u00f3n que se ha hecho en la historia del mundo y que siempre, en un primer momento, se ha tratado con una cierta desconfianza cuando era muy disruptiva.<\/p>\n<p>En este caso, ha sido as\u00ed. Pero antes pas\u00f3 con la imprenta, por ejemplo. Fue un cambio absolutamente radical en nuestra evoluci\u00f3n humana, y hay unos sectores que todos ustedes conocen muy bien, que se resistieron a que ciertos libros fueran publicados y empezaron a aplicar la censura. Ya no era tan f\u00e1cil como que no lo escribieran a mano, pues algunas personas, las pocas que sab\u00edan escribir, sino que de repente se pod\u00eda publicar aquello. Pero al final fue un poco como ponerle puertas al campo, porque todo el mundo sabemos en qu\u00e9 acab\u00f3 la censura de los libros. Al final hemos podido leer pr\u00e1cticamente todo lo que hemos querido.<\/p>\n<h3>La Aplicaci\u00f3n de la Inteligencia Artificial en los Procesos<\/h3>\n<p>En el proceso, pasa algo parecido. Esta especie de, digamos, alergia a aplicar la inteligencia artificial en los procesos, \u00bftiene recorrido? \u00bfVa a ir mucho m\u00e1s all\u00e1? \u00bfTiene sentido protegernos frente a la inteligencia artificial con respecto al sistema procesal? Pues bien, miren, intentar\u00e9 ser lo m\u00e1s claro posible en la exposici\u00f3n.<\/p>\n<h2>Estructura de la Exposici\u00f3n<\/h2>\n<ol>\n<li><strong>Derechos a Proteger:<\/strong> En primer lugar, les hablar\u00e9 de qu\u00e9 derechos son los que tenemos que proteger. Es decir, qu\u00e9 es lo que nos tiene que preocupar.<\/li>\n<li><strong>Influencia Positiva de la IA:<\/strong> En segundo lugar, hablar\u00e9 de c\u00f3mo puede influir la inteligencia artificial positivamente en la protecci\u00f3n de estos derechos.<\/li>\n<li><strong>Riesgos Potenciales:<\/strong> En tercer lugar, hablar\u00e9 por \u00faltimo de los riesgos, es decir, qu\u00e9 ocurrir\u00e1 si esto no se utiliza bien. Con lo cual repartir\u00e9 mi intervenci\u00f3n en estas tres partes principales.<\/li>\n<\/ol>\n<h2>Derechos a Proteger<\/h2>\n<p>En primer lugar, \u00bfqu\u00e9 es lo que queremos proteger? Pues bien, queremos proteger el sistema de derechos fundamentales aplicables al proceso. Pero, \u00bfeso qu\u00e9 es? El debido proceso, como lo llamamos, incluye una serie de principios y derechos que aseguran que el proceso judicial sea justo.<\/p>\n<p>Hay muchas formas de abordar esta cuesti\u00f3n y muchas formas de describir todo esto, pero a m\u00ed ninguna de las que he visto hasta ahora en la doctrina me parecen especialmente claras, especialmente cuando se refieren al proceso debido.<\/p>\n<p>Porque ah\u00ed tienes que hacer una traducci\u00f3n de lo que se hace en Estados Unidos, que en el fondo es de donde viene la parte m\u00e1s importante de lo que nosotros tenemos aqu\u00ed en Espa\u00f1a. Y lo de ellos viene de lo que consiguieron en el siglo XVIII, principalmente a base de pelearse entre el rey y su parlamento, lo que fue dando una serie de contenidos que actualmente forman parte de la English Constitution, aunque no est\u00e1 codificada, pero est\u00e1 ah\u00ed.<\/p>\n<p>Todo eso, adem\u00e1s, si lo conjuntas con la variedad en que est\u00e1n expuestos estos derechos a lo largo y ancho de las cartas magnas del mundo, incluyendo, por supuesto, las que tienen sesgo internacional, uno tiene una cierta dificultad para hacer una lista completa de lo que hay que poner ah\u00ed.<\/p>\n<h3>Principios Fundamentales del Proceso<\/h3>\n<p>Yo lo intentar\u00e9 exponer de una manera que sea f\u00e1cil de captar. \u00bfQu\u00e9 queremos en un proceso? B\u00e1sicamente, queremos:<\/p>\n<ol>\n<li><strong>Juez Honesto:<\/strong> Que el juez sea honesto, es decir, independiente e imparcial. Si no podemos avanzar en esto, tenemos un juez corrupto y no podemos avanzar.<\/li>\n<li><strong>Derecho de Audiencia:<\/strong> Queremos que el juez nos escuche. Esto es lo que antiguamente se llamaba derecho de audiencia. Que el juez te escuche, porque si est\u00e1s hablando de lo que t\u00fa quieres frente a una especie de columna, no tiene mucho sentido.<\/li>\n<li><strong>Acceso y Participaci\u00f3n:<\/strong> Queremos que primero te deje acceder, que puedas hacer alegaciones, practicar pruebas, enfrentarte con la parte contraria (derecho de contradicci\u00f3n), y hacer conclusiones que forman parte de esta contradicci\u00f3n.<\/li>\n<li><strong>Motivaci\u00f3n de la Sentencia:<\/strong> Queremos una motivaci\u00f3n de la sentencia para ver si el juez se ha enterado de algo.<\/li>\n<li><strong>Derecho a Apelar:<\/strong> Queremos poder recurrir las sentencias si el ordenamiento lo permite.<\/li>\n<li><strong>Ejecuci\u00f3n de la Sentencia:<\/strong> Queremos ejecutar la sentencia.<\/li>\n<\/ol>\n<p>Todo esto es defenderse. Si no tienes alguna de estas cosas, no te est\u00e1s defendiendo realmente. Todo lo que estoy diciendo podr\u00eda tener m\u00e1s contenidos y matices, pero es \u00fanicamente a los efectos de transmitirles lo que les voy a decir a continuaci\u00f3n.<\/p>\n<p>Por \u00faltimo, para que sea eficaz esto que hemos hecho de acudir a un juez honesto y que nos escuche, tambi\u00e9n queremos que lo que diga el juez se quede ah\u00ed, por tanto, tenemos que tener un derecho a la cosa juzgada.<\/p>\n<p>Podr\u00eda no ser as\u00ed; hay culturas que no han tenido cosa juzgada. Parece que la antigua cultura egipcia no ten\u00eda cosa juzgada, mientras que la cultura mesopot\u00e1mica casi que la ten\u00eda. Eso depende de las culturas del mundo. Algunas est\u00e1n m\u00e1s interesadas en alcanzar la verdad a toda costa, es decir, discutir esto una y otra vez hasta que realmente estemos seguros de lo que queremos hacer, o sea, lo que es correcto.<\/p>\n<p>Lo que hemos hecho y otras veces decidimos: \u00abOye, no, ya est\u00e1, tuviste la oportunidad, d\u00e9jalo ah\u00ed por favor, o sea, no molestes m\u00e1s. Tuviste tu oportunidad de hacer el conflicto. Por tanto, no repitas tu demanda.\u00bb<\/p>\n<p>Bien, estas ser\u00edan las tres columnas principales de lo que ser\u00edan los derechos fundamentales en el proceso.<\/p>\n<p>\u00bfInteligencia artificial? \u00bfC\u00f3mo podemos hacer para proteger estos derechos? Pues bien, empecemos por el principio.<\/p>\n<h2>Derecho al Juez Independiente e Imparcial<\/h2>\n<p>Imag\u00ednese, por favor, conmigo que vamos a proceder a una sustituci\u00f3n completa del juez, es decir, que vamos a tener un ingenio de Inteligencia Artificial, una aplicaci\u00f3n de inteligencia artificial que gracias a la llamada inteligencia artificial generativa va a conseguir darnos respuesta a lo que nosotros le hemos planteado. Imag\u00ednenselo. De esta forma, con m\u00e1s o menos complejidad.<\/p>\n<p>L\u00f3gicamente, no va a ser lo mismo un procedimiento ordinario de 25.000 euros, con una cierta complejidad, que una demanda de desahucio. Claro, la segunda es pr\u00e1cticamente autom\u00e1tica, con lo cual ah\u00ed ya m\u00e1s que de Inteligencia Artificial hablamos de automatizaci\u00f3n, que es otra cosa, de acuerdo. Pero con la demanda que es m\u00e1s complicada, \u00bfpodremos hacer algo? Vamos a verlo, vamos a verlo.<\/p>\n<p>Derecho al juez independiente e imparcial, claro, \u00bfpor qu\u00e9 queremos a un juez independiente e imparcial? Porque queremos que sea honesto, lo he dicho antes, que no est\u00e9 influido, que no sienta emociones como consecuencia de influencias externas, que pueden venir de otras instituciones del Estado, de poderes econ\u00f3micos, de su familia, de sus amigos, de sus propias convicciones, que quiere aplicar en la sentencia al margen del ordenamiento jur\u00eddico. Ven por d\u00f3nde voy, \u00bfno?<\/p>\n<p>Claro, esto es muy humano, \u00bfno? No lo ven claro?. Una m\u00e1quina, \u00bfhar\u00eda falta que fuera independiente e imparcial, teniendo en cuenta que no es humana y, por tanto, no va a sufrir esas emociones como consecuencia de esas influencias que se pueden producir? De las que me ha llamado no s\u00e9 qui\u00e9n y claro, que m\u00edrate con cari\u00f1o esta sentencia, ese tipo de cosas. Claro, a una m\u00e1quina no puedes hacer eso, \u00bfno? Con lo cual, \u00bfhar\u00eda falta proteger el derecho a la independencia y la imparcialidad si es una m\u00e1quina que est\u00e1 realizando la sentencia? Pues claro, de entrada, la respuesta ser\u00eda claramente no, rotundamente no. Pero cuidado.<\/p>\n<h3>Algoritmos y Programadores<\/h3>\n<p>Porque no piensen que la m\u00e1quina dicta sentencias en absoluto. La inteligencia artificial funciona gracias a unos algoritmos que en realidad mueven una tremendamente grande base de datos y los combinan de una forma que alguien ha programado. Imag\u00ednense a alguien moviendo los hilos, por favor, de acuerdo. Claro, es ese alguien el que nos interesa, y claro, \u00bfese alguien es independiente e imparcial?<\/p>\n<p>Hombre, desde luego un juez no es. Desde luego un juez no es. Qui\u00e9n es? Es una empresa, una empresa que es capaz de trabajar con esta tecnolog\u00eda, habitualmente una empresa privada. \u00bfUstedes creen que una empresa privada es independiente e imparcial? Naturalmente no, ni siquiera lo quiere ser, por mucho que quiera dar una imagen corporativa de serlo, pero no. Y por tanto, a partir de ah\u00ed, la tentaci\u00f3n de que el CEO de esa empresa quiera aplicar su ideolog\u00eda a los pronunciamientos judiciales que va a producir su herramienta, pues hombre, esa tentaci\u00f3n es enorme. En manos de algunos de los gobernantes que han pasado a lo largo de nuestra historia, pues hubiera sido una maravilla.<\/p>\n<p>Una de las obsesiones de Hitler, por ejemplo, era controlar la justicia. Imag\u00ednense si llega a tener esto. Ya no le hubiera hecho falta decirles que los jueces tienen que seguir libremente, por supuesto, el sano esp\u00edritu del F\u00fchrer. Ya est\u00e1, \u00e9l mismo, o su gente, hace esa herramienta y, por tanto, no hay ning\u00fan problema. Con lo cual, me imagino que estar\u00e1n percibiendo que esto realmente es un peligro.<\/p>\n<p>Es un peligro, pero, ojo, tambi\u00e9n es una oportunidad.<\/p>\n<h3>Confianza en el Juez<\/h3>\n<p>Porque, aunque no somos muy conscientes de ello, ahora mismo aplicamos una tremenda dosis de confianza que yo casi llamar\u00eda fe, con todos los respetos, por la figura del juez. Pero en el sentido de que creemos que va a ser alguien que no solamente va a aplicar las leyes, -ustedes saben que las leyes son interpretables, lo sabemos todos los juristas-, sino que no se va a dejar llevar por sus impulsos personales a la hora de aplicarlas. No se va a dejar llevar por sus impulsos personales al aplicar exactamente lo que ha dicho el legislador.<\/p>\n<p>Me encantar\u00eda ver alguna vez en alguna sentencia alusiones a los debates parlamentarios que han llevado a una ley, porque esa es justamente la <em>mens legislatoris<\/em>, y de eso se suele hacer poco caso, por cierto. Pero bueno, ah\u00ed el juez tiene que intentar aplicar la ley, aislarse de su propia ideolog\u00eda, pero todos sabemos que los seres humanos tenemos emociones, lo he dicho antes, y claro.<\/p>\n<p>Cuando est\u00e1s ante alguno de aquellos casos que te toca la fibra, la tentaci\u00f3n de \u00abeste es mi momento\u00bb, claro, es enorme. No seamos ingenuos. Un juez no es un ser de luz, (perd\u00f3n si hay alg\u00fan juez en la sala). Un juez es un ser humano exactamente igual que todos los dem\u00e1s, y como ser humano, esa tentaci\u00f3n, naturalmente, la va a tener. \u00bfY por qu\u00e9 es importante? Porque no s\u00e9 si ustedes se han dado cuenta de que justamente esa parte de emotividad en el juez es, junto con lo que hemos recopilado como derecho positivo en el ordenamiento jur\u00eddico, nuestra idea de lo que es justo, es decir, la justicia.<\/p>\n<p>Claro, \u00bfqu\u00e9 es lo que estamos haciendo? Estamos convirtiendo al juez en una especie de or\u00e1culo, al cual le confiamos que su interpretaci\u00f3n va a estar de acuerdo con nuestra idea social extendida en un momento de lo que est\u00e1 bien y lo que est\u00e1 mal, que al final es la idea de justicia. Confiamos en \u00e9l porque es un ser humano como los otros.<\/p>\n<p>Pero, claro, esto es peligroso, naturalmente. Confiamos en m\u00e1s cosas. Por ejemplo, tambi\u00e9n confiamos en que los jueces miran a la cara de la gente y saben si mienten o no. Esto es extraordinario; por supuesto que no lo saben. Adem\u00e1s, en los \u00faltimos tiempos lo ha dicho muy bien y con bastantes datos cient\u00edficos la psicolog\u00eda del testimonio.<\/p>\n<p>Pero lo sorprendente es que esto lo dijo Franz von Litz en 1902, cuando public\u00f3 un art\u00edculo en el <em>Zeitschrift f\u00fcr die gesamte Strafrechtswissenschaft<\/em>, en el cual dijo qu\u00e9 ocurrir\u00eda si la base principal de nuestro sistema de justicia penal, que es la prueba testifical, de repente descubri\u00e9ramos que es una base cient\u00edfica falsa. Bueno, pues claro, lo que ocurrir\u00eda es que habr\u00eda que cambiar cosas. Nadie le escuch\u00f3 ni le hizo caso, pero eso est\u00e1 ah\u00ed y est\u00e1 dicho nada menos que por Franz von Litz; no era un cualquiera.<\/p>\n<p>Como ven, tenemos una dosis fuerte de fe en los jueces. Claro, si aplicamos la inteligencia artificial, podr\u00edamos restringir este margen de fe, que al final nos centra en situaciones peligrosas. No digo complicadas, digo peligrosas. Porque claro, puede ser que el juez te guste o que coincidas con su ideolog\u00eda, pero como no coincidas, escuchar\u00e1n a los partidos pol\u00edticos quejarse cuando hay alg\u00fan fallo que no les guste. Claro, ese margen est\u00e1 ah\u00ed y la inteligencia artificial lo podr\u00eda anular. Les voy a decir c\u00f3mo.<\/p>\n<p>La inteligencia artificial, en primer lugar, podr\u00eda tener entre sus datos todas las interpretaciones posibles de una ley de acuerdo con la voluntad del legislador. Eso podr\u00eda hacerlo y de hecho ser\u00eda mucho m\u00e1s eficaz que un juez, porque tiene mucha m\u00e1s memoria que cualquiera de nosotros, incluso juntos. La memoria es enorme.<\/p>\n<p>Claro, pero falta eso que dec\u00eda usted del sentido emocional social, eso que percibimos como el factor humano de la justicia y tal. No, esto es muy sencillo. Vamos a ver. La sociedad tiene su sentido de lo que es justo y lo que no, y va cambiando a lo largo del tiempo. Incluso cambia en las instituciones que se tienen como m\u00e1s inmovilistas. Ustedes miren los escritos teol\u00f3gicos de cualquier religi\u00f3n de hace 500 a\u00f1os y de ahora y ver\u00e1n c\u00f3mo han cambiado, se adaptan a los tiempos, naturalmente.<\/p>\n<p>Claro, podr\u00eda ser que la inteligencia artificial captara la com\u00fan opini\u00f3n extendida en una sociedad y a partir de ah\u00ed dijera: \u00abMira, lo que espera la sociedad es esto, y c\u00f3mo esperar esto.\u00bb En la medida en que encuentras una interpretaci\u00f3n de la ley adecuada a \u201cesto que espera la sociedad\u201d, apl\u00edcalo<\/p>\n<p>Podr\u00eda hacerlo, s\u00ed. E incluso es f\u00e1cil. Tenemos redes sociales. Tenemos, en definitiva, un mont\u00f3n de foros en los cuales se plantean opiniones y lo \u00fanico que habr\u00eda que hacer es intentar optimizar la toma de la muestra estad\u00edstica para saber si las opiniones all\u00ed reflejadas son efectivamente las que defiende la comunidad en general o no.<\/p>\n<h3>Peligros y Oportunidades<\/h3>\n<p>Es peligroso, por supuesto. Porque yo, como CEO de esa empresa, evidentemente, me puedo dedicar a seleccionar lo que me gusta y lo que no. Es m\u00e1s, si adem\u00e1s de ser el responsable de esta herramienta que se aplica en la justicia, resulta que poseo alguna red social -\u00bfles suena el nombre de Elon Musk?-. Bueno, \u00bfpor qu\u00e9 no condiciono yo las opiniones que se expresan en esa red social para al mismo tiempo generar opini\u00f3n y, por supuesto, recoger la que me interesa? Claro, peligroso es, naturalmente que es peligroso.<\/p>\n<p>Pero imag\u00ednense que conseguimos hacerlo bien. A a partir de ah\u00ed ese factor de imprevisibilidad del juicio de los jueces, pues deja de existir. Se hace previsible y, es m\u00e1s, se hace explicable.<\/p>\n<p>Marcial Pons \u00a0va a publicar un libro llamado \u201c<em>El \u00a0juez emotivo\u201d<\/em>, una traducci\u00f3n de un libro en italiano (de Forza, Menegon y Rumiati), en el cual nos habla de c\u00f3mo los jueces deciden diferente antes o despu\u00e9s de comer, o en funci\u00f3n de si hace m\u00e1s fr\u00edo o menos fr\u00edo, por decir solamente dos caracter\u00edsticas o dos circunstancias.<\/p>\n<p>Una m\u00e1quina trabaja 24 horas seguidas, no duerme, no descansa y, adem\u00e1s, es inmune al fr\u00edo y al calor. Tampoco se alimenta m\u00e1s all\u00e1 de la electricidad, pero no le produce apetito, no es exactamente lo mismo. Por tanto, estamos en otro escenario.<\/p>\n<p>Podr\u00edamos hacerlo, s\u00ed, pero tiene sus riesgos. Les hablar\u00e9 en la tercera parte de esos riesgos, no se preocupen. Pero insisto, la posibilidad existe.<\/p>\n<h2>Derecho de Defensa<\/h2>\n<p>Queremos acceder, que nos dejen hacer alegaciones, pruebas, conclusiones, etc\u00e9tera. S\u00ed, pero f\u00edjense que el derecho de defensa, -aunque de esto se ha hablado poco-, en realidad est\u00e1 configurado en nuestras normativas, sobre todo para captar la atenci\u00f3n del juez, -para optimizar sus recursos atencionales, si lo queremos, en una forma m\u00e1s cursi- para captar la atenci\u00f3n del juez, para que nos escuche realmente.<\/p>\n<p>Una m\u00e1quina tiene toda la atenci\u00f3n del mundo; no pierde atenci\u00f3n. Con lo cual, ya no va a hacer falta que hagamos un escrito de alegaciones ret\u00f3ricamente adecuado para poder persuadir a un juez y crearle un marco mental en el cual sienta empat\u00eda por nuestra posici\u00f3n. Ya no. Con lo cual, toda esa labor argumentativa podr\u00e1 ser exactamente igual, naturalmente, pero dando datos concretos, no acudiendo a la emotividad de sus se\u00f1or\u00edas. Es diferente, es decir, cambia la forma de hacerlo.<\/p>\n<p>Es m\u00e1s. Eso naturalmente puede hacer que cambie no solamente el estilo de las alegaciones, sino la extensi\u00f3n de las alegaciones en el sentido de que, por supuesto, ser\u00e1n much\u00edsimo m\u00e1s breves que ahora;\u00a0 una m\u00e1quina no hace falta que le des ah\u00ed. Pero cuidado, que la respuesta del juez, claro, como ya no va a ser persuasiva porque no intenta convencerte de nada, sino que est\u00e1 hecha de acuerdo con una serie de par\u00e1metros dise\u00f1ados por esa herramienta, va a ser una motivaci\u00f3n muy sucinta.<\/p>\n<p>Y si quieres saber realmente por qu\u00e9 la m\u00e1quina decidi\u00f3 de esa forma, tendr\u00e1s que mirar el algoritmo, tendr\u00e1s que mirar el funcionamiento de la herramienta y, a partir de ah\u00ed, ver\u00e1s si hay fallos o no hay fallos en esa herramienta. Esos fallos que obsesionan a Daniel Kahneman, en su \u00faltimo libro, <em>Ruido<\/em>, y que detectaba en los jueces humanos, pero que por supuesto tambi\u00e9n se pueden, te\u00f3ricamente concebible, en una herramienta de inteligencia artificial que haga exactamente la misma labor que un juez. Con lo cual, eso cambia, pero cambia ambas cosas.<\/p>\n<p>Podremos recurrir una sentencia que dicta la inteligencia artificial porque, oye, si es perfecta, \u00bfc\u00f3mo vamos a poder recurrirla? \u00bfYa est\u00e1 \u00fanica instancia? \u00bfPara qu\u00e9 queremos casaci\u00f3n, por ejemplo? Podremos recurrirla, s\u00ed, pero claro, el recurso va a ser distinto. El recurso puede consistir monogr\u00e1ficamente en detectar un error de la aplicaci\u00f3n. Decir: \u00abOiga, aqu\u00ed esto se est\u00e1 haciendo mal, se est\u00e1 llevando la labor de la herramienta hacia un terreno que no es el que corresponde en funci\u00f3n de los par\u00e1metros que ha establecido democr\u00e1ticamente, por supuesto, el legislador.\u00bb<\/p>\n<p>Con lo cual, todo eso, evidentemente, cambia.<\/p>\n<p>Pero si quieren plantearlo de una forma m\u00e1s futurista todav\u00eda, no piensen que los jueces son los \u00fanicos que pueden llegar a ser sustituidos, al menos en parte. Tambi\u00e9n los abogados. Que a lo mejor vamos a tener una aplicaci\u00f3n que habla entre s\u00ed o, mejor dicho, ser\u00e1 la misma aplicaci\u00f3n.<\/p>\n<p>Imag\u00ednenlo muchas veces con el divorcio de mutuo acuerdo. Claro, no hay nada que hablar cuando es de mutuo acuerdo. S\u00ed que es m\u00e1s complicado cuando no lo es, pero cuando es de mutuo acuerdo, si est\u00e1n de acuerdo con todo, pues paz, directamente est\u00e1 hecho.<\/p>\n<p>Pero tambi\u00e9n con bastantes juicios posesorios que no tienen complejidad y que, en definitiva, pues se sustancian con toda una serie de papeles actualmente en los juzgados, lo que hace que al final tengan su grueso, m\u00e1s o menos antiguamente de esto, ahora tienes unos cuantos megas de pdfs \u00a0para resolverlo, pero claro, ya no tiene sentido porque dicen siempre exactamente lo mismo. Esas sentencias son siempre exactamente iguales.<\/p>\n<p>A veces ocurre incluso con sentencias m\u00e1s complejas, perd\u00f3n, con autos m\u00e1s complejos como el auto de prisi\u00f3n provisional. Me estremezco cada vez que veo que en esos autos de 12 p\u00e1ginas hay ocho o diez p\u00e1ginas que est\u00e1n escritas de antemano. Me estremezco porque estamos hablando de la libertad de una persona.<\/p>\n<p>Me estremezco, pero al mismo tiempo pongo este ejemplo a aquellas personas que les da mucho miedo la aplicaci\u00f3n de la inteligencia artificial en la justicia porque dicen: \u00abVamos a incurrir en una especie de automatismo.\u00bb Por Dios! Pero si ya hay un cierto automatismo en los juzgados. \u00bfNo te das cuenta? Antes, incluso se ve\u00eda mucho m\u00e1s porque hab\u00eda una diferencia de letra. Ahora, con el tipo de letra lo puedes cambiar, pero detectas perfectamente cuando lo ha escrito el juez y cuando es lo de siempre, porque basta con que tengas dos resoluciones de ese mismo juez, ya est\u00e1, ya lo ves, no hay ning\u00fan problema.<\/p>\n<h2>La Cosa Juzgada<\/h2>\n<p>Y vamos \u00a0hablando de la cosa juzgada, al menos as\u00ed en un sentido, iba a decir divertido, pero no, es aburrid\u00edsima, en un sentido pol\u00e9mico, de la cosa juzgada. Al menos desde la \u00e9poca romana, con los libros 22 y 24 del Digesto, creo que eran 48, 44 hasta 40 o 54, parece que eran, que se dedican a analizar todos los problemas que en aquel momento salieron de la cosa juzgada para tratar de darle al juez pistas sobre cu\u00e1l deb\u00eda ser la soluci\u00f3n adecuada. Eso es lo que heredaron los glosadores y comentaristas, y es lo que nos ha marcado la vida hasta el d\u00eda de hoy, b\u00e1sicamente. El hecho de ver complicaciones ah\u00ed donde a lo mejor tampoco las hab\u00eda tanto.<\/p>\n<p>Pero claro, \u00bfqu\u00e9 queremos con la cosa juzgada? En realidad, lo que queremos b\u00e1sicamente es garantizar que los juicios no se repitan, que los procesos no se repitan. Eso es b\u00e1sico como esto. Claro, \u00bfustedes creen que hay alguna posibilidad de que si la inteligencia artificial domina la justicia de un pa\u00eds, aunque sea incluso en parte, existe alguna posibilidad de que se repita alg\u00fan juicio porque alguien no lo detecta? Dif\u00edcil. Y adem\u00e1s, como eliminamos la ret\u00f3rica, va a ser mucho m\u00e1s complicado plantear la misma demanda de otra forma, a como la plantea, tener un caso que perd\u00ed e intentar ver si cuela. Ese es el problema principal con la cosa juzgada. Pues las cosas se hacen bastante m\u00e1s complicadas.<\/p>\n<p>Con lo cual creo que ustedes estar\u00e1n diciendo: \u00abBueno, pues est\u00e1 aqu\u00ed hablando un se\u00f1or que se acaba de bajar de un tren y que todav\u00eda tiene cara de velocidad, porque est\u00e1 encantado con la inteligencia artificial y le parece fant\u00e1stica.\u00bb No. Miren, yo he sido la primera persona que ha escrito un libro sobre inteligencia artificial y proceso en Espa\u00f1a, es verdad, en el \u00e1mbito de hispanohablantes, de hecho. Pero eso no me ha hecho ser un fan\u00e1tico de la inteligencia artificial, antes al contrario.<\/p>\n<h2>Problemas de la Inteligencia Artificial<\/h2>\n<p>La inteligencia artificial -y es la tercera y \u00faltima parte de mi intervenci\u00f3n- tiene problemas. Yo les he hecho antes una exposici\u00f3n de por qu\u00e9 no se estaba aplicando en la justicia. Pues, \u00bfpor qu\u00e9? Porque la inteligencia artificial necesita datos. Muchos datos. Necesita que recopilemos todos los datos de c\u00f3mo hacemos resoluciones judiciales, qu\u00e9 tenemos en cuenta, qu\u00e9 tiene en cuenta el juez, todo eso que les he dicho yo medio en broma medio en serio al principio: la emotividad del juez, su ideolog\u00eda, lo que sea. Claro, eso es lo primero que te va a pedir un ingeniero cuando quieras que te haga una herramienta: \u00abVale, \u00bfd\u00f3nde est\u00e1n los datos?\u00bb<\/p>\n<p>Es lo mismo que cuando le llaman los m\u00e9dicos, los onc\u00f3logos, y le dicen: \u00abMira, queremos una herramienta que nos detecte tumores.\u00bb Esto ya hace tiempo que lo est\u00e1n haciendo, adem\u00e1s. \u00abVale, dame datos.\u00bb Pues, tienes todos estos datos histol\u00f3gicos de tumores de hace much\u00edsimo tiempo, y con esos datos, efectivamente, se puede realizar una buena herramienta.<\/p>\n<h3>Falta de Datos en la Justicia<\/h3>\n<p>Pero en la justicia no nos hemos puesto ni a recopilar esos datos.<\/p>\n<p>Ustedes pueden decir: \u00abBueno, la jurisprudencia\u201d. Pero en la jurisprudencia, tenemos motivaciones, y no siempre son realmente buenas. No hemos descubierto c\u00f3mo funciona la mente judicial. Es decir, necesitar\u00edamos m\u00e1s datos de los que se han estudiado en Estados Unidos bajo la categor\u00eda de \u00abjudicial behaviour\u00bb, que es muy interesante. Pero es que eso no lo hemos recopilado; se ha intentado, pero no se ha recopilado.<\/p>\n<p>En estas condiciones, a lo m\u00e1ximo que podemos aspirar es a lo que ha hecho un gran profesor de esta casa, Miquel Soler, en su \u00faltimo libro, que es decir: \u00abOye, estos procesos son automatizables porque son sencillos, y voy a decir c\u00f3mo.\u00bb Es un gran qu\u00e9, \u00a0porque al menos nos pone en una autopista, es decir: \u00abVale, pues por aqu\u00ed empezamos a abrir camino.\u00bb Esa es la v\u00eda de futuro, pero mientras no haya datos, no hay inteligencia artificial que valga.<\/p>\n<p>Con lo cual puede ser un poco de escudo para los m\u00e1s esc\u00e9pticos o los m\u00e1s reticentes al uso de esta tecnolog\u00eda.<\/p>\n<p>Pero, como les dec\u00eda, tiene problemas.<\/p>\n<h3>Peligros de la Privatizaci\u00f3n de la Justicia<\/h3>\n<p>Miren, yo no quiero que las empresas privadas hagan herramientas de inteligencia artificial aplicables a la justicia. No quiero, porque la justicia es un poder del Estado que, como todos los dem\u00e1s, est\u00e1 cubierto por la democracia. De otra forma, como les he explicado al principio. Al final, las sentencias se dictan en nombre del pueblo, o del rey, si uno quiere formularlo de una forma m\u00e1s mon\u00e1rquica. Pero al final, estamos hablando de lo mismo: es el poder \u00faltimo nuestro el que confiere esas capacidades, esas potestades.<\/p>\n<p>Yo no quiero darle poder a una empresa privada para que haga lo que le d\u00e9 la gana con la justicia. Ustedes podr\u00e1n decir: \u00abBueno, pero los jueces hacen lo que quieren.\u00bb No, no, ya, pero es que eso lleva haci\u00e9ndose milenios y ya estoy acostumbrado. De alguna forma, ya tengo claro lo que he hecho y he desarrollado una especie de fe en todo esto. Adem\u00e1s, originariamente la justicia es un concepto claramente teol\u00f3gico y los primeros jueces eran una especie de sacerdotes de una diosa egipcia, como expliqu\u00e9 en mi \u00faltimo libro. Eso efectivamente nos ha hecho arrastrar esta fe hasta el d\u00eda de hoy en el juez ser humano, pero cada vez estamos siendo m\u00e1s exigentes.<\/p>\n<p>Es decir, cada vez nos quejamos m\u00e1s cuando un juez hace algo que no nos motiva. Cada vez le ponemos m\u00e1s caras de disgusto cuando hace lo que quiere con una prueba pericial. Y decimos \u201cno, cuidado el perito \u00a0habr\u00e1 dicho algo, habr\u00e1 que tratarlo con cari\u00f1o, por lo menos, o si lo criticas habr\u00e1 que saber por qu\u00e9\u201d.\u00a0 Esto es in\u00e9dito.<\/p>\n<p>\u00daltimamente, nos hemos puesto a discutir bastante, como les dec\u00eda antes, sobre sus capacidades con respecto a la prueba testifical. Ya, evidentemente, nos hemos ca\u00eddo de la mula \u00a0y hemos visto la luz y hemos dicho: \u00abNo, cuidado, no nos creemos esto. Si dices que un testigo no es cre\u00edble, tendr\u00e1s que decir por qu\u00e9\u201d. Y por alguna raz\u00f3n mejor que \u00a0una sentencia que le\u00ed este mi\u00e9rcoles, que \u00a0dec\u00eda que el testigo era cre\u00edble porque desde el principio del proceso hasta el final del proceso hab\u00eda mantenido siempre la misma idea, y como no la hab\u00eda cambiado eso quer\u00eda decir que era cre\u00edble porque era constante en sus dichos. Gran labor de los abogados, naturalmente que lo prepararon, pero eso no es un indicio de credibilidad.<\/p>\n<p>Pero f\u00edjense que esto es muy reciente. Lean ustedes a Bentham a principios del siglo XIX, \u201cTratado de las Pruebas Judiciales\u201d, recomendaba que los jueces vieran a los testigos para que los jueces supieran si alguien miente o dice la verdad. Y esto hace cuatro d\u00edas, como quien dice. No han pasado ni 200 a\u00f1os, ha pasado much\u00edsimo menos tiempo desde que todav\u00eda cre\u00edamos esto.<\/p>\n<h3>Oportunidades y Riesgos<\/h3>\n<p>Pero claro, todo eso, que entrar\u00eda en una especie de magia, una especie de f\u00e1bula, una especie de autoenga\u00f1o que nos hab\u00eda hecho, m\u00e1s o menos, felices durante much\u00edsimo tiempo, ahora mismo se ha ca\u00eddo. Tenemos una oportunidad de hacerlo mejor, que es justamente la inteligencia artificial.<\/p>\n<p>Pero claro, si en lugar de confiar en esos jueces confiamos, como les dec\u00eda al principio, en esas grandes empresas, estamos a su merced. Primero controlar\u00e1n ese poder judicial, y antes habr\u00e1n controlado la opini\u00f3n de las personas que est\u00e1n en las redes sociales. Eso influir\u00e1 en lo que voten nuestros parlamentarios. En los parlamentos, nuestros diputados, y como ese parlamento va a elegir gobiernos. Adivinen ustedes en manos de qui\u00e9n van a estar nuestras instituciones a partir de entonces.<\/p>\n<p>Vean ustedes en manos de qui\u00e9n van a estar nuestras instituciones a partir de entonces. Claro que esto es muy peligroso. Esto tiene un recorrido mucho m\u00e1s ambicioso del que cualquiera se puede llegar a imaginar, aunque lo piense 10 segundos. Es necesaria una reflexi\u00f3n en este sentido.<\/p>\n<h3>Propuesta para el Futuro. El Papel del Estado<\/h3>\n<p>Lo cual me ha hecho proponer, y con esto acabo, que sean los Estados los que asuman esta tecnolog\u00eda. Es decir, hubo una \u00e9poca en la cual el Estado no externaliz\u00f3 la funci\u00f3n judicial, sino que dijo: \u00abNo, voy a poner jueces, voy a asumir yo esto porque me parece importante.\u00bb Tampoco externaliz\u00f3 la labor de gobierno. \u00abNo, vamos a asumirla nosotros y vamos a decir qu\u00e9 es lo que hay que hacer de acuerdo con lo que elija un parlamento.\u00bb<\/p>\n<p>Claro, si lo que les estoy diciendo puede afectar a todas estas instituciones, \u00bfpor qu\u00e9 externalizarlo? Habr\u00e1 quien diga que es inevitable, que los gobiernos lleguen tard\u00edsimo en esta carrera.<\/p>\n<p>Por supuesto que es inevitable, pero bueno, perd\u00f3n, por supuesto que llegan tarde en esta carrera, es verdad, es completamente cierto. Se han dejado llevar por la influencia de Estados Unidos, por esta corriente de privatizaci\u00f3n de sectores p\u00fablicos, y ahora mismo se est\u00e1n viendo en peligro, sobre todo en el tema de los deepfakes.<\/p>\n<p>De repente, est\u00e1n viendo que se puede manipular todo: im\u00e1genes, textos, cualquier cosa. Se puede manipular hasta una declaraci\u00f3n de guerra. \u00bfSe imaginan?<\/p>\n<p>Claro, por eso est\u00e1n asustados y ahora se est\u00e1n dando cuenta del da\u00f1o que se han hecho a s\u00ed mismos por ahorrar, por ahorrarse dinero. Creo que lo que hay que hacer es detener esta deriva.<\/p>\n<p>No confiar en estas empresas, naturalmente. Seleccionar muy bien a las personas que se van a encargar de hacer las herramientas que queramos aplicar a la justicia, -esta que yo le estoy diciendo, que es maximalista, u otras que ya existen-, de las que podemos hablar despu\u00e9s en el debate, que tienen un recorrido mucho menor.<\/p>\n<p>Pero asumir su producci\u00f3n para garantizar y mantener el control democr\u00e1tico de su funcionamiento. Porque de lo contrario, estaremos en manos de Google, Meta, OpenAi y cualquier otra empresa que ustedes quieran, mucho m\u00e1s de lo que ya estamos en estos momentos.<\/p>\n<p>Much\u00edsimas gracias por su atenci\u00f3n.<\/p>\n<p>&nbsp;<\/p>\n<hr \/>\n<p>&nbsp;<\/p>\n<h3>Mapa conceptual de la exposici\u00f3n:<\/h3>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter size-full wp-image-497\" src=\"https:\/\/campusvirtual.net\/escritos\/wp-content\/uploads\/2024\/05\/mapa-conceptual.png\" alt=\"\" width=\"847\" height=\"884\" srcset=\"https:\/\/campusvirtual.net\/escritos\/wp-content\/uploads\/2024\/05\/mapa-conceptual.png 847w, https:\/\/campusvirtual.net\/escritos\/wp-content\/uploads\/2024\/05\/mapa-conceptual-600x626.png 600w, https:\/\/campusvirtual.net\/escritos\/wp-content\/uploads\/2024\/05\/mapa-conceptual-287x300.png 287w, https:\/\/campusvirtual.net\/escritos\/wp-content\/uploads\/2024\/05\/mapa-conceptual-768x802.png 768w, https:\/\/campusvirtual.net\/escritos\/wp-content\/uploads\/2024\/05\/mapa-conceptual-782x816.png 782w\" sizes=\"auto, (max-width: 847px) 100vw, 847px\" \/><\/p>\n<p>&nbsp;<\/p>\n<p>Video: <a href=\"https:\/\/canal.uned.es\/video\/664b0c77a35b625a586e18d2\" target=\"_blank\" rel=\"noopener\">UNED<\/a><\/p>\n<p>Nota:<\/p>\n<p>Subt\u00edtulos agregados<\/p>\n<p>Transcripci\u00f3n realizada con IA. Edici\u00f3n V.T.<br \/>\nMapa conceptual: campusvirtual.net<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Exposici\u00f3n de Jordi Nieva-Fenoll (Universidad de Barcelona). En Seminario sobre Derechos Fundamentales e Inteligencia Artificial UNED, Madrid, 17 de mayo 2024. Modera: Sonia Calaza L\u00f3pez &nbsp; TRANSCRIPCI\u00d3N\u00a0 DE LA EXPOSICI\u00d3N Inteligencia artificial \u00bfUna tremenda amenaza para los derechos procesales o una gran&hellip;<span class=\"read-more\"><a href=\"https:\/\/campusvirtual.net\/escritos\/2024\/05\/21\/inteligencia-artificial-derechos-procesales\/\">Read More &raquo;<\/a><\/span><\/p>\n","protected":false},"author":2,"featured_media":483,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[31,28],"tags":[],"class_list":["post-482","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ia-eventos","category-ia-y-justicia"],"_links":{"self":[{"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/posts\/482","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/comments?post=482"}],"version-history":[{"count":14,"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/posts\/482\/revisions"}],"predecessor-version":[{"id":498,"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/posts\/482\/revisions\/498"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/media\/483"}],"wp:attachment":[{"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/media?parent=482"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/categories?post=482"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/campusvirtual.net\/escritos\/wp-json\/wp\/v2\/tags?post=482"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}