José Francisco Ruiz Casanova: “Le atribuímos a la inteligencia artificial características humanas que no posee”

José Francisco Ruiz Casanova (L’Hospitalet,1962) es escritor, traductor, ensayista, profesor universitario y una de las voces españolas más reconocidas en el ámbito de la traducción literaria y los estudios de literatura comparada. Doctor en Filología, ha dedicado buena parte de su trayectoria a analizar el diálogo entre lenguas, culturas y formas de creación, con una extensa obra ensayística sobre traducción, poesía y literatura. Autor de numerosos estudios y traducciones, acaba de publicar ‘Ignorancia artificial. Traducción, lectura y escritura en tiempos de la IA’ (Altamarea), un ensayo en el que reflexiona sobre el impacto de la inteligencia artificial (IA) en el lenguaje, el futuro de los traductores y los cambios que esta tecnología introduce en nuestra forma de leer, escribir y relacionarnos con el conocimiento.

El mundo actual tal vez se divida entre los que aplauden a la IA con entusiasmo y los que la rechazan. Entre tecno-optimistas y catastrofistas (o doomers). Sin embargo, la IA es una gran desconocida para el ciudadano de a pie de una sociedad cada vez más idiotizada. José Francisco Ruiz Casanova no es ni de los unos ni de los otros. Porque ha indagado en los vericuetos de este novísimo artilugio informático con interfaz que nos sale hasta en la sopa, hasta el punto de desenmascararlo y calificarlo sin reparos de “Ignorancia Artificial”, de tecnología que es, ante todo, “un negocio y una industria”. Aunque también se nos puede vender como el Santo Grial, la Thermomix de las bases de datos, una caja negra, un placebo…

¿Una IA todopoderosa o un fraude?

Hemos llegado a un convencimiento casi religioso de que la IA puede responder absolutamente a cualquier cosa y con veracidad absoluta, cuando la realidad demuestra que no es así. Todo lo contrario: miente. Uno de sus grandes problemas es que, cuando no conoce una respuesta, en lugar de decir simplemente «no lo sé», se la inventa. Su prioridad parece ser satisfacer al usuario, aunque para ello tenga que ofrecer una respuesta falsa. Después, si se le insiste o se le demuestra el error, lo asume. Pero el problema ya se ha producido. Aceptamos lo que dice la IA como si fuera una cuestión de fe, como directrices de una secta. Lo damos todo por bueno sin exigir demasiadas explicaciones. Pero todavía persisten enormes lagunas y muchos problemas que la IA no es capaz de resolver.

No es un ente inteligente en el sentido humano del término. Es una caja negra cuyo funcionamiento desconocemos. Trabaja mediante algoritmos alimentados con enormes cantidades de datos y genera respuestas a partir de ellos. No razona como una persona. Simplemente procesa la información disponible. No parece partir de un parámetro inicial de honestidad, solo busca mantener la interacción. Podríamos decir que nos da la razón.

¿Y por qué nos miente? ¿Para hacernos la pelota?

Algo así. Estos sistemas están diseñados para resultar agradables al usuario. Si uno copia un verso mediocre y le pregunta si es bueno, probablemente responderá que sí. Esa tendencia a halagar al interlocutor forma parte de su manera de interactuar y puede generar una falsa sensación de autoridad o de confianza. Nos hemos lanzado a la piscina con la IA porque es algo maravilloso, pero no nos hemos planteado cómo debemos utilizarla, qué límites tiene y qué consecuencias puede tener. También conviene recordar que la IA es un producto profundamente condicionado por los datos con los que ha sido entrenada.

¿La IA acabará con los traductores?

La traducción sigue dependiendo enormemente del destinatario y del grado de precisión que se necesite. No es lo mismo traducir una conversación informal que un tratado médico sobre un descubrimiento farmacológico. En este caso, sería una temeridad confiar exclusivamente en la IA sin una revisión humana exhaustiva. Los traductores están preocupados porque pensaron que iban a quedarse sin trabajo. La realidad es que la IA sí puede acabar con determinados empleos, pero también está reformulando la profesión. El traductor del futuro no será igual que el de hace 40 años. Habrá que ver si las editoriales y las universidades son capaces de adaptarse a los tiempos y formar a nuevas generaciones de traductores de otra manera.

Por el tema de la propiedad intelectual.

Sí. Entre otras cosas. La inteligencia artificial recuerda en cierta medida a la Wikipedia, pero a una escala mucho mayor, porque se alimenta de información disponible en la red. La cuestión es ¿quién reconoce los derechos de esa información y quién compensa a quienes han generado ese conocimiento? En materia legislativa se ha reaccionado tarde. Hemos abrazado la IA sin haber establecido previamente marcos legislativos, educativos y éticos. El debate sobre los derechos de autor es un ejemplo claro. En Estados Unidos se han producido cambios legales varias veces pero son insuficientes ya que las normas avanzan por detrás de la tecnología. Porque la economía siempre va más rápido que la legislación. Y Europa tiene un problema añadido: Mientras intenta regular, otros actores ya están desarrollando la tecnología y ocupando el mercado. Con todo, existe una sensación de impunidad, de que la IA utiliza contenidos ajenos sin reconocer la propiedad intelectual del autor.

Con esta tecnificación, ¿qué será de la filología?

La filología también tendrá que cambiar. Sería necesario que los corpus lingüísticos utilizados para entrenar estos programas tuvieran una supervisión de profesionales de la lengua. Porque herramientas como ChatGPT se alimentan de una enorme cantidad de información de chats y páginas de dudosa calidad y también de textos mal escritos y con faltas de ortografía.

Información de mala calidad como alimento de la IA lleva a malas respuestas. ¿Y no pasa nada?

Nada. Hoy encontramos errores y gazapos incluso en portadas de periódicos y nadie parece escandalizarse. El rendimiento que se puede sacar de la IA es un atajo, pero muchas veces a costa de la calidad final. Vivimos en una cultura de lo gratuito: prensa gratuita, contenidos online gratis, libros pirateados… Todo eso contribuye a una pérdida de exigencia respecto a la calidad del producto. Al final, la cuestión es económica. ¿Cuántos lectores perciben realmente la calidad de una traducción o de un texto bien escrito? Probablemente solo quienes trabajan con la lengua. El resto, apenas repara en ello. Y a la vez, hay presión por abaratar costes y se acaba recurriendo a la IA, que puede hacer el trabajo en cuestión de segundos. La pregunta no es si puede hacerlo, sino con qué calidad y si esa calidad resulta suficiente. Pero el verdadero problema es que el cliente no protesta, porque a una mayoría parece darle igual.

O sea, que todo vale.

Sí. En internet se acepta muchas veces cualquier información simplemente porque está publicada. Existe una tendencia a creer que si algo aparece en una pantalla debe ser cierto. Hemos pasado a considerar que lo anónimo es más verdadero que lo firmado. Sin embargo, una opinión firmada puede discutirse porque sabemos quién la sostiene. El anonimato dificulta la responsabilidad. La red y la IA ofrecen respuestas para cubrir nuestras carencias, pero debemos preguntarnos qué nos ofrecen realmente y cómo aprendemos a utilizarlas. Si no desarrollamos pensamiento crítico, podemos acabar aceptando cualquier cosa de forma casi sectaria: creer sin comprobar.

Rendidos a la IA, que lo sabe todo…

LA CLAU

El Armageddon en ‘Un sombrero de papel de aluminio’

No lo sabe todo. Existe la idea de que en la red está todo, que todo ha sido digitalizado, y eso no es cierto. Hay muchísima información que no está digitalizada y que nunca ha entrado en esos sistemas. No todo es digitalizable. Pensar que la IA puede alimentarse de toda la información existente en el mundo o que puede con todo es una visión utópica. Comprar libros al peso para entrenar una IA no convierte a la máquina en una enciclopedia universal. La creación humana nunca estará completamente digitalizada y, por tanto, al alcance de la IA.

¿Tenemos una imagen infantiloide la IA? ¿Le atribuimos unos sentimientos que no tiene?

Cuando en los años 50 se empezó a hablar de IA había dos ideas contrapuestas. Por un lado, la posibilidad de crear algo capaz de razonar y pensar; por otro, una herramienta que imitara determinados procesos humanos. Hoy hemos mezclado ambos conceptos y ahí aparece una paradoja: creemos estar hablando con una inteligencia humana cuando en realidad estamos interactuando con una máquina. Hemos sustituido a un interlocutor por un dispositivo, renunciando al contacto personal. La pregunta es si, de verdad, pensamos que la IA es como un robot humanoide. Porque no lo es y estamos atribuyéndole características humanas que no posee.

Estamos sustituyendo el contacto humano por las máquinas… ¿Lo preferimos?

Hay preocupación por el uso que están haciendo muchos adolescentes de la IA, especialmente como sustituto de relaciones humanas. Algunos jóvenes recurren a estos sistemas para hablar sobre problemas personales o salud mental, sin ningún filtro. La máquina ofrece una ventaja aparente: siempre está disponible, no juzga, es anónima y resulta cómoda. Pero precisamente ahí está el peligro: en reemplazar un rol humano por una máquina.

¿Y qué se puede hacer?

Necesitamos educar a los jóvenes para que entiendan que la IA es una herramienta tecnológica; que no es cierto que las pantallas amparan el anonimato y la impunidad, porque siempre se deja una huella digital en internet; y, sobre todo, qué significa realmente comunicarse con un sistema que no es una persona. Como explica Cathy O’Neil en Armas de destrucción matemática, los algoritmos pueden comportar consecuencias profundas cuando intervienen en ámbitos como las finanzas, la información o la toma de decisiones. Los problemas no están únicamente en la tecnología, sino en cómo la utilizamos y quién controla sus procesos. El producto es opaco.

Justo ahora estamos lamentándonos de haber introducido las pantallas en las aulas escolares…

La solución no es demonizar las máquinas. La tecnología puede aportar cosas positivas y facilitar muchos procesos. El problema es haber puesto el carro delante de los bueyes. Primero debería existir una educación adecuada para utilizar estas herramientas. Si enseñamos a usarlas de manera crítica, racional y consciente, la IA puede ser útil. Pero si simplemente decimos “úsala”, sin explicar sus límites, corremos el riesgo de generar dependencia, desconocimiento y una especie de fe ciega tecnológica. La peor combinación sería unir la fascinación irracional por la tecnología con la adicción que crea.

Adicción como la que ya se tiene a los móviles

Sí. El teléfono móvil se ha convertido prácticamente en una prolongación de nosotros mismos. Hay autores y pensadores que llevan tiempo advirtiendo de esta dependencia tecnológica. Es la llamada click trap (trampa del clic): muchos sistemas están diseñados para mantener nuestra atención permanentemente. La cuestión no es enfrentarnos a las máquinas, sino establecer una relación equilibrada con ellas. No debemos volvernos máquinas de la mano de la tecnología, debemos seguir siendo humanos utilizando herramientas creadas por humanos.

¿Europa tiene futuro en el desarrollo de la IA o ya nos han comido todo el pastel EE. UU. y China?

La cultura europea va a remolque. Hemos perdido la posibilidad de tener un papel protagonista en esta carrera y quedaremos como algo anecdótico. No es algo nuevo. Venimos de décadas de uso de tecnología desarrollada fuera de Europa. Desde los primeros tiempos de la informática hemos asumido como normal utilizar software estadounidense. La IA es como una caja negra y el gran problema es que está en manos de las grandes tecnológicas, que tienen un poder enorme porque controlan infraestructuras, datos y algoritmos. Y Europa, nada.