Al cerrar un ciclo con mis alumnos de Expresión Escrita Creativa, luego de meses explorando cómo se construye un texto, me pareció inevitable terminar con una advertencia. En clase hablamos de estructura y ritmo, pero la elección de una palabra suele obedecer a otra cosa, menos explicable.
Las palabras no son unidades neutras de significado; cada una llega acompañada de usos anteriores, recuerdos, lecturas y contextos. Escribir implica, en parte, elegir una palabra porque tembló en la garganta antes de ponerla en la página. La inteligencia artificial puede ordenar ideas y fabricar frases correctas, pero no puede enamorarse, fracasar, quedarse despierta pensando en algo absurdo ni descubrir quién es mientras escribe. Eso, al menos, es lo que yo creía mientras lo decía.
Días después, me dispuse a leer con detenimiento la “Magnifica Humanitas”, la encíclica que León XIV dio a conocer el 25 de mayo. El primer papa estadounidense de la historia, matemático de formación, firmó el documento en el 135° aniversario de “Rerum Novarum” —la encíclica de 1891 que respondió a los estragos de la primera Revolución Industrial— y lo dedicó a la custodia de la persona humana en la era de la inteligencia artificial. Mientras leía, pensé en mis alumnos. No sé si la coincidencia es fortuita o si el tema se ha vuelto imposible de esquivar.
León XIV abre con la imagen de la torre de Babel. La humanidad —escribe— enfrenta una elección entre levantar una nueva Babel tecnológica o construir algo parecido a una ciudad donde Dios y la humanidad habiten juntos. Recordemos que la torre bíblica no se derrumbó por su propio peso; se disolvió porque los constructores dejaron de entenderse. Algo parecido ocurre hoy: toda esa velocidad con que producimos texto generado y decisiones automatizadas no ha bastado para construir un idioma común.
El documento no condena la tecnología, cosa que hubiera sido fácil e inútil. Lo que hace es señalar que la inteligencia artificial adquiere las características de quienes la diseñan y financian, y que los algoritmos y los datos están concentrados en manos de unos pocos. En esa idea está presente la misma genealogía que en “Rerum Novarum”, solo que ahora el capital no es hierro ni vapor. Son plataformas cuyos dueños no rinden cuentas ante ningún proceso democrático reconocible.
Lo que el papa llama “nuevas esclavitudes digitales” invita a una reflexión cuidadosa. No habla únicamente de los trabajadores del Sur Global que etiquetan datos por centavos para que los modelos aprendan —aunque eso también está ahí y es grave—. Habla de algo más difuso: la dependencia que producen los sistemas de recomendación, el «control social algorítmico» que erosiona la capacidad de tomar decisiones que no hayan sido previamente moldeadas por una interfaz.
La pregunta que la encíclica no formula, pero que no podemos evitar hacernos, es cuánto de lo que creemos querer fue decidido antes de que lo quisiéramos. No tengo respuesta para eso. Sospecho que tampoco León XIV la tiene, aunque su documento es demasiado seguro de sí mismo para admitirlo.
En materia de guerra, el papa declara que no es lícito delegar a sistemas artificiales decisiones letales o irreversibles, y escribe algo que debería incomodar a varios gobiernos: “No existe algoritmo que pueda hacer que la guerra sea moralmente aceptable” (párr. 198). Que Chris Olah, cofundador de Anthropic —empresa en disputa legal con la administración Trump por el uso de su tecnología en operaciones militares—, estuviera presente en el Vaticano durante la presentación dice algo sobre hacia dónde va esta conversación, aunque sea lentamente.
El documento propone también una “ecología de la comunicación”, un espacio informativo donde el periodismo verificado recupere el lugar que los algoritmos publicitarios le han quitado. Es una aspiración justa. Lo que no está claro es cómo se construye esa ecología cuando casi el 55% del mercado publicitario global está en manos de no más de cinco empresas, y cuando el modelo económico de la atención premia exactamente lo que la encíclica deplora.
Mis alumnos terminarán escribiendo con inteligencia artificial, si es que no lo hacen ya. Lo que me pregunto es si sabrán cuándo están escribiendo ellos y cuándo está escribiendo la máquina por ellos, y si les importará la diferencia.
León XIV escribe que “la calidad de una civilización se mide no por el poder de sus medios, sino por el cuidado que sabe ofrecer, por la capacidad de reconocer un rostro en el otro y no una función” (párr. 114). Un modelo de lenguaje puede simular ese reconocimiento con una fluidez que a veces resulta perturbadora. Sin embargo, no lo eligió, no tuvo la voluntad ni la necesidad de hacerlo; alguien lo programó para ese propósito.
Eso, al final, es lo que les dije a mis alumnos. Me parece que es también lo que León XIV decidió decirle al mundo en más de 100 páginas que poca gente leerá completas. Si alguien lo hace, habrá empezado algo.
COLUMNA POR: MARIO CERINO
