Elogio de la imperfección

Hay aspectos de la bellísima encíclica del Papa León XIV Magnifica Humanitas que pueden resultar a primera vista perturbadores, hasta para un creyente. Esa frase inicial: “Cada generación recibe como herencia la tarea de dar forma a su propio tiempo: hacer madurar la historia como un lugar donde se proteja la dignidad de cada persona, se promueva la justicia y se haga posible la fraternidad”. En las manos inadecuadas, una declaración así puede servir de combustible ideológico para cualquiera de las muchas formas de materialismo dialéctico que campan a sus anchas por nuestra sociedad.

Pero sobre todo esta reflexión: “En el pasado, eran principalmente los estados los que impulsaban y orientaban la innovación. Hoy, en cambio, los principales motores del desarrollo son actores privados, a menudo transnacionales, dotados de recursos y capacidad de acción superiores a los de muchos gobiernos. El poder tecnológico adquiere así un rostro inédito, predominantemente privado, y por ello aún más difícil de discernir, gobernar y orientar hacia el bien común”.

En su obra Las pasiones y los intereses, Albert O. Hirschman habla precisamente de cómo, tras la Reforma y a medida que se consolidaba la idea de los Estados-nación, el mercado sustituyó a la Iglesia como fuerza limitante del poder estatal, algo que gobernantes como Xi Jinping tratan de embridar cada día. Hay quien se pregunta, de hecho, si la inteligencia artificial (IA) entrará en la ecuación en el futuro como una tercera fuerza con la autonomía suficiente para superar a las otras dos, Estado y mercado, en determinadas circunstancias.

Sólo puede creer a pies juntillas que es más fácil de “discernir, gobernar y orientar el bien común” desde el sector público hoy en día (y no digo que ese sea el caso de León XIV, ni mucho menos) y que, por tanto, confiar la iniciativa de la IA al sector privado es una pérdida, alguien no familiarizado con la selva de intereses contrapuestos, luchas de poder, egos, disputas políticas, lobbies, dependencias, nepotismos, confluencia de competencias, sensibilidades territoriales, familias, batallas sindicales, herencias culturales y resistencias al cambio que caracterizan a nuestros aparatos públicos. Dejar que ese sindiós gobierne la IA, también da mucho miedo.

En un país como China, una de las grandes potencias en liza por el liderazgo de esta nueva tecnología, como ha analizado recientemente Anthropic en un imperdible ensayo, así como en el resto de regímenes autoritarios que pueblan lamentablemente y de forma cada vez más frecuente nuestro planeta, ya estén movidos por la ideología, la religión, la etnia o la oligarquía de turno, a lo anterior debemos añadir una aplastante e inmisericorde maquinaria industrial de sometimiento de libertades individuales.

Al menos, ese sector privado que investiga, invierte, arriesga e innova tiene como límites la regulación, el ejercicio de la violencia y… el mercado. Obviamente, en el contrapeso de intereses está el secreto del éxito. Las empresas tienen que responder también, en última instancia, ante sus accionistas. ¿Qué incentivo ha tenido Meta para modificar su algoritmo claramente diseñado para generar adicción viendo la curva de incremento de ingresos de la última década? Ninguno, por eso no lo ha hecho.

Yendo a lo sustancial, el texto de León XIV hace una aportación luminosa sobre el papel que debe desempeñar la IA en nuestras vidas y en nuestras sociedades. A Habermas le habría gustado leer su alusión en la encíclica a que la tecnología “no es neutral, porque toma el rostro de quien la concibe, la financia, la regula, la utiliza”. Así es, hay que recordarlo siempre. Siempre.

Pero, sobre todo, el Papa advierte contra “la pretensión de un lenguaje único —incluso digital— capaz de traducirlo todo, incluso el misterio de la persona, en datos y rendimientos”. La encíclica desarrolla magistralmente la verdad de que “edificar en el bien significa aceptar los límites y la fragilidad de la humanidad sin considerarlos un error que haya que corregir. Hoy en día, el deseo de plenitud del ser humano corre el riesgo de desviarse hacia metas engañosas: la ilusión de una tecnología que promete liberarnos de toda fragilidad”.

¿Dónde estás tú? En Parhenope de Paolo Sorrentino, la protagonista, cuya belleza ejerce una influencia en quienes la rodean similar a la de aquella sirena que trató de envenenar infructuosamente con sus cánticos a Ulises y cuya muerte se convertirá en el mito fundacional de Nápoles, pregunta a un profesor “qué es la antropología”. Él responde que la antropología es “ver”. Ella le sigue inquiriendo: “¿ver qué?” “Aquello que no es ‘todo lo demás’”, le dice.

Las palabras del Papa nos invitan, en efecto, a dejar de centrarnos en “todo lo demás” y a ver en las cosas en sí, desprovistas de cálculo y medida. La encíclica formula de ese modo un bellísimo elogio a la imperfección, aunque León XIV prefiere con mucho más criterio el término “fragilidad”.

En el futuro, el criterio humano será la llave para mantener la excelencia y la responsabilidad en la aplicación de la IA. La falta de profesionales de relevo bien preparados y con experiencia, como parecen alentar los evangelistas de la IA y olvidan destacar los profetas del apocalipsis laboral, pueda acabar convirtiéndose en un problema para esas compañías empeñadas en invertir la pirámide demográfica en sus organizaciones.