León XIV es un papa matemático, misionero, estadounidense y políglota. Un pontífice que ha visitado España apenas un año después de convertirse en San Pedro para dejar mensajes directos, claros y poderosos en cárceles, parlamentos, iglesias, estadios y centros de acogida. Mensajes certeros como los que detalla en su primera encíclica, Magnifica humanitas, en la que la gran protagonista es la IA. Y, claro, el hombre. Tecnología y humanidad que deben, dice el papa, caminar de la mano.
Aunque no es la primera vez que un pontífice habla de la tecnología, en este caso la reflexión parece alcanzar una mayor dimensión ya que apela a una innovación que va a tener, sin duda, un impacto de dimensiones bíblicas en todos los estamentos sociales y económicos. Y el papa analiza, discierne, reflexiona y, sobre todo, alerta acerca de los riesgos de su uso.
Como “aplicado” hombre de ciencias, reconoce que la IA, como así lo fueron antes otros progresos científicos y técnicos, constituye una ayuda extraordinaria para el desarrollo humano; sin embargo, alerta de que su enorme capacidad de transformación también puede reforzar un paradigma tecnocrático en el que la eficiencia, el control y el beneficio económico terminan imponiéndose sobre la dignidad de las personas. El progreso técnico, escribe, solo es verdadero progreso cuando va acompañado de un crecimiento moral y social. Tener tecnologías más poderosas no significa necesariamente ser una sociedad más humana ya que se puede empezar a medir a los seres humanos por su productividad, su rendimiento o su utilidad, olvidando que la persona nunca puede reducirse a un dato, una función o un algoritmo. Como recuerda el Papa, podemos llegar a «tener más», pero sin llegar a «ser más».
Existe otro gran asunto para el que reclama reflexión: la “propiedad” de la IA. Prevost advierte de que no está en manos de “todos”, sino concentrada en un reducido número de grandes compañías que, explica, “determinan las condiciones de acceso, las reglas de visibilidad y las posibilidades de participación”. Y alerta de que cuando un poder, “de tal magnitud”, se concentra en pocas manos, “tiende a hacerse opaco y a eludir el control público, y crece el riesgo de un desarrollo distorsionado que provoca nuevas dependencias, exclusiones, manipulaciones y desigualdades”. Nada que objetar a la claridad y visión del pontífice que, a continuación, habla de la necesidad de otorgar transparencia a la IA. “No podemos considerarla moralmente neutra”, proclama.
Y, alerta, de nuevo, de que hay riesgo de engaño cuando una IA, que se presenta como “neutral y objetiva”, refleja y refuerza “estereotipos o posiciones ideológicas de quienes los han diseñado y programado”. Ningún algoritmo, por tanto, nace libre de valores.
Prevost pide controles rigurosos, un marco jurídico adecuado, vigilancia independiente y educación de los usuarios
Exige una IA «más ética» pero alerta, de nuevo, que no puede estar definida por unos pocos. Prevost pide controles rigurosos, un marco jurídico adecuado, vigilancia independiente y educación de los usuarios. “Hay que discutir el código ético que debe ser usado, sometiéndolo a criterios de justicia social compartida. De lo contrario, quien controla la IA impondrá su propia visión moral, que se convertirá en la infraestructura invisible de los sistemas”. Brutal.
La imagen más hermosa es su invitación a «desarmar la IA». No significa renunciar a la innovación ni poner freno al progreso, sino sustraerla al control de unos pocos, hacerla discutible, sometida a crítica y al escrutinio democrático. En definitiva, es la tecnología al servicio de la persona y no al revés.
En definitiva, Prevost humaniza la IA. Con mensajes claros, directos y certeros. Que entona en cualquier escenario, incluidos los parlamentos. A ver si en el ecosistema tecnológico encuentra más terreno fértil para la ejecución. Además del aplauso.
