El Papa contra los señores tecnofeudales
Por qué la primera encíclica de León XIV no es una crítica a la inteligencia artificial sino a la concentración del poder tecnológico.
En la última semana se habló mucho sobre la primera encíclica de León XIV. Que el Papa estaba en contra de la inteligencia artificial, que quería “desarmarla”, que estaba en contra del progreso tecnológico. Incluso se llegó a decir que era un hipócrita porque un análisis señalaba que la encíclica estaba escrita con ayuda de la IA (nota al margen: ningún método puede decir esto con precisión). Como de costumbre, mucha gente opinó pero poca la leyó. Y si hay algo que a mí me gusta es leer, así que decidí hacerlo para contarles de que va Magnifica humanitas, que utiliza la inteligencia artificial como punto de partida para discutir otras cosas, incluso más relevantes.
Empecemos por la estructura, de un primer vistazo podemos ver que la encíclica se divide en dos partes. En la primera, León XIV hace un racconto de la historia de la Doctrina social de la Iglesia, explicando las contribuciones de sus antecesores, desde León XIII hasta Francisco, y enumerando los cinco principios de la doctrina que considera fundamentales. Voy a resumir muy brevemente estos principios para quien no los conozca ya que son muy importantes para entender lo que viene después:
- El principio del bien común: lo que hace al bien de la comunidad, más allá de los intereses propios
- Destino universal de los bienes: todo lo que hay en la Tierra fue dado por Dios a toda la humanidad, sin privilegios ni exclusiones.
- Subsidiariedad: las decisiones deben ser tomadas en el nivel más cercano posible a las personas, evitando un rol paternalista del Estado o del poder económico.
- Solidaridad: se resume en la frase de Francisco (también mencionada en El Eternauta): «nadie se salva solo».
- Justicia social: esta idea, que en Argentina Perón tomó e hizo propia, tiene que ver con lograr un orden social, político y económico que permita vivir a todos de manera humana, sin dejar a nadie atrás. Reconoce que hay injusticias que no son individuales sino que provienen de sistemas económicos que producen desigualdad.
Estos principios son la base desde la que León analiza la inteligencia artificial, el trabajo, la democracia y las nuevas formas de concentración del poder.
No sos vos, es el sistema
En los últimos años ganó fuerza una visión cada vez más individualista de la sociedad. Hoy el sentido común mayoritario busca explicar los éxitos y fracasos únicamente en función del esfuerzo personal. Si te fue mal en tu emprendimiento de remeras sublimadas es porque no supiste promocionarte bien en Instagram o tus diseños no llamaron la atención. No existen causas más grandes y sistemáticas.
Es en este contexto donde la Doctrina social parece extrañamente contracultural. Magnífica humanitas desafía este nuevo sentido común y dice que no es posible confiar únicamente en la «mano invisible del mercado» sino que se necesitan «leyes justas e instrumentos de redistribución que corrijan los desequilibrios». Sostiene que «una sociedad justa requiere un Estado presente e instituciones civiles capaces de superar la mera lógica de la eficiencia, orientando explícitamente los recursos, la creatividad y las normas a favor de los más vulnerables.»
Es interesante también que, al igual que Francisco, León habla de las relaciones desiguales entre países: «ciertas lógicas de endeudamiento estructural, que mantienen a pueblos enteros en condiciones de dependencia, revelan la misma mentalidad que acepta, bajo nuevas formas, relaciones de subordinación cercanas a la esclavitud.» Estamos frente a un nuevo colonialismo que «no sólo domina los cuerpos, sino que se apropia de los datos, transformando las vidas personales en información explotable.»
«Es aquí donde se juega una de las cuestiones morales más urgentes de nuestro tiempo: transformar el conocimiento compartido en bien común, no en herramienta de dominio; devolver a los pueblos no sólo los datos que los describen, sino también la posibilidad de decidir cómo se utilizarán, quién los utilizará y para quién. De lo contrario, la era digital no será postcolonial, sino colonial bajo otra forma.»
Es desde esta crítica a las nuevas formas de concentración del poder que León aborda el fenómeno de la inteligencia artificial.
La lucha contra los señores tecnofeudales
Mientras uno de los mayores escépticos del mundo dice que la inteligencia artificial es consciente después de chatear una semana con Claude, León XIV nos recuerda que:
«[…] hay que evitar el equívoco de equiparar esta “inteligencia” a la humana. Estos sistemas imitan ciertas funciones de la inteligencia humana. Al hacerlo, a menudo la superan en velocidad y amplitud de cálculo, ofreciendo beneficios concretos en numerosos campos. Y, sin embargo, esta potencia sigue ligada exclusivamente al tratamiento de datos: las denominadas inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad.»
Las críticas de León en el uso cotidiano apuntan a que la IA puede acostumbrarnos a delegar demasiado («debilitando el juicio personal y la creatividad»), a que olvidemos los sesgos que estas plataformas tienen (que «reflejan los parámetros culturales de quienes las han proyectado y adiestrado») y a que puedan ser confundidas con verdadera comunicación humana («cuando la palabra es simulada, esta no construye una relación, sino una apariencia» y «puede ser peligrosa cuando se introduce en un contexto pobre de relaciones y de afectos reales»).
En los medios se habló mucho de que León llamó a “desarmar” la IA. A lo que se refería en este contexto es a «sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar sino económica y cognitiva.» No habla de renunciar a la tecnología sino de impedirle que gobierne sobre lo humano. Así es como hace un llamado a los desarrolladores de estos sistemas para que traten con seriedad los valores que infunden en sus proyectos: «con transparencia, con responsabilidad hacia las comunidades involucradas y con atención a verificar que lo que se cultiva sea realmente un bien.»
Aplicando los principios de la Doctrina social que mencionamos antes, León propone una lectura política de la inteligencia artificial. Advierte sobre la concentración de datos, infraestructura y poder de decisión en manos de unas pocas empresas (bien común); reclama un acceso más equitativo a la tecnología y a la formación (destino universal de los bienes); defiende la capacidad de las comunidades para participar en las decisiones que las afectan (subsidiariedad); y llama a reconocer tanto el trabajo invisible que sostiene estos sistemas (solidaridad) como las desigualdades que determinan quién los diseña y quién simplemente queda sujeto a ellos (justicia social).
La lucha de León XIV no es contra la IA sino contra el «paradigma tecnocrático» que intenta mostrar a la técnica como un simple instrumento neutral cuando muchas veces termina por «establecer qué cuenta y qué puede descartarse». En este paradigma ya no son los Estados quienes controlan las plataformas sino los «grandes actores económicos y tecnológicos», lo que representa un gran riesgo ya que: «cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público, y crece el riesgo de un desarrollo distorsionado que provoca nuevas dependencias, exclusiones, manipulaciones y desigualdades.»
El riesgo mayor, en palabras de León, no está en los errores que puede cometer sino en el mismo sistema en el que se enmarca. Una tecnocracia «según la cual la plenitud de la vida consistiría en tener más, reducir la fragilidad, eliminar lo imprevisto y controlarlo todo.» No se trata de rechazar la ciencia ni la técnica sino de ordenarla «al bien común, a la justicia, al cuidado de los frágiles y de la creación.»
Estas tensiones no son abstractas sino que expresan todos los días en ámbitos tan concretos como el trabajo.
Sostener el trabajo frente a la IA
La Doctrina social considera al trabajo como una «dimensión fundamental de la experiencia humana». No es sólo una forma de ganarse el pan, sino el lugar donde el ser humano se expresa, se relaciona con otros y contribuye a su comunidad. Por ello, el desempleo se presenta como un problema en la sociedad, ya que causa un «empobrecimiento humano y cultural».
Todos los días leemos noticias sobre los puestos de trabajo que se perderán a causa de la IA. Ya no se trata solo de tareas mecánicas y repetitivas sino que incluye a profesiones que hasta ahora se creían que no podían ser reemplazadas por la tecnología, como programadores y artistas. En este sentido, León XIV dice que «sin duda, es deseable que la tecnología libere al hombre de trabajos especialmente pesados, repetitivos o peligrosos y que ofrezca un apoyo inteligente a la actividad humana, pero la norma general debe seguir siendo la protección de los puestos de trabajo y del papel insustituible de la persona.»
Para esto sostiene que «toda introducción de automatización y de IA debería ir acompañada de medidas verificables de protección del empleo, de recualificación y de participación de los trabajadores». Pone la responsabilidad en los Estados que deben implementar «políticas activas» y no descargar el peso de la adaptación a las transformaciones sobre los trabajadores.
Sin embargo, las preocupaciones de León respecto de la IA no se limitan al empleo. También alcanzan a la forma en que producimos conocimiento, nos informamos y tomamos decisiones colectivas.
Fake news y democracia
Una de las preocupaciones de la encíclica tiene que ver con las fake news, que no comenzaron con la IA pero encuentran en ella un multiplicador ya que «la posibilidad de manipular contenidos, imágenes y vídeos expone a los ciudadanos a perspectivas parciales o engañosas.» Y, una vez más, advierte sobre el poder que tienen las grandes corporaciones económicas para provocar cambios culturales y convencer gente. Por eso «la búsqueda de la verdad es un elemento esencial para la democracia». «El desinterés por la verdad conduce lenta pero inexorablemente hacia el totalitarismo», dice León retomando una idea de Hannah Arendt, quien advertía que los súbditos ideales de estos regímenes son aquellas personas para las que ya no existe diferencia entre los hechos y la ficción, ni entre lo verdadero y lo falso.
León XIV dice que «la verdad es un bien común y no una propiedad de quienes tienen poder o visibilidad». Por eso llama a promover una «ecología de la comunicación», donde se transparenten los criterios para difundir contenidos y se protejan los datos personales; a la vez que se fortalezcan los organismos intermedios y se forme a los jóvenes en el uso correcto y crítico de las herramientas digitales. Convoca además a promover una «higiene de la atención» que implica «ritmos que incluyan silencio, estudio reflexivo, lectura, análisis ponderado.» Esta idea se relaciona con la «soberanía cognitiva» de la que habla Juan Ruocco y otros, que implica ponerle un límite a la inyección de dopamina de las redes sociales y abrazar la realidad analógica para ser dueños de nuestros pensamientos y de nuestro tiempo.
¿Cómo construir un futuro más humano?
Para construir un futuro mejor primero tenemos que convencernos de que es posible, empezando por no dar por cierta la inevitabilidad de este modelo tecnocrático. No se trata de ser luditas sino de entender que aunque la ciencia siempre avanza, el sentido en el que lo hace se puede moldear. Aún si creemos que la inteligencia artificial es inevitable esto no implica que el orden social y económico que se quiere derivar de ella lo sea.
La siguiente pregunta podría ser, entonces ¿qué podemos hacer? Es fácil sentir que el problema es demasiado grande, que nos excede por completo a los ciudadanos a pie y que no hay nada por hacer. Acá viene una de las partes más llamativas de la encíclica que es cuando cita a Gandalf en El retorno del rey. Para poner la cita en contexto, Gandalf, Aragorn y otros están en las afueras de Mordor. Por otro lado, Frodo y Sam están llegando al Monte del Destino para arrojar el Anillo Único. Gandalf propone a los humanos atraer a las fuerzas de Sauron hacia ellos, aún sin saber si Frodo y Sam siguen con vida y pueden cumplir su misión. Es allí cuando Gandalf pronuncia estas palabras que rescata León XIV:
«No nos atañe a nosotros dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir, extirpando el mal en los campos que conocemos, y dejando a los que vendrán después una tierra limpia para la labranza».
Lo que nos dice León es que es a partir de la suma de pequeños gestos que se puede lograr un cambio real. Si Gandalf y Aragorn hubieran pensado que la batalla estaba perdida, lo hubiera estado efectivamente porque los orcos se hubieran dado cuenta de que Frodo y Sam estaban llegando. Fue la esperanza y la solidaridad lo que los hizo triunfar. Hoy también hay pequeños gestos cotidianos que pueden cambiar el futuro, que según León se resumen en «desarmar las palabras, construir la paz en la justicia, asumir la mirada de las víctimas, cultivar un sano realismo y relanzar el diálogo y el multilateralismo.»
El transhumanismo consigue adeptos porque hace foco en un deseo que nos interpela a los seres humanos de esta época, «la necesidad de una vida más plena, menos expuesta a la fragilidad y al sufrimiento». Pero hay otro camino para llegar a ese objetivo, uno más humano, que se sostiene en ideas simples pero poderosas: ser fieles a la verdad (evitar las fake news), invertir en educación (para que la IA no nos controle sino que sea al revés), cuidar las relaciones (para que lo virtual no reemplace a lo real) y amar la justicia y la paz (para controlar que los avances nos sirvan a todos).
Unas breves palabras para cerrar. En Magnifica humanitas no vamos a encontrar al Papa en modo Sarah Connor llamando a destruir la máquina como algunos piensan. Es más bien una convocatoria a parar la pelota y cuestionarnos ciertas cosas que damos por sentadas: quién controla estas herramientas, quién se beneficia con ellas, quién paga sus costos y qué lugar ocupan los seres humanos en ese futuro que se nos presenta como inevitable. Es por eso que Magnifica humanitas habla menos de inteligencia artificial que de poder.
Publicado originalmente en mi Substack.