La batalla por lo humano: la inteligencia artificial como nueva arquitectura de poder
Por Redacción ADJ*
La primera encíclica del Papa León XIV, Magnifica Humanitas, publicada el pasado 25 de mayo, se convirtió en el eje de un análisis que Luis Hernández Martínez, Fundador de Alta Dirección Jurídica, dedicó a directores generales, comités ejecutivos y consejos de administración. En su programa de radio Alta Dirección, el conductor tomó como punto de partida el capítulo tercero de ese documento pontificio —titulado "Técnica y dominio: la grandeza de la persona humana ante las promesas de la inteligencia artificial"— para articular lo que él llamó la batalla por lo humano: la inteligencia artificial como nueva arquitectura de poder.
Para Hernández Martínez, la distinción central que introduce el Papa León XIV es que la inteligencia artificial no representa una innovación técnica más —comparable a la máquina de vapor, al barco o a la bombilla eléctrica— sino una transformación civilizatoria capaz de redefinir la relación entre poder, verdad, trabajo, libertad y condición humana.
Desde esa lectura, el fundador de Alta Dirección Jurídica advirtió que la tecnología dejó de ser un entorno auxiliar para convertirse en una estructura dominante. A diferencia de generaciones anteriores de herramientas, señaló, la inteligencia artificial ya no se limita a organizar datos: organiza realidades y, en ocasiones, las inventa.
El paradigma tecnocrático: cuando la eficiencia desplaza al juicio (la batalla por lo humano)
Uno de los conceptos que Hernández Martínez desarrolló con mayor énfasis fue el del paradigma tecnocrático, que tomó directamente del capítulo tercero de la encíclica. Lo describió como un modelo cultural donde la capacidad técnica se convierte en el criterio principal para interpretar la realidad, con cuatro consecuencias concretas: lo eficiente desplaza a lo prudente, lo medible desplaza a lo humano, lo automatizable desplaza a lo relacional y lo rentable desplaza a lo comunitario.
El riesgo, insistió, no es que las máquinas piensen como humanos, sino que los humanos comiencen a pensar como máquinas. Cuando una organización automatiza un juicio ético o estratégico —la selección de personal, la concesión de crédito, la vigilancia predictiva, la evaluación educativa o el monitoreo del desempeño laboral— sin supervisión humana entrenada y estricta, no está optimizando un proceso: está delegando su cultura corporativa y su responsabilidad jurídica a un modelo matemático opaco.
Hernández Martínez destacó que uno de los aspectos más relevantes del capítulo analizado es el examen que hace León XIV sobre la concentración del poder en manos de grandes plataformas digitales y corporaciones tecnológicas. Según el documento pontificio, citó el conductor, estas empresas poseen hoy capacidades inéditas para recopilar información masiva, modelar comportamiento, anticipar decisiones, controlar flujos de atención, influir en procesos democráticos, organizar mercados laborales y condicionar relaciones sociales.
Frente a esto, Hernández Martínez señaló un cambio histórico de fondo: durante siglos, el Estado-nación fue el responsable de impulsar y monopolizar los grandes avances tecnológicos. Hoy, esos avances están en manos de empresas privadas con sus propios paradigmas, agendas, sesgos, valores y prejuicios. De ahí, argumentó, que la inteligencia artificial no pueda considerarse neutral en cuanto a sus propósitos e impactos sociales, posición que el propio León XIV sostiene en la encíclica al afirmar que detrás de cada sistema automatizado existen presupuestos culturales, intereses económicos y concepciones concretas sobre el ser humano.
La autoridad algorítmica: el poder sin nombre ni apellido
Otro punto que el conductor subrayó fue la emergencia de lo que la encíclica llama —y él retomó— una nueva forma de autoridad invisible: la autoridad algorítmica. A diferencia de los modelos tradicionales de poder, donde las decisiones eran tomadas por personas identificables e instituciones visibles con responsables reconocibles, hoy muchas decisiones emergen de sistemas cuya lógica interna resulta inaccesible para la mayoría de la población. Para Hernández Martínez, esto no es un problema técnico: es una transformación de la relación entre ciudadanía y poder.
En el cierre de su análisis, Hernández Martínez abordó lo que llamó la batalla por la atención y la verdad, otro eje del capítulo tercero de Magnifica Humanitas. León XIV, explicó, vincula la inteligencia artificial con la producción de imaginarios sociales: los sistemas digitales no sólo distribuyen información, también organizan la percepción, condicionan lo que vemos, lo que ignoramos, lo que consideramos relevante y cómo construimos la identidad colectiva.
Una sociedad incapaz de distinguir entre información, manipulación y verdad, advirtió Hernández Martínez retomando al autor de la encíclica, termina debilitando sus propios fundamentos democráticos. La tecnología aparece entonces como un factor vinculado a la polarización, la manipulación emocional, la economía de la atención y el debilitamiento deliberativo.
La cuestión no es técnica: es antropológica y política
Para cerrar, Hernández Martínez fue enfático en señalar que la pregunta central que plantea este momento histórico ya no es tecnológica: es política y, sobre todo, antropológica. ¿Qué distingue a la persona de la máquina? ¿Qué valor tiene la libertad humana? ¿Qué significa la dignidad en un mundo automatizado? ¿Qué dimensiones humanas no pueden reducirse a un cálculo algorítmico?
En ese sentido, subrayó que León XIV no pide detener la innovación, sino evitar que la capacidad tecnológica quede separada de mecanismos de responsabilidad social supeditados a la persona y a su dignidad. La revolución tecnológica postmoderna, concluyó Hernández Martínez, no es una transformación meramente informática: es una disputa sobre la definición misma de lo humano.
Su mensaje para la alta dirección fue directo: el desarrollo tecnológico requiere de dirección ética antes que de dirección técnica. Y su advertencia final, tomada del espíritu del capítulo pontificio, fue tan sencilla como contundente: cualquier cosa, antes de que el ser humano se convierta en una variable optimizable dentro de un sistema automatizado.
*Análisis basado en las opiniones de Luis Hernández Martínez, Fundador de Alta Dirección Jurídica, expresadas en el podcast (tres episodios) y programa de radio "Alta Dirección Jurídica (y otras galaxias)", a partir del capítulo tercero de la encíclica Magnifica Humanitas del Papa León XIV.
La tecnología era una herramienta innovadora que el ser humano controlaba, ahora es el eje central que rige la vida de cada persona de un u otra forma, pasamos de usarlo como herramienta a depender de ella.
Con este artículo me ayudo a reflexionar en una pregunta:
¿en qué momento de la historia la maquina tiene el mismo valor que el humano?
Es un artículo interesante que invita a reflexionar sobre cómo la inteligencia artificial está transformando no solo la tecnología, sino también la sociedad, el poder y nuestra forma de entender al ser humano. Destaca la importancia de mantener la ética y la responsabilidad humana en el desarrollo de la IA.
Muy acertadotodo lo que menciona, lo más inquietante del artículo no es que la IA pueda reemplazar decisiones humanas, sino que dejemos de cuestionarnos si debería hacerlo. La 'autoridad algorítmica' avanza precisamente porque es cómoda: nadie tiene que dar la cara. El reto no es frenar la tecnología, sino exigir responsabilidad humana donde hoy solo hay opacidad.
Me pareció muy interesante el artículo porque plantea que la inteligencia artificial ya no es solo una herramienta tecnológica, sino una nueva forma de poder que puede transformar nuestra manera de vivir y tomar decisiones. Me llamó la atención la idea de la “autoridad algorítmica” y el riesgo de que los humanos terminemos pensando como máquinas. Creo que la reflexión sobre mantener una dirección ética antes que técnica es muy importante, sobre todo para no dejar de lado la dignidad y lo humano.
Se me hizo sumamente interesante la perspectiva que comparte Hernández Martínez sobre cómo la inteligencia artificial no es solo una herramienta técnica, sino una transformación civilizatoria y política. Coincido totalmente en que el verdadero riesgo no es que las máquinas empiecen a pensar como humanos, sino que los humanos terminemos pensando y automatizando decisiones éticas como máquinas sin la supervisión adecuada. Además, la reflexión sobre la "autoridad algorítmica" y la batalla por la atención y la verdad pone sobre la mesa un debate urgente sobre cómo esto afecta directamente nuestros fundamentos democráticos.