El algoritmo no quiere destruirte, sólo quiere que dejes de pensar
Inteligencia artificial, toma de decisiones y la trampa perfecta de la eficiencia.
Por Alta Dirección Jurídica | Boletín de análisis empresarial*
Este es el eje que Hernández Martínez (como su autor y desarrollador intelectual) coloca por encima de cualquier debate tecnológico, y merece un tratamiento explícito: “la arquitectura de las decisiones”.
El mayor riesgo de la inteligencia artificial no es que las máquinas aprendan a pensar. Es que los seres humanos dejen de hacerlo. Esa es la tesis central que Luis Hernández Martínez, consultor, conferencista y fundador de Alta Dirección Jurídica, desarrolló en el podcast Alta Dirección Jurídica (y otras galaxias) con el tema: “El algoritmo no quiere destruirte, sólo quiere que dejes de pensar”, donde conecta filosofía social, ética empresarial y gobierno corporativo para lanzar una advertencia directa a la alta dirección.
La trampa perfecta no parece trampa
Hernández Martínez señala que nadie obliga a nadie a abrir TikTok, aceptar las recomendaciones de Netflix ni preguntarle todo a ChatGPT. Los algoritmos no se imponen: simplemente son mejores que el esfuerzo humano para decidir. Así, paso a paso y sin que nadie lo perciba, una generación entera comenzó a delegar pequeñas decisiones. El problema, advierte el experto, es que las pequeñas decisiones terminan moldeando las grandes.
Weber y Horkheimer: el pasado que describe el presente
Para sostener su argumento, el especialista recupera dos referencias filosóficas de vigencia sorprendente. En 1905, Max Weber advirtió que la modernidad corría el riesgo de atrapar a la sociedad en una jaula de hierro: un sistema tan eficiente que terminaría olvidando por qué hacía todo lo que hacía.
En 1947, Max Horkheimer profundizó esa idea con el concepto de razón instrumental: la eficiencia como criterio supremo de decisión, desplazando la pregunta más incómoda e importante en cualquier sala de juntas: “Eso que proponen, ¿vale la pena hacerlo?”.
Toma de decisiones e implicaciones éticas: el núcleo del análisis
Este es el eje que Hernández Martínez (como su autor y desarrollador intelectual) coloca por encima de cualquier debate tecnológico, y merece un tratamiento explícito: “la arquitectura de las decisiones”.
El especialista distingue con precisión dos tipos de decisión que hoy conviven —y se confunden— en las organizaciones:
La decisión técnica es aquella que un algoritmo puede ejecutar con ventaja: calcular riesgos, redactar contratos, analizar jurisprudencia, filtrar candidatos.
La decisión moral es irreductible a cualquier modelo computacional: determinar si lo que se va a hacer vale la pena, si es justo, si respeta la dignidad de las personas afectadas.
El ejemplo que plantea Hernández Martínez es quirúrgico: un cliente detecta un vacío legal y quiere explotarlo para perjudicar deliberadamente a miles de personas. La inteligencia artificial, dice el analista, “puede indicarte con precisión cómo hacerlo”. Pero “jamás responderá si deberías”. Y ahí, exactamente ahí, está la fractura ética que ninguna eficiencia puede suturar.
La implicación directiva es inmediata: cuando un director general automatiza ese tipo de juicio —o simplemente lo omite porque el sistema no lo plantea— no está optimizando un proceso. Está abdicando de su responsabilidad jurídica y moral. Está firmando en blanco a favor del algoritmo y, detrás de él, de la empresa que lo diseñó con su propia agenda.
La habilidad más valiosa del siglo XXI
El cierre del análisis es una pregunta que el conductor lanza a su audiencia: “¿Cuántas decisiones de hoy fueron realmente mías?” La respuesta, sostiene Luis Hernández Martínez, revelará si quien dirige la organización es el director general o el algoritmo. La habilidad más importante nunca consistió en responder preguntas. Consistió en aprender a formular los cuestionamientos correctos.
Temas clave del podcast: el algoritmo no quiere destruirte
Tema | Concepto central | Proceso de toma de decisiones | Implicación ética concreta |
Delegación algorítmica | El algoritmo elige lo que ves antes de que tú decidas | Decisiones de consumo, atención e información son preconfiguradas | El directivo pierde agencia sin saberlo ni consentirlo |
Jaula de hierro; Weber (1905) | Sistema tan eficiente que olvida su propósito | La organización optimiza sin preguntar para qué | Vacío de propósito: eficiencia sin brújula ética |
Razón instrumental; Horkheimer (1947) | La eficiencia se convierte en el criterio supremo | ¿Cómo hacerlo más rápido? reemplaza a ¿vale la pena hacerlo? | Cualquier objetivo parece justificable si produce resultados |
Decisión técnica vs. Decisión moral | La IA responde cómo; nunca si deberías | El juicio moral queda fuera del flujo algorítmico | La responsabilidad ética es intransferible; el directivo sigue siendo el responsable legal |
No neutralidad del algoritmo | Toda IA obedece la agenda de su empresa propietaria | Las decisiones del sistema reflejan valores ajenos a la organización usuaria | Delegar decisiones es delegar también la cultura corporativa y la identidad ética |
Aceleración tecnológica; Rosa (2000) | Más tecnología genera más sensación de falta de tiempo | Las decisiones se toman por reacción, no por reflexión | El liderazgo reactivo sustituye al liderazgo deliberativo |
La pregunta incómoda | ¿Vale la pena hacerlo? desaparece de las reuniones | Sin esa pregunta, el proceso decisional queda incompleto | Se normaliza la ausencia de criterio ético en la estrategia |
La habilidad más valiosa | Formular las preguntas correctas, no sólo responder rápido | El pensamiento crítico es el único proceso que el algoritmo no puede reemplazar | Quien no formula preguntas éticas, cede el gobierno de la organización al sistema |
Nota: el contenido de la tabla tiene como fuente las declaraciones y opiniones de Luis Hernández Martínez, fundador de Alta Dirección Jurídica, transmitidas en el programa Alta Dirección Jurídica (y otras galaxias). Contacto: miabogadoluistv@gmail.com
*Análisis basado en las opiniones de Luis Hernández Martínez, Fundador de Alta Dirección Jurídica, expresadas en el podcast y programa de radio "Alta Dirección Jurídica (y otras galaxias)". Aquí el primero de tres episodios sobre: "El algoritmo no quiere destruirte: sólo quiere que dejes de pensar".
La inteligencia artificial es una gran herramienta que en algunos casos es requerida como requisito para trabajar, es una gran ayuda si nosotros seamos quienes la controlen y no al contrario. Creo que para muchos de nosotros, jovenes, nos ha provocado que dejemos de tener el ejercicio de pensar, de razonar, o de crear. No es mala la IA, si sabemos hasto donde llegar con ela
En la actualidad se ha sobrevalorado la eficiencia y velocidad, no podemos negar que son parte de una organización confiable, pero no lo son todo cuando se pierde el verdadero enfoque y propósito
La IA nos ofrece tanto que poco a poco también nos ofrece pensar por nosotros y lo peor del caso es que estamos accediendo sin siquiera notarlo.
El título lo dice todo: la amenaza no es apocalíptica, es cómoda. El algoritmo no necesita vencerte, solo necesita que le entregues el juicio a cambio de conveniencia. La atrofia del pensamiento crítico no se impone, se acepta.
Me pareció interesante porque plantea que el verdadero riesgo de la IA no es que piense por nosotros, sino que nosotros dejemos de hacerlo. A veces, por buscar eficiencia y rapidez, terminamos delegando pequeñas decisiones sin darnos cuenta. Me gustó mucho el artículo.
La tecnología y los algoritmos eligen por nosotros de forma invisible, haciendo que deleguemos pequeñas decisiones que moldean nuestra vida. Esto genera una "jaula de hierro" y una "razón instrumental" donde solo importa la eficiencia técnica (cómo hacerlo) y se olvida la ética (si vale la pena hacerlo). Cuando un directivo deja que una IA decida por él, abdica de su responsabilidad moral y entrega el control a una herramienta que obedece a intereses ajenos. Por eso, la verdadera habilidad clave hoy no es buscar respuestas, sino saber hacer las preguntas correctas para no perder el control de nuestras decisiones.