El algoritmo no quiere destruirte, sólo quiere que dejes de pensar
- Alta Dirección Jurídica
- hace 15 horas
- 4 min de lectura
Inteligencia artificial, toma de decisiones y la trampa perfecta de la eficiencia.
Por Alta Dirección Jurídica | Boletín de análisis empresarial*
Este es el eje que Hernández Martínez (como su autor y desarrollador intelectual) coloca por encima de cualquier debate tecnológico, y merece un tratamiento explícito: “la arquitectura de las decisiones”.
El mayor riesgo de la inteligencia artificial no es que las máquinas aprendan a pensar. Es que los seres humanos dejen de hacerlo. Esa es la tesis central que Luis Hernández Martínez, consultor, conferencista y fundador de Alta Dirección Jurídica, desarrolló en el podcast Alta Dirección Jurídica (y otras galaxias) con el tema: “El algoritmo no quiere destruirte, sólo quiere que dejes de pensar”, donde conecta filosofía social, ética empresarial y gobierno corporativo para lanzar una advertencia directa a la alta dirección.
La trampa perfecta no parece trampa
Hernández Martínez señala que nadie obliga a nadie a abrir TikTok, aceptar las recomendaciones de Netflix ni preguntarle todo a ChatGPT. Los algoritmos no se imponen: simplemente son mejores que el esfuerzo humano para decidir. Así, paso a paso y sin que nadie lo perciba, una generación entera comenzó a delegar pequeñas decisiones. El problema, advierte el experto, es que las pequeñas decisiones terminan moldeando las grandes.
Weber y Horkheimer: el pasado que describe el presente
Para sostener su argumento, el especialista recupera dos referencias filosóficas de vigencia sorprendente. En 1905, Max Weber advirtió que la modernidad corría el riesgo de atrapar a la sociedad en una jaula de hierro: un sistema tan eficiente que terminaría olvidando por qué hacía todo lo que hacía.
En 1947, Max Horkheimer profundizó esa idea con el concepto de razón instrumental: la eficiencia como criterio supremo de decisión, desplazando la pregunta más incómoda e importante en cualquier sala de juntas: “Eso que proponen, ¿vale la pena hacerlo?”.
Toma de decisiones e implicaciones éticas: el núcleo del análisis
Este es el eje que Hernández Martínez (como su autor y desarrollador intelectual) coloca por encima de cualquier debate tecnológico, y merece un tratamiento explícito: “la arquitectura de las decisiones”.
El especialista distingue con precisión dos tipos de decisión que hoy conviven —y se confunden— en las organizaciones:
La decisión técnica es aquella que un algoritmo puede ejecutar con ventaja: calcular riesgos, redactar contratos, analizar jurisprudencia, filtrar candidatos.
La decisión moral es irreductible a cualquier modelo computacional: determinar si lo que se va a hacer vale la pena, si es justo, si respeta la dignidad de las personas afectadas.
El ejemplo que plantea Hernández Martínez es quirúrgico: un cliente detecta un vacío legal y quiere explotarlo para perjudicar deliberadamente a miles de personas. La inteligencia artificial, dice el analista, “puede indicarte con precisión cómo hacerlo”. Pero “jamás responderá si deberías”. Y ahí, exactamente ahí, está la fractura ética que ninguna eficiencia puede suturar.
La implicación directiva es inmediata: cuando un director general automatiza ese tipo de juicio —o simplemente lo omite porque el sistema no lo plantea— no está optimizando un proceso. Está abdicando de su responsabilidad jurídica y moral. Está firmando en blanco a favor del algoritmo y, detrás de él, de la empresa que lo diseñó con su propia agenda.
La habilidad más valiosa del siglo XXI
El cierre del análisis es una pregunta que el conductor lanza a su audiencia: “¿Cuántas decisiones de hoy fueron realmente mías?” La respuesta, sostiene Luis Hernández Martínez, revelará si quien dirige la organización es el director general o el algoritmo. La habilidad más importante nunca consistió en responder preguntas. Consistió en aprender a formular los cuestionamientos correctos.
Temas clave del podcast: el algoritmo no quiere destruirte
Tema | Concepto central | Proceso de toma de decisiones | Implicación ética concreta |
Delegación algorítmica | El algoritmo elige lo que ves antes de que tú decidas | Decisiones de consumo, atención e información son preconfiguradas | El directivo pierde agencia sin saberlo ni consentirlo |
Jaula de hierro; Weber (1905) | Sistema tan eficiente que olvida su propósito | La organización optimiza sin preguntar para qué | Vacío de propósito: eficiencia sin brújula ética |
Razón instrumental; Horkheimer (1947) | La eficiencia se convierte en el criterio supremo | ¿Cómo hacerlo más rápido? reemplaza a ¿vale la pena hacerlo? | Cualquier objetivo parece justificable si produce resultados |
Decisión técnica vs. Decisión moral | La IA responde cómo; nunca si deberías | El juicio moral queda fuera del flujo algorítmico | La responsabilidad ética es intransferible; el directivo sigue siendo el responsable legal |
No neutralidad del algoritmo | Toda IA obedece la agenda de su empresa propietaria | Las decisiones del sistema reflejan valores ajenos a la organización usuaria | Delegar decisiones es delegar también la cultura corporativa y la identidad ética |
Aceleración tecnológica; Rosa (2000) | Más tecnología genera más sensación de falta de tiempo | Las decisiones se toman por reacción, no por reflexión | El liderazgo reactivo sustituye al liderazgo deliberativo |
La pregunta incómoda | ¿Vale la pena hacerlo? desaparece de las reuniones | Sin esa pregunta, el proceso decisional queda incompleto | Se normaliza la ausencia de criterio ético en la estrategia |
La habilidad más valiosa | Formular las preguntas correctas, no sólo responder rápido | El pensamiento crítico es el único proceso que el algoritmo no puede reemplazar | Quien no formula preguntas éticas, cede el gobierno de la organización al sistema |
Nota: el contenido de la tabla tiene como fuente las declaraciones y opiniones de Luis Hernández Martínez, fundador de Alta Dirección Jurídica, transmitidas en el programa Alta Dirección Jurídica (y otras galaxias). Contacto: miabogadoluistv@gmail.com
*Análisis basado en las opiniones de Luis Hernández Martínez, Fundador de Alta Dirección Jurídica, expresadas en el podcast y programa de radio "Alta Dirección Jurídica (y otras galaxias)". Aquí el primero de tres episodios sobre: "El algoritmo no quiere destruirte: sólo quiere que dejes de pensar".
Comentarios