Directores frente a la máquina: la caja negra de la IA, el mayor riesgo no gestionado en la C-Suite

Existe el riesgo de que los directivos se conviertan en simples ejecutores de decisiones tomadas por sistemas que no comprenden ni pueden auditar.

Por Redacción ADJ

La inteligencia artificial dejó de ser un asunto exclusivo del departamento de sistemas para convertirse en una vulnerabilidad crítica de gobierno corporativo, advirtió Luis Hernández Martínez, fundador de Alta Dirección Jurídica, durante el análisis especial que tituló "Directores frente a la máquina", dirigido a directores generales, comités ejecutivos (C-Suite) y consejos de administración.

El verdadero peligro no es que la IA "piense como humano"

Para Hernández Martínez, el riesgo real de la inteligencia artificial no radica en que el sistema imite el razonamiento humano, sino en que los líderes empresariales terminen cediendo su pensamiento crítico y su capacidad de decisión al algoritmo. El especialista advirtió que, en la medida en que un directivo delega su criterio a estas herramientas, se convierte progresivamente —según su metáfora— de "río" en "riachuelo", hasta perder por completo su capacidad de juicio propio.

El presentador fue enfático en señalar que el problema se agrava cuando, además de delegar el pensamiento, la organización ejecuta automáticamente las recomendaciones del sistema sin supervisión.

Para ilustrar el riesgo, Hernández planteó dos escenarios: un algoritmo de asignación de créditos que comienza a negar sistemáticamente solicitudes de un grupo demográfico específico debido a variables indirectas, y un sistema de reclutamiento basado en IA generativa que descarta a un porcentaje significativo de candidatas mujeres por haberse entrenado con datos históricos de una industria dominada por hombres.

En ambos casos, dijo, la respuesta típica de la alta dirección —"la inteligencia artificial es una caja negra, el sistema aprende solo"— ya no es una explicación válida ni jurídicamente sostenible.

Búscanos y rediseña tu modelo de negocio: escríbenos a Alta Dirección Jurídica vía Messenger en Facebook.

El fin del "mito de la innovación descontrolada"

Según el periodista y consultor, la era de la complacencia tecnológica terminó. Citando el proceso administrativo clásico de control empresarial, sostuvo que la opacidad algorítmica ya no puede usarse como excusa: aunque los modelos de IA "aprenden solos", son personas quienes los alimentan, los entrenan y construyen el programa original, por lo que la alta dirección tiene la obligación de informarse sobre los criterios y contenidos que dan forma a esa "caja negra".

Hernández distinguió este fenómeno de la "destrucción creativa", concepto económico legítimo, y lo calificó en cambio como un vacío de gobernanza que corresponde resolver a los consejos de administración y a los directores generales, bajo responsabilidad legal directa.

En la segunda parte de su análisis, el especialista contrastó el mantra de la última década en los comités ejecutivos —inspirado en el estilo de Silicon Valley de "moverse rápido y romper cosas"— con la etapa actual, en la que romper la equidad corporativa, la transparencia o el cumplimiento legal ya no puede absorberse como un simple costo de experimentación.

Citó al filósofo de la tecnología Luciano Floridi, quien —recordó Hernández Martínez— advirtió que el verdadero desafío de la era digital no es la potencia técnica de los sistemas, sino el diseño ético de quienes los gestionan.

A partir de ahí, el conductor alertó que muchos directivos han confundido la eficiencia computacional con la dirección estratégica, delegando juicios éticos y estratégicos —despidos, otorgamiento de crédito, tarifas dinámicas en salud— sin un marco de supervisión humana entrenado y estricto.

Transferencia de agencia: directores frente a la máquina

Hernández utilizó el concepto de "transferencia de agencia" para describir el riesgo de que los directivos se conviertan en simples ejecutores de decisiones tomadas por sistemas que no comprenden ni pueden auditar. Señaló también que, pese a los anuncios sobre la capacidad de la IA para sustituir tareas profesionales complejas, firmas de consultoría de gran prestigio —incluidas algunas de las "Big Four"— han enfrentado demandas y problemas derivados de auditorías realizadas con sistemas de inteligencia artificial que resultaron deficientes.

En ese sentido, expresó su respaldo a contadores, fiscalistas y abogados: se mostró escéptico, al menos en el corto y mediano plazos, a su sustitución total por la IA, debido a los sesgos y errores que aún presentan estos modelos.

Búscanos y mejora tu reputación y construcción de marca: escríbenos a Alta Dirección Jurídica vía Messenger en Facebook.

Uno de los ejes centrales del análisis fue la advertencia sobre el alcance extraterritorial de

la Ley de Inteligencia Artificial de la Unión Europea, ya plenamente operativa. Hernández Martínez comparó el riesgo actual con el error de cálculo que, según dijo, cometieron muchas empresas latinoamericanas y estadounidenses en 2018 al subestimar el alcance del Reglamento General de Protección de Datos (GDPR) europeo.

El especialista explicó que cualquier empresa que procese datos de ciudadanos de la Unión Europea, utilice infraestructura del mercado común europeo o despliegue modelos entrenados ahí, queda sujeta a esa jurisdicción, independientemente de su ubicación geográfica.

De acuerdo con el resumen que ofreció Hernández del marco regulatorio europeo:

• Riesgo inaceptable (prohibido): manipulación del comportamiento humano subconsciente, puntuación social y vigilancia biométrica masiva en tiempo real.

• Alto riesgo: sistemas que influyen en el empleo (evaluación de currículos, sugerencia de promociones, gestión del desempeño), acceso a servicios esenciales como salud y seguros, educación e infraestructuras críticas.

  
  

Las corporaciones que desplieguen aplicaciones de alto riesgo sin un marco auditable de gestión de riesgos algorítmicos, advirtió, podrían enfrentar multas de hasta 35 millones de euros o desprenderse del 7% de su facturación global anual del ejercicio previo, lo que resulte mayor.

Hernández Martínez recordó que organismos como la OCDE y la UNESCO ya emitieron declaraciones sobre inteligencia artificial para el bien común, que buscan establecer marcos de evaluación ética que los reguladores locales —incluidas las superintendencias financieras de América Latina y América del Norte— deben integrar en sus inspecciones.

Según el especialista, la rendición de cuentas y la explicabilidad algorítmica dejaron de ser gestos de responsabilidad social voluntaria para convertirse en requisitos de cumplimiento imperativo.

Para cerrar su análisis, Hernández Martínez fue categórico: si un director general y su comité ejecutivo no comprenden los criterios éticos, los límites de los datos y la lógica operativa detrás de las decisiones que toma la inteligencia artificial que utilizan, entonces no es la C-Suite quien dirige la empresa, sino el algoritmo.

Por ello, sostuvo, la gobernanza de la inteligencia artificial no debe tratarse como una lista de verificación del área de sistemas ni como un ejercicio cosmético de relaciones públicas, sino como la principal competencia de liderazgo, control interno y supervivencia corporativa de las próximas dos décadas.

Mándanos tu idea de negocio: escríbenos a Alta Dirección Jurídica vía Messenger en Facebook.

Puntos clave del análisis

• Fin de la "caja negra" como excusa. Luis Hernández Martínez sostiene que la respuesta de "el sistema aprende solo" ya no exime a la alta dirección de su responsabilidad, pues son personas quienes entrenan y alimentan los algoritmos.

• Transferencia de agencia. El especialista advierte que muchos directivos confunden eficiencia computacional con dirección estratégica, delegando juicios éticos y operativos —despidos, créditos, tarifas de salud— a modelos que no comprenden ni pueden auditar.

• Alcance extraterritorial de la regulación europea. El conductor señala que la Ley de Inteligencia Artificial de la Unión Europea, ya en vigor, aplica a cualquier empresa que procese datos de ciudadanos europeos, use infraestructura del mercado común o despliegue modelos entrenados en ese territorio, con multas de hasta 35 millones de euros o el pago del 7% de la facturación global anual (lo que resulte mayor).

• Categorías de riesgo regulatorio. El marco europeo prohíbe prácticas de riesgo inaceptable (manipulación subconsciente, puntuación social, vigilancia biométrica masiva) y exige controles estrictos para sistemas de alto riesgo vinculados al empleo, la salud, los seguros, la educación y las infraestructuras críticas.

• Marcos internacionales. Organismos como la OCDE y la UNESCO han emitido declaraciones que convierten la rendición de cuentas y la explicabilidad algorítmica en requisitos de cumplimiento imperativo para reguladores locales, incluidas las superintendencias financieras de América Latina y América del Norte.

Accede al contenido completo de nuestro podcast multiplataformas. Aquí tienes el primero de tres episodios que conforman el programa: "Directores frente a la máquina".

PARA CITAR LA PRESENTE NOTA: Hernández, L. (2026, 30 de junio). Directores frente a la máquina: la caja negra de la IA, el mayor riesgo no gestionado en la C-Suite [Entrada de blog]. Alta Dirección Jurídica. https://www.altadireccionjuridica.com/post/directores-frente-a-la-m%C3%A1quina-la-caja-negra-de-la-ia-el-mayor-riesgo-no-gestionado-en-la-c-suite