Cuando la IA entra en la sala de juntas: ¿Quién controla a quién?

"Lo siento, Dave. Me temo que no puedo hacerlo".
- HAL 9000, 2001: Odisea en el espacio

Cuando Stanley Kubrick estrenó 2001: Una odisea del espacio en 1968, la idea de una inteligencia artificial capaz de tomar decisiones -e incluso de desafiar a sus creadores- parecía un ejercicio filosófico y futurista. Hoy, esa ficción ha tomado una forma concreta: los algoritmos intervienen ahora en decisiones críticas de los consejos de administración, influyen en las políticas crediticias, orientan las estrategias empresariales y conforman las decisiones de contratación y despido.

En los últimos años, la Inteligencia Artificial (IA) ha dejado de ser una abstracción tecnológica para convertirse en una fuerza estructural dentro de las organizaciones. Lo que antes quedaba confinado a los departamentos de innovación o TI, ahora exige la atención directa de la cúpula ejecutiva y los consejos de administración.

Prioridades del Consejo de 2022 a 2025

Un examen de los informes anuales de las principales consultoras (EY, McKinsey, Deloitte, PwC) revela un claro cambio:

¿Cuál es el impacto de la IA en las organizaciones?

La IA no es sólo una cuestión de TI: es un motor de transformación sistémica. Su impacto es visible en múltiples niveles:

Estratégico

La IA define las fusiones, fija el precio de los riesgos e influye en las inversiones².

Táctica

Rediseña los flujos de trabajo, automatiza las decisiones y reconfigura los recursos humanos, las cadenas de suministro y las funciones jurídicas.

Cultural

Desafía la intuición directiva, altera la percepción de la autoridad y provoca ansiedad existencial sobre la relevancia humana³.

Tres preguntas incómodas (y no, ninguna de ellas se refiere a si la IA "nos sustituirá")

1.  ¿Quién toma la decisión final? ¿El director general, el comité o el algoritmo?
2. Si se produce un error, ¿quién es el responsable? ¿El programador, el proveedor o la empresa?
3. ¿Tiene el consejo la madurez necesaria para entender qué hay de opaco o sesgado en las recomendaciones algorítmicas?

No son preguntas retóricas. La IA está descentralizando la responsabilidad y erosionando las nociones tradicionales de control. Los consejos que no aborden estas cuestiones corren el riesgo de convertirse en cómplices pasivos de decisiones que no entienden.

Más preocupante aún: en muchas empresas, la ignorancia sobre la IA no es una laguna de conocimientos, sino una elección estratégica. Comprender la tecnología significa asumir la responsabilidad de sus consecuencias. En algunos casos, ignorar la IA se ha convertido en una forma de autopreservación política.

El nuevo Leviatán digital y el fin de la autoridad

El filósofo Yuval Harari afirmó:

"La IA es la primera tecnología de la historia que puede arrebatarnos el poder"⁶.
No se trata sólo de eficiencia, sino de potencia.

Y aquí radica una peligrosa paradoja: los consejos de administración que durante mucho tiempo han funcionado con una lógica binaria (aprobar o desaprobar) se enfrentan ahora a un reto que exige una nueva mentalidad: una mentalidad que interprete, audite, itere y regule con ética y visión sistémica.

Como señala acertadamente el Foro Económico Mundial, el verdadero reto de la IA no está en el código, sino en la gobernanza adaptativa de las decisiones en las que influye⁷.

Cuando la IA se convierte en ideología

No basta con adoptar la IA. Los consejos de administración deben tener el valor de decir "no" cuando sea necesario.

En algunos sectores, la IA ya ha dejado de ser una mera herramienta para convertirse en una ideología: promete neutralidad, precisión y un ahorro de costes incuestionable. Pero, ¿qué ocurre cuando refuerza los prejuicios históricos? ¿Cuando convierte los criterios de decisión en cajas negras?

¿Lo es cuando sus resultados son "técnicamente sólidos" pero social o éticamente desastrosos?

Según el Índice HAI 2024 de Stanford, solo 30% de las grandes empresas prueban sistemáticamente sus algoritmos para detectar sesgos raciales, de género o socioeconómicos⁸.

¿Y si fracasa la gobernanza?

Si surge un escándalo a raíz de una decisión impulsada por IA -como el algoritmo de puntuación crediticia de Apple de 2019 acusado de sesgo de género⁹-, ¿quién será despedido? ¿Al algoritmo? ¿Al proveedor externo? El director de tecnología? O, como de costumbre, ¿a nadie?

La IA no sólo descentraliza la toma de decisiones, sino que diluye la rendición de cuentas. Sin mecanismos digitales de rendición de cuentas, los consejos corren el riesgo de convertirse en meros espectadores de un teatro automatizado.

¿Qué perfiles deben formar parte de la Junta?

No se trata de añadir un científico de datos a la junta. Se trata de reunir un consejo que lo entienda:

• El potencial estratégico de la IA para generar crecimiento y diferenciación.
• Los escollos de la IA, como el sesgo algorítmico, las lagunas de auditabilidad y la dependencia tecnológica.
• Consecuencias éticas, jurídicas y para la reputación de las decisiones basadas en la IA.

Según MIT Sloan Management Review, las juntas directivas con conocimientos de IA superan a las demás en innovación, agilidad y retención del talento⁴. Sin embargo, estos perfiles siguen siendo poco frecuentes y, lo que es peor, no siempre son bienvenidos. La dinámica tradicional de cohesión, consenso fácil y antigüedad sigue dominando muchas salas de juntas.

¿Y los demás jugadores?

Si las juntas directivas son responsables, la presión también debe venir de fuera. Pero..:

• ¿Los accionistas exigen crecimiento o responsabilidad? ¿Ven la IA como innovación o como reducción de plantilla?
• ¿Entienden los reguladores lo que están regulando?
• ¿Los programas de certificación de directivos forman realmente a los directores, o sólo venden manuales anticuados y fórmulas preempaquetadas?

Los programas actuales de formación de directivos ignoran aspectos críticos de la IA. El informe Board of the Future del FEM muestra que menos del 20% de los programas formales de formación de directivos cubren la IA de forma práctica o aplicada¹⁰.

Vías posibles -y urgentes- para avanzar

• Programas de formación continua sobre IA aplicada a la estrategia y la gobernanza.
• Simulaciones de crisis y talleres sobre escenarios de IA en comités de riesgo, innovación y cumplimiento.
• Creación de consejos asesores tecnológicos con voces ajenas a la zona de confort: personas que desafíen, no solo que validen.

En resumen: Lo que la IA dice a los consejos de administración

La IA no pide permiso para entrar. Ya está dentro. Y la cuestión fundamental ya no es si debemos regularlo, sino: ¿Quién dirige la conversación en la sala de juntas?

Las organizaciones que prosperarán no son necesariamente las que más invierten en tecnología.sino los que construyen un liderazgo capaz de juzgarla, cuestionarla e integrarla responsablemente.

Como dijo una vez Hannah Arendt:

"El juicio es la única facultad que no puede automatizarse".Si el consejo no está preparado para hacerlo, alguien -o algo- juzgará en su nombre".

Autores

Pedro Folque De Almeida

Senior Partner