Sistemas inteligentes, consecuencias opacas (*)

La incorporación de la Inteligencia Artificial (IA) en la toma de decisiones se ha convertido en una pieza central en la administración pública y el sector privado. Su promesa es clara: mayor eficiencia, reducción de errores humanos, estandarización de procesos y capacidad para gestionar altos volúmenes de información. Sin embargo, las experiencias recientes en distintos países muestran que, cuando estos sistemas se despliegan sin suficientes garantías de control, transparencia y supervisión, pueden generar efectos problemáticos: opacidad en la toma de decisiones, reproducción de sesgos, así como daños masivos difíciles de detectar y corregir a tiempo. Ejemplos de estos inconvenientes son los siguientes:

·       Decisiones automatizadas en ayudas sociales (BOSCO, 2017 a 2025)

Un primer caso es el uso del sistema BOSCO, en España. Se utilizaba para gestionar las ayudas sociales del bono social eléctrico, verificando requisitos y cruzando datos procedentes de distintas administraciones. Su propósito era agilizar la concesión de ayudas y reducir la carga burocrática. Sin embargo, el problema emergió cuando las personas afectadas comenzaron a recibir denegaciones sin poder entender con claridad el motivo concreto de los rechazos, ni disponer de una explicación accesible sobre la lógica aplicada.

La falta de explicaciones del sistema y las dificultades para acceder a su funcionamiento interno generaron un debate sobre la transparencia de los algoritmos públicos y el derecho de los ciudadanos a comprender decisiones administrativas automatizadas. Este conflicto escaló hasta los tribunales, culminando en una decisión del Tribunal Supremo en 2025, que reconoció la necesidad de garantizar el acceso y la auditabilidad de este tipo de sistemas cuando afectan a derechos de los ciudadanos. La implicación de fondo fue clara: la automatización no puede convertirse en una zona de opacidad institucional, especialmente cuando sustituye decisiones administrativas tradicionales.

·       Automatización del control de fraude (Toeslagenaffaire, Ayudas infantiles, 2005 al 2025)

Un segundo caso ocurrió en Países Bajos, con la automatización de la detección de fraude en ayudas familiares. En este sistema, modelos algorítmicos identificaban posibles casos de fraude y activaban procesos donde se exigían devoluciones de prestaciones ya recibidas. El resultado fue la aparición de un número muy elevado de falsos positivos que afectaron a miles de familias, muchas de ellas sin capacidad real de defensa ante un sistema altamente automatizado, rígido y poco sensible a contextos individuales.

Las consecuencias fueron graves: endeudamiento masivo, pérdida de viviendas, deterioro de la estabilidad familiar y exclusión social en numerosos casos. La magnitud del problema llevó a una crisis institucional de gran escala. Tras la revelación del alcance del escándalo y la confirmación de fallos estructurales en el sistema de control y supervisión, el gobierno neerlandés terminó dimitiendo en bloque en 2021. Además, el sistema de detección de fraude fue progresivamente desmantelado y reformulado tras la constatación de su impacto desproporcionado y discriminatorio.

Este caso evidenció el riesgo de aplicar modelos de control automatizado excesivamente agresivos sin mecanismos robustos de revisión humana, proporcionalidad en las sanciones y evaluación del impacto social. La automatización no solo no evitó errores, sino que los amplificó hasta convertirlos en una crisis política e institucional.

·       Sesgos en contratación (Amazon Recruiting AI, 2014 a 2018)

El tercer caso procede del ámbito privado, en el que un sistema automatizado de selección de candidatos fue diseñado para filtrar currículums en procesos de contratación. El modelo fue entrenado con datos históricos de contrataciones previas, con el objetivo de identificar patrones asociados al éxito laboral dentro de la empresa.

Sin embargo, estos datos reflejaban una realidad previa ya sesgada, en la que determinados perfiles estaban sobrerrepresentados. Como resultado, el sistema acabó reproduciendo y amplificando esos sesgos, penalizando indirectamente a candidatas mujeres y favoreciendo perfiles masculinos. Incluso, tras intentos de corrección, el sistema seguía utilizando variables indirectas que perpetuaban la discriminación.

Ante la imposibilidad de garantizar un comportamiento justo y controlable del modelo, el proyecto fue finalmente abandonado y no llegó a desplegarse como sistema oficial de contratación. La cancelación del sistema evidenció una lección clave: en determinados contextos, corregir un modelo sesgado no siempre es suficiente, y puede ser necesario renunciar a su uso cuando no se puede garantizar equidad y explicaciones.

Conclusión: cuando la automatización supera la capacidad de control

Estos tres casos muestran un patrón común que trasciende contextos y sectores: la automatización de decisiones sensibles sin transparencia suficiente, sin auditoría independiente y sin supervisión humana efectiva tiende a transformar errores puntuales en problemas sistémicos.

En BOSCO, el conflicto derivó en una intervención judicial que reforzó la exigencia de transparencia en sistemas públicos automatizados. En la Toeslagenaffaire, el impacto fue tan profundo que desencadenó la dimisión del gobierno y la desarticulación del modelo de control automatizado. En el caso de Amazon, el sistema fue finalmente cancelado al no poder garantizar un comportamiento justo y libre de sesgos.

La lección que se desprende es clara: la IA no puede sustituir la gobernanza institucional, sino que debe estar subordinada a ella. Esto implica reforzar la transparencia, garantizar las explicaciones, establecer auditorías independientes continuas, asegurar mecanismos efectivos de apelación y definir responsabilidades claras sobre las decisiones automatizadas.

Bajo estas condiciones, entre otras, la IA puede consolidarse como una herramienta de mejora real. Sin ellas, puede ser un medio para masificar errores, opacidad y desigualdad a una velocidad que puede resultarnos difícil de gestionar.

 

(*)    Inspirado por la ponencia de Benito Rodríguez Bouza, durante la presentación de los Embajadores del IIBA España, 5 de marzo de 2026. https://www.youtube.com/watch?v=k9E2306Jl7w

El Quijote y la Inteligencia Artificial (IA): de los molinos al algoritmo.

En Don Quijote de la Mancha, Miguel de Cervantes concibe a un hombre que vive más en el mundo que imagina que en el real. Los molinos se convierten en gigantes porque su imaginación es más poderosa que los hechos. Su experiencia está gobernada por el significado que decide otorgarle a la realidad y no por lo que ocurre.

Algo semejante —aunque radicalmente distinto en su naturaleza— sucede con la inteligencia artificial (IA). La IA no accede al mundo como lo hace un ser humano: no percibe, no comprende, no experimenta. Reconstruye patrones a partir de datos y produce respuestas estadísticamente plausibles. Cuando acierta, parece entender; cuando se equivoca, genera afirmaciones coherentes pero infundadas. Opera dentro de una lógica interna consistente, aunque esa coherencia no garantice la verdad.

La diferencia esencial es la conciencia. Don Quijote elige su ficción   como proyecto vital: busca justicia, honra y belleza. La IA, en cambio,   no  persigue fines ni   alberga  ideales; optimiza probabilidades. Don   Quijote transforma el   mundo para dotarlo de sentido; la máquina   procesa información sin saber  que lo hace.

Sin embargo, ambos revelan una lección común: la coherencia   narrativa   puede ser más persuasiva que la realidad. Una historia bien   construida —sea literaria o algorítmica— puede imponerse a los   hechos  si quien la  recibe renuncia a examinarlos críticamente. El   riesgo no reside en la   ficción consciente del caballero ni en el cálculo   automático del sistema, sino en nuestra disposición a aceptar como   verdadero lo que simplemente suena convincente.

Por eso adquiere importancia y actualidad la figura de Sancho Panza, quien encarna el juicio práctico, la verificación paciente, el contraste con la experiencia. Hoy, esos “Sanchos” son quienes auditan algoritmos, regulan tecnologías, enseñan pensamiento crítico y verifican información antes de difundirla. No detienen el progreso; lo hacen responsable.

Hoy, el quijotismo ya no es individual, se ha vuelto coral: interpretación moderna propuesta por el jurista Antonio Colomer Viadel, que traslada el idealismo quijotesco desde la figura solitaria hacia una colectiva. Millones de personas imaginan simultáneamente, proyectan utopías y temores sobre sistemas que multiplican la fuerza de esas narrativas.

Si el quijotismo se colectiviza y la IA lo potencia, Sancho Panza no puede seguir siendo solitario. Necesitamos un Sancho coral —o incluso un “super Sancho”—: una prudencia organizada, crítica y compartida, capaz de estar a la altura de la magnitud tecnológica.

Antes bastaba un escudero para equilibrar a un caballero. Hoy, frente a una imaginación amplificada por la IA, hace falta una comunidad entera que ejerza juicio. Porque cuando el sueño se vuelve masivo y la máquina lo acelera, solo una responsabilidad igualmente coral puede impedir que confundamos definitivamente los molinos con gigantes.

Análisis de Negocios (Business Analysis - BA) – 06 El Juego del Ultimátum y su aplicación en el BA

La teoría económica clásica afirma que los individuos toman decisiones racionales, buscando maximizar su beneficio. Es decir, los agentes económicos comparan costos y beneficios de distintas opciones y eligen la que les proporciona mayor valor. Con el Juego del Ultimátum, que es un experimento de la Teoría de Juegos, se comprueba que las decisiones económicas no siempre son racionales, sino que a veces están influenciadas por factores psicológicos y sociales. En el juego participan 2 jugadores (el Oferente y el Receptor) y un monto determinado de dinero. El Oferente debe presentar una propuesta al Receptor de cómo dividirse entre ellos el dinero. Si el Receptor acepta la oferta, ambos reciben las cantidades presentadas; si la rechaza, ambos se quedan sin nada. La teoría económica clásica sugiere que el Receptor debería aceptar cualquier cantidad mayor a cero, porque tener algo es más valioso que no tener. Sin embargo, en la práctica, muchos rechazan ofertas que consideran injustas, lo que demuestra una toma de decisiones emocionales, en lugar de racionales.

El Juego del Ultimátum es una herramienta valiosa para los BA. Los ayuda a comprender que los grupos de interés no siempre toman decisiones basadas en la utilidad financiera. Que factores como la confianza, la reputación y la equidad juegan un papel crucial. Que Las empresas deben estructurar incentivos que eviten la percepción de injusticia por parte de empleados, clientes o socios. Que comprender el comportamiento de los clientes puede ayudar a estructurar ofertas que sean mejor recibidas. Que es clave diseñar procesos de toma de decisiones que minimicen conflictos y maximicen la aceptación de cambios organizacionales. Que al modelar procesos de negocio es importante prever reacciones adversas a decisiones que puedan percibirse como desiguales o arbitrarias. Que en proyectos de cambio algunas decisiones pueden generar rechazo si los beneficios no se perciben como ecuánimes. Que se pueden anticipar y mitigar riesgos relacionados con la aceptación de nuevas políticas o tecnologías.

El Juego del Ultimátum instruye al BA, mostrándole que las decisiones empresariales están influenciadas no solo por la racionalidad económica, sino también por la percepción de altruismo y egoísmo. Si los BA integran estos principios en su labor puede mejorar la toma de decisiones, las negociaciones y la implementación de cambios en una organización. Aplicar este conocimiento puede marcar la diferencia entre una estrategia exitosa y una que muestre resistencia por parte de los grupos de interés.

                                                                                                     Continuaremos…

Un cambio paradigmático en la Gestión de Proyectos: nunca es tarde.

El Project Management Institute (PMI), en su “Project Management Body of Knowledge (PMBOK)”, V.8, publicado en noviembre de 2025, redefinió el concepto de proyecto. De considerarlo un esfuerzo temporal orientado a producir entregables definidos, gestionado bajo restricciones de tiempo, costo y calidad, pasó a entenderlo como una iniciativa temporal, en un contexto único, destinada a crear valor.

El cambio es más estratégico que semántico. Al introducir el concepto de iniciativa se incorpora intención y liderazgo; cuando destaca contexto único asume que los proyectos están condicionados por el entorno, el mercado y el momento en que se ejecutan. Sin embargo, el giro central está en poner el foco en el valor, idea que, desde hace años, forma parte del pensamiento avanzado en gestión de proyectos en organizaciones maduras; pero lo relevante es que el PMI lo consolida como principio medular, reconociendo formalmente que los proyectos no existen para completarse, sino para justificar su esfuerzo a través del impacto que generan. 

Bajo esta óptica, finalizar un proyecto en tiempo, presupuesto y calidad ya no es suficiente. Un proyecto puede cumplir sus métricas operativas y aun así fracasar si no genera valor real. De igual manera, puede redefinirse o cerrarse anticipadamente si el valor esperado deja de existir.

En consecuencia, la nueva definición de la gestión de proyectos se alinea con la estrategia del negocio: la finalización es un hito operativo; el valor es el criterio verdadero del éxito.

Pero, ¿Qué entendemos por valor? En este contexto, el valor es la capacidad de un proyecto para maximizar beneficios, minimizar riesgos y optimizar recursos, y existe únicamente cuando estos tres elementos están alineados con la percepción del cliente. De nada sirve que el Gerente de Proyecto (PM) considere que el proyecto es eficiente o exitoso si el cliente no reconoce los beneficios, percibe riesgos no gestionados o considera desproporcionado el esfuerzo invertido. Por ello, la gestión de proyectos debe asegurar una alineación continua entre la percepción de valor del cliente y la del PM, porque el valor no se declara, se valida en la experiencia y el juicio del cliente.

Por otra parte, el valor no es infinito; tiene un punto óptimo, a partir del cual el esfuerzo adicional deja de traducirse en beneficios.

Alcanzar el éxito depende, en gran medida, de las habilidades del PM, entre ellas comprender la “Ley de los rendimientos decrecientes”. Ésta indica que, después de cierto punto, los recursos añadidos a una actividad aportan cada vez menos a los resultados, incluso pueden empeorarlos. Es simple: Más, no siempre es mejor; llega un momento en que es peor.

Trasladado a la gestión de proyectos: al inicio, sumar recursos como personas, tiempo o presupuesto aumenta el valor entregado; pero, pasado de cierto punto, la coordinación se complica, la comunicación se vuelve más ruidosa, la toma de decisiones se ralentiza y el foco se desplaza del valor hacia la gestión del sistema de control. Un buen PM sabe cuándo no agregar recursos; mientras que otro menos experimentado cree que las soluciones pasan por más control y más recursos.

En esta nueva era, el éxito de un proyecto se mide por la armonía entre el valor entregado y el esperado por el cliente, lo que exige un PM con madurez estratégica, juicio sólido y capacidad para equilibrar de manera eficaz beneficios, riesgos y recursos.