¿Y ahora quién se atreve a contradecir a la IA?

“Siguieron la recomendación de un sistema automatizado, incluso cuando contradecía su formación y otros indicadores disponibles y plenamente fiables”Skitka, L. J., Mosier, K. L., y Burdick, M. (1999). Does automation bias decision-making? International Journal of Human-Computer Studies. (traducción de un fragmento del resumen)Ahora que la inteligencia artificial está cada vez más presente en las actividades de una organización, vale la pena detenernos en una situación que puede pasar inadvertida. Le pedimos a la IA que nos ayude a tomar una decisión y terminamos aceptando su recomendación sin contrastar la información o pasando por alto evidencia que apunta en otra dirección. En la práctica, le estamos delegando una decisión que nos corresponde tomar.En la literatura académica, este fenómeno se conoce como sesgo de automatización. Ocurre cuando damos tanto peso a las sugerencias de un sistema automatizado que dejamos de verificar la información que nos brinda. Como muestra el estudio citado, esa confianza puede llevarnos incluso a desatender lo que hemos aprendido en nuestra formación o a ignorar señales que indican que el sistema podría estar equivocado.A esto se suma que la IA generativa puede «alucinar», es decir, producir información falsa que parece verosímil. Un caso que llamó la atención en 2025 fue el de un informe de Deloitte para la provincia canadiense de Terranova y Labrador. La firma reconoció que había usado IA para apoyar un pequeño número de citas y anunció correcciones después de que se detectaran referencias erróneas. Deloitte sostuvo que esas correcciones no afectaban los hallazgos del informe (The Canadian Press). Puede ocurrir también que alguien del equipo sí advierta un error en la recomendación de la IA, pero decida guardar silencio porque el gerente ya la hizo suya. En esa situación, cabe preguntarnos a quién siente que está contradiciendo esa persona si decide hablar. ¿A la herramienta que generó la recomendación o al gerente que la respaldó?La cultura organizacional nos ayuda a entender por qué una objeción bien fundamentada puede quedar sin plantearse. En los procesos de cambio y de adopción de nuevas tecnologías, importa cómo han aprendido las personas a actuar frente a situaciones como esta. Si en el pasado cuestionar una decisión del jefe fue mal recibido, es comprensible que alguien dude antes de intervenir, aun cuando tenga evidencia para hacerlo.Por eso, a medida que incorporamos la IA a nuestras decisiones, conviene hacernos dos preguntas. ¿Qué tan fácil es en nuestra organización cuestionar una decisión que ya cuenta con el respaldo de un gerente? ¿Y qué sucede con esa posibilidad de discrepar cuando el gerente apoya su decisión en lo que recomienda la inteligencia artificial?