GDS TV En Vivo
Realizado por Steven D. Shaw y Gideon Nave de Wharton, el experimento involucró a 1.372 participantes resolviendo tareas de lógica con acceso a respuestas generadas por un modelo de lenguaje. Importante: los participantes sabían que el modelo podía cometer errores. A pesar de esto, 73,2% aceptaron las respuestas incorrectas, mientras que solo 19,7% las rechazaron. Este fenómeno, denominado "rendición cognitiva", sugiere que los individuos no solo ignoraron errores, sino que optaron por confiar en la IA.
Los investigadores identificaron factores que influyen en esta rendición. La presión de tiempo incrementa la dependencia de la IA, mientras que los incentivos económicos para aciertos solo reducen la rendición parcialmente. La confianza previa en la IA constituye el predictor más fuerte: aquellos que confían en el sistema acaban delegando más, incluso si tienen la capacidad para resolver el problema.
Shaw y Nave argumentan que esta rendición no es necesariamente negativa. Puede considerarse racional en contextos en que el modelo proporciona respuestas más precisas que el usuario. Sin embargo, advierten sobre la calibración de esta confianza. Los usuarios suelen extender su confianza a áreas donde el desempeño de la IA es variable, lo que puede llevar a consecuencias problemáticas.
Aunque el estudio se realizó en un entorno controlado, sus implicaciones son significativas. En campos como la medicina, una confianza mal fundamentada en herramientas diagnósticas puede afectar la salud de los pacientes. En el análisis financiero, errores en resúmenes generados por IA pueden resultar en pérdidas económicas. Y en educación, la dependencia de la IA puede comprometer el proceso de aprendizaje.
Para mitigar el riesgo de rendición cognitiva, los investigadores recomiendan que los usuarios primero formulen sus propias respuestas basadas en sus intuiciones y análisis, y luego utilicen la IA para cuestionar y refinar esas ideas. Sin embargo, este enfoque requiere el mismo esfuerzo que la rendición cognitiva busca evitar.
La creciente influencia de la IA en nuestras decisiones plantea preguntas cruciales sobre cómo debemos gestionar esta nueva realidad. Es esencial equipar a los usuarios con herramientas y estrategias que les permitan discernir cuándo la IA ayuda y cuándo se convierte en una muleta peligrosa.
