Entrevista a Eric So (MIT Sloan) sobre IA y pensamiento humano

Para las empresas, la IA ofrece una combinación muy atractiva: menos esfuerzo, mayor productividad y decisiones más rápidas. Pero ¿qué ocurre cuando eliminamos precisamente la práctica que nos permite ser buenos en nuestro trabajo? En su nuevo libro, The Collision: What AI Does to Us, el profesor de MIT Sloan Eric So propone una adopción más rigurosa de la IA; una que mejore el desempeño sin debilitar la experiencia humana. Muchas empresas están adoptando la IA para agilizar sus procesos de trabajo. Pero ¿hacer las cosas más rápido significa siempre hacerlas mejor?

• 

  La IA nos está permitiendo realizar muchas tareas más rápido. Nos da acceso a herramientas avanzadas que aprovechan el conocimiento acumulado por la humanidad y permiten obtener resultados preliminares con mayor rapidez. En The Collision planteo que la inteligencia artificial no solo está cambiando lo que podemos hacer, sino también nuestra forma de pensar. Obtener resultados con mayor rapidez no significa necesariamente que obtengamos mejores resultados, ni individual ni colectivamente.

  Existe una fuerte tentación de avanzar más rápido y producir más en menos tiempo. Sin embargo, también debemos considerar el costo de delegar cada vez más nuestro pensamiento para ganar velocidad. La IA puede ayudarnos a trabajar más rápido, pero que también nos haga más inteligentes depende de cómo la utilicemos.

• ¿Por qué los humanos sentimos la tentación de delegar nuestro pensamiento a la IA?

  En el libro presento el concepto de “gravedad de la IA”: la tendencia a depender cada vez más de la inteligencia artificial. Esta atracción surge de varios factores que actúan conjuntamente, entre ellos la biología. Aunque el cerebro humano representa apenas cerca del 2 % del peso corporal, consume más del 20 % de la energía que utilizamos en reposo. Dado que pensar requiere un esfuerzo considerable, nuestro cerebro ha desarrollado la tendencia a ahorrar energía siempre que sea posible. La IA responde a esa necesidad: nos permite lograr muchas cosas con muy poco esfuerzo mental.

  También existe una presión social y económica. En las organizaciones de hoy, no solo se valora lo que producimos, sino también nuestro rendimiento en comparación con el de otras personas. Si creemos que un compañero utiliza la IA para producir más y trabajar más rápido, sentimos la presión de hacer lo mismo. El temor a quedarnos atrás nos impulsa todavía más a recurrir a la IA.

  Cuando estas fuerzas se combinan con el incremento de la productividad que ofrece la IA a corto plazo, resistirse a utilizarla puede parecer poco realista o incluso ingenuo. Eso es la “gravedad de la IA”: una combinación de presiones biológicas, sociales y económicas que nos empuja a utilizarla, incluso cuando pensar por nosotros mismos podría aportarnos mayores beneficios a largo plazo.

• ¿En qué consiste la “trampa de la comodidad” de la IA?

  La trampa de la comodidad hace referencia a los sistemas tecnológicos que nos permiten trabajar con mayor facilidad. Esa facilidad funciona como un anzuelo y, al mismo tiempo, como una atadura: nos atrae, pero también puede limitarnos. Cuando la tecnología trabaja por nosotros, dejamos de practicar determinadas habilidades. Al igual que sucede con los músculos, las capacidades que no ejercitamos terminan debilitándose. Cuanto menos nos acostumbramos a trabajar sin la IA, más dependemos de ella. Esto genera un círculo vicioso cada vez más difícil de romper, en el que perdemos la capacidad de actuar sin la ayuda de la IA.

  

• ¿Cómo pueden evitar las empresas caer en esta trampa?

  Un paso fundamental consiste en dejar de evaluar a los empleados únicamente por el nivel de uso de la IA. Presionar a los equipos para que la utilicen cada vez más, o medir su utilización como si fuera un indicador de desempeño, no es una forma adecuada de evaluar su rendimiento. Si queremos preservar las capacidades cognitivas de las personas a largo plazo, debemos asegurarnos de que sigan ejercitando las habilidades que les permiten conservar esas capacidades.

  El segundo paso es diseñar interfaces que fomenten el pensamiento. Si un sistema de IA ofrece una respuesta de inmediato, es fácil dejarse influir por esa primera propuesta, aunque sea incorrecta o podamos llegar a una mejor conclusión por nuestra cuenta. Pequeñas decisiones de diseño pueden marcar una gran diferencia para mantener la participación activa de los usuarios. Los mejores sistemas de IA hacen que las personas sigan pensando: mejoran el rendimiento sin eliminar el esfuerzo humano necesario para desarrollar el criterio propio.

  Por último, las empresas deberían identificar sus “capacidades cognitivas diferenciales”: las competencias esenciales que generan valor en su trabajo. Para un médico, podría ser el criterio para establecer diagnósticos; para un abogado, la capacidad de estructurar argumentos; y para un profesor, la capacidad de aplicar conceptos en diferentes contextos. Estas habilidades deben protegerse. No deberíamos delegar en la IA las tareas que nos ayudan a mantenerlas y perfeccionarlas.

• En uno de los casos que analiza, usted describe un experimento en el que la automatización parcial ayudó a los trabajadores de una fábrica a desarrollar sus habilidades de control de calidad. ¿Qué pueden aprender las organizaciones de esta experiencia?

  

  El estudio se centró en trabajadores encargados del control de calidad de raquetas de nieve. Los investigadores querían entender cómo influían los distintos niveles de automatización tanto en el desempeño como en la participación cognitiva. Cuando un sistema completamente automatizado tomaba las decisiones y los trabajadores solo se encargaban de ejecutarlas, aprendían menos. Además, una vez que se retiraba la automatización, tenían más dificultades para detectar defectos que quienes habían recibido capacitación con un sistema parcialmente automatizado o sin automatización.

  Los resultados más prometedores se observaron cuando el sistema ofrecía sugerencias, pero las personas conservaban la responsabilidad de tomar la decisión final. Cuando se retiraba la automatización, estos participantes detectaban los defectos con la misma precisión que quienes habían recibido capacitación exclusivamente mediante procedimientos manuales. También manifestaban tener mayor autonomía y considerar que su trabajo tenía más sentido que el grupo capacitado con automatización completa. Y, en la práctica, mostraban un mayor involucramiento en la tarea.

  La conclusión es que la forma en que diseñamos las herramientas de apoyo basadas en IA es importante. Mantener a las personas involucradas de manera activa en la toma de decisiones durante la capacitación puede ayudarlas a desarrollar habilidades esenciales y a seguir siendo capaces de actuar cuando los sistemas presentan fallas. La práctica deliberada sin IA también puede contribuir a conservar esas competencias, pero la principal lección del experimento es que debemos preservar el criterio humano mientras utilizamos la IA.

• ¿La IA potencia el talento o disimula las carencias?

  Una de las razones por las que la IA resulta tan atractiva es que permite a las personas con menos experiencia realizar trabajos que parecen hechos por profesionales expertos. Esto puede ser útil, pero también implica riesgos. En la práctica, el resultado generado rara vez constituye el último paso. Los profesionales aún deben presentar sus ideas, defenderlas ante una junta directiva o convencer a otras personas de que las apoyen. Los estudios demuestran que, cuando la IA se utiliza simplemente para generar resultados, las personas pueden tener dificultades con el siguiente paso porque no han profundizado lo suficiente en las ideas como para apropiarse de ellas.

  En el caso de los profesionales con experiencia, la situación puede ser diferente. Los altos directivos suelen saber cómo y cuándo aplicar la IA, comprenden las particularidades de su sector y pueden diferenciar los buenos resultados de los malos. Desde esa perspectiva, la IA puede amplificar el talento. Pero también puede ocultar carencias, especialmente cuando los resultados hacen que una persona parezca tener más capacidades de las que realmente posee. Todo depende de lo que queramos medir y optimizar.

  La IA puede ayudarnos a trabajar más rápido, pero que también nos haga más inteligentes depende de cómo la utilicemos

• ¿Cómo pueden los directivos confiar en la IA de forma equilibrada?

  La IA es una herramienta muy útil, pero también puede cometer errores. Confiar demasiado en ella puede generar dependencia; confiar demasiado poco impide aprovechar su potencial. Uno de los principales riesgos es el sesgo de la primera impresión. Cuando las empresas implementan una nueva herramienta de IA, suelen mostrar sus mejores resultados: las demostraciones más llamativas, los casos de uso más exitosos y todo lo que el sistema es capaz de hacer. Pocas veces muestran en qué falla o en qué se equivoca. Esto genera un exceso de confianza. Para utilizarla adecuadamente, es necesario conocer tanto sus capacidades como sus limitaciones y saber cuándo debemos mantenernos alerta.

  Mantener una confianza equilibrada en la IA resulta aún más importante a medida que los sistemas se perfeccionan. Cuanto más capaces parecen, menos sentimos la necesidad de involucrarnos mentalmente. Si creemos que la IA realizará la tarea perfectamente, dejamos de dedicar esfuerzo mental a revisar su trabajo y podemos terminar limitándonos a reproducir el resultado sin cuestionarlo.

  Por eso, los directivos deberían mostrar a los empleados tanto los aciertos como los errores, motivarlos a mantener los conocimientos necesarios para evaluar sus resultados y dedicar tiempo a trabajar sin IA. Así, los equipos pueden comprobar qué son capaces de seguir haciendo por su cuenta.

• ¿Cómo podemos aprovechar todo el potencial de la IA sin comprometer nuestra propia inteligencia?

  

  En el libro propongo cuatro principios para lograrlo. El primero es valorar el esfuerzo. Con frecuencia lo percibimos como algo negativo que debemos evitar, pero resulta esencial para desarrollar nuestras capacidades, adquirir experiencia y dominar una disciplina. Así como reconocemos la importancia del ejercicio para mantener el cuerpo en forma, en la era de la IA debemos entender que resolver los problemas por nuestra cuenta también nos ayuda a mejorar. El esfuerzo no es algo que tengamos que evitar, sino una parte fundamental de nuestro desarrollo.

  En segundo lugar, debemos valorar quiénes somos sin la IA. Esto implica distinguir entre lo que podemos lograr con su ayuda y lo que somos capaces de hacer por nuestra cuenta. Gran parte de la vida cotidiana sigue transcurriendo fuera del entorno digital, por lo que debemos asegurarnos de poder desenvolvernos de forma independiente cuando no tenemos acceso a la tecnología.

  En tercer lugar, debemos tratar la IA como un entrenador cognitivo. Puede funcionar como un tutor eficaz que amplía nuestros conocimientos. El reto consiste en utilizarla como una herramienta que nos ayude a pensar y no como una simple máquina que genera respuestas, de modo que fortalezca nuestra capacidad de razonamiento en lugar de reemplazarla.

  Por último, debemos reinvertir nuestro excedente cognitivo. Aprovechar el tiempo y la energía mental que nos permite ahorrar la IA para seguir aprendiendo y asumir desafíos más ambiciosos, en vez de limitarnos a producir más de lo mismo.

• ¿Qué regla debería seguir toda empresa impulsada por la IA?

  Si tuviera que darles un solo consejo a las empresas, sería replantear el uso de la IA. No verla como una manera de realizar las mismas tareas un poco más rápido, sino como una herramienta para ampliar lo que somos capaces de hacer. A lo largo de la historia, las tecnologías que han generado mayores transformaciones no se han limitado a mejorar la eficiencia en las tareas que ya realizamos: nos han permitido lograr cosas que antes parecían imposibles. La IA tiene ese mismo potencial.

  La inteligencia artificial puede ahorrarnos tiempo y eliminar tareas rutinarias. Sin embargo, lo importante es cómo aprovechan las empresas ese tiempo. Con demasiada frecuencia, la IA se utiliza para producir más de lo mismo, solo que más rápido. La verdadera oportunidad consiste en aprovecharla para superarnos, aspirar a más y explorar nuevas posibilidades que, antes de la era de la IA, ni siquiera podíamos imaginar.