Ideas
Diseñar la transición cuando la IA se detiene
La mayoría de las organizaciones han decidido dónde se detiene la IA. Casi ninguna ha diseñado qué ocurre en el segundo posterior a su detención.
El traspaso se trata como un simple enrutamiento: el sistema alcanza su límite, un humano recibe el trabajo y el servicio continúa. No es enrutamiento. Es el punto donde se decide la calidad de todo el sistema, y actualmente nadie lo está diseñando. Ya existen pruebas empíricas al respecto. En un experimento aleatorio en la plataforma Taobao de Alibaba, unos trabajadores supervisaban un sistema de IA agéntica que gestionaba los chats de clientes aptos, mientras seguían resolviendo el resto por sí mismos. Los chats se acortaron. Las valoraciones de los chats aptos para la IA cayeron sustancialmente. Lo interesante es dónde funcionó el rescate humano y dónde no. Cuando el sistema escalaba porque el problema superaba su capacidad —un callejón sin salida técnico—, la intervención humana preservaba la calidad del servicio. Cuando escalaba porque el cliente se había frustrado, la intervención apenas lograba recuperar el resultado. El motivo no era la destreza. Era el esfuerzo. En las escaladas emocionales, los trabajadores enviaban menos mensajes, participaban menos en la conversación, buscaban menos información y ofrecían menos soluciones. Llegaban a los momentos más duros del día con el menor nivel de compromiso. E intervenir tarde lo empeoraba: entrar antes era lo que sostenía el esfuerzo después.
Léelo como un hallazgo de diseño organizacional
Léelo como un hallazgo de diseño organizacional en lugar de uno de atención al cliente. El sistema había reasignado silenciosamente el trabajo humano para que consistiera casi por completo en aquello en lo que las máquinas fallan —las partes emocionalmente costosas—, sin cambiar nada en cuanto a cómo se apoyaba, dotaba de personal o valoraba ese trabajo. El residuo se convirtió en el puesto. Nadie diseñó el residuo. Un segundo estudio, un experimento de campo dentro de la operación de posventa de Porsche, señala la misma brecha desde otro ángulo. A los tomadores de decisiones se les ofreció el consejo de un experto humano, un modelo de aprendizaje automático o ambos. La combinación produjo mejores decisiones, pero solo cuando las personas reconciliaban activamente los datos contradictorios en lugar de plegarse a uno solo. Y el compromiso con dicha reconciliación disminuía cuando la decisión pasaba de un ámbito individual a uno grupal. En conjunto, esto revela algo incómodo. El beneficio de mantener a los humanos en el bucle no es automático. Está condicionado por un acto de compromiso genuino que la mayoría de los flujos de trabajo no hacen nada por proteger, y que se evapora silenciosamente bajo la presión, la fatiga y los entornos grupales.
De ello se desprenden tres cosas
Así pues, la cuestión no es si mantener a un humano en el bucle, sino qué le exige el bucle. De ello se desprenden tres cosas. La escalada debe incluir contexto, no solo el caso. Una persona que entra en el peor momento sin ningún antecedente pasa sus primeros minutos reconstruyendo lo sucedido, y llega a la parte humana del problema ya agotada. Los traspasos diseñados para la continuidad de la información son económicos de implementar. Rara vez los construimos. El trabajo residual debe dotarse de personal considerándolo labor difícil, no tarea sobrante. Si las máquinas absorben lo rutinario y dejan a los humanos lo ambiguo, lo emocional y lo sin precedentes, entonces la carga de trabajo humana se ha vuelto silenciosamente más dura por hora, mientras los modelos de plantilla siguen asumiendo que se ha vuelto más fácil. Ese desajuste se manifiesta como desvinculación mucho antes de que nadie lo llame agotamiento. Y el desacuerdo con el sistema necesita una vía legítima. Si reconciliar el consejo de la máquina con tu propio criterio es el paso que genera valor, entonces anularlo debe ser un acto ordinario, de bajo coste y registrado, no un acto silencioso de insubordinación que alguien deba justificar.
Vale la pena observar el patrón subyacente allí donde entra la IA
Vale la pena observar el patrón subyacente allí donde la IA se introduce en una organización. Estamos eliminando las partes fáciles de los trabajos y lo llamamos alivio. Lo que queda es el residuo humano concentrado: criterio, ambigüedad, emoción, reparación. Esa es la aportación que decimos desear. Es también, hora tras hora, el trabajo más exigente que una persona puede realizar, y se lo estamos entregando sin más apoyo que el trabajo rutinario al que reemplazó.