Un analista pasó más de media hora estudiando un caso y escribiendo su propio plan. El agente de IA lo armó tal como se lo pidió y después le sugirió otro camino en un par de decisiones.
El analista contestó, con errores y todo: “Okay, let use you recomendation”.
La escena sale de un experimento de Anthropic con analistas de datos profesionales. En cada decisión había opciones igual de defendibles, y una moneda escogía en secreto hacia cuál se inclinaba el agente. Los analistas terminaron eligiendo lo mismo que el agente el 86% de las veces. Cuando les preguntaron por qué, la mayoría repitió sus argumentos, a veces palabra por palabra. Muy pocos lo mencionaron.
Hay gerentes estrenando su propio agente. Algunos ya lo presentan ante el equipo como un compañero más, con nombre propio y conectado a lo que sabe cada área.
Si es tu caso, ese agente va a llegar a cada reunión con los datos de todas las áreas y con argumentos bien armados. Tu equipo le va a preguntar antes de decidir, y tú también.
Muchas veces vas a hacer bien en hacerle caso. En el estudio, los que trabajaron con el agente terminaron antes y cometieron muchos menos errores graves. Lo que me preocupa es que vas a ser el humano que revisa y vas a firmar decisiones que se parecen cada vez más a las de tu agente sin saber en qué momento te convenció.
Entre mis apuntes para trabajar con IA hay uno que dice: antes de preguntarle a la IA, escribe la respuesta que tú te darías. Esa es tu línea base.
Cuando lo presentes, ponle esa regla desde el primer día. Antes de preguntarle, cada persona escribe en un par de líneas qué haría. Tú también. Así, cuando el agente te convenza, vas a saber de qué te convenció.
¿Cuántas de las decisiones que firmaste este mes fueron tuyas?
Para profundizar
El estudio es de Anthropic: «How AI agents shape experts’ judgment calls», de Amaç Herdağdelen, Hailey Joren y Alex Tamkin. Analistas profesionales usaron Claude Code para asesorar a una cooperativa agrícola ficticia; cada análisis tenía cuatro decisiones con dos opciones defendibles, y una moneda decidía hacia cuál se inclinaba el agente.
Los mismos autores advierten los límites: reforzaron a propósito la inclinación del agente para poder medirla, fue una sola tarea de una hora con un solo modelo, y el grupo que trabajó sin IA era pequeño y menos experimentado.
Una de sus propuestas se parece al papel del post: diseñar agentes que le pregunten primero al experto qué piensa.
Ethan Mollick cuenta en Co-Existence que escribe él mismo el primer borrador de cada capítulo y solo después usa la IA para mejorarlo. Una de sus razones: si la IA le ayudara desde el primer borrador, terminaría absorbiendo algunas de sus ideas creyendo que son suyas.
P.D. El apunte del post es el 007 de Inteligencia Artesanal. Los cien están aquí: https://ia.betancur.co