Dar herramientas de IA a un equipo parece una decisión sin riesgo. El modelo responde, tu gente decide. Pero un estudio publicado esta semana por investigadores de tres universidades europeas muestra algo incómodo: cuando las personas tienen acceso a consejo de IA, su precisión cae y su confianza sube.
Los datos son concretos. La capacidad de decir "no lo sé" pasó del 44% al 3%. La precisión bajó del 27% al 9%. La confianza, sin embargo, subió del 30% al 76%. Como resume Valerio Capraro, profesor de la Universidad de Milano-Bicocca y coautor del estudio: "La gente se volvió mucho peor, la precisión fue solo un tercio, pero estaban el doble de seguros".
Qué mide este estudio y por qué importa en tu empresa
El experimento usó preguntas donde los modelos de IA fallan: detalles visuales de películas, como el color del uniforme de un equipo en una escena concreta. Se usó Step 3.5 Flash, un modelo que normalmente respondía mal a estas preguntas. Así cualquier reducción del juicio humano no podía explicarse como delegación sensata en una herramienta fiable.
Algunos participantes que habrían respondido bien sin IA preguntaron al modelo y acabaron equivocándose. La IA no les dio información nueva ni útil. La disponibilidad de la herramienta apagó el hábito cognitivo de reconocer lo que no saben.
Investigadores de Wharton acuñaron a principios de año el término "rendición cognitiva" para describir el mismo fenómeno: personas que aceptan respuestas incorrectas de la IA el 80% de las veces, pero reportan más confianza que quienes trabajan sin IA.
Para una empresa, esto tiene implicaciones directas. Si tu equipo de soporte usa IA para responder a clientes y la IA alucina un dato sobre un pedido, el agente no lo cuestiona. Si tu equipo comercial usa IA para preparar propuestas y el modelo inventa una cifra de mercado, la propuesta sale con esa cifra. El mensaje sale con el error incluido, porque nadie detuvo el flujo.
Cómo diseñar flujos donde la IA ayude sin anular el criterio
Diseñar el flujo para que mantener el criterio humano sea el camino por defecto funciona mejor que retirar la herramienta.
Primero, separa las tareas donde la IA aporta valor de las tareas donde el juicio humano es irreemplazable. Un asistente que recupera datos de un CRM o resume un historial de tickets aporta valor claro. Un asistente que decide qué responder a un cliente con una reclamación compleja está tomando una decisión que requiere contexto, empatía y responsabilidad.
Segundo, obliga a la trazabilidad. Si la IA sugiere una respuesta, el agente debe poder ver de dónde salió esa sugerencia. Si no hay fuente verificable, la sugerencia es una opinión con formato de respuesta.
Tercero, diseña puntos de decisión explícitos. En lugar de un flujo donde la IA genera un borrador y el humano lo envía, crea un paso donde el humano confirma o modifica antes de que el mensaje salga. La fricción es intencionada.
Cuarto, mide lo que importa. No midas solo velocidad o volumen de respuestas. Mide precisión, tasa de corrección posterior, y satisfacción real del cliente. Si la IA aumenta la velocidad pero reduce la precisión, tienes un problema que se va a notar en tres meses.
Qué hacemos distinto en proyectos de adopción
Cuando ayudamos a un equipo a integrar IA en su flujo de trabajo, empezamos por mapear dónde el criterio humano es irreemplazable y dónde la IA puede acelerar sin riesgo. Diseñamos prototipos conectados a datos reales, con trazabilidad y puntos de decisión explícitos. Y medimos precisión, no solo velocidad.
Si quieres aplicar esto a tu equipo, podemos ayudarte a aterrizarlo en un piloto pequeño, con métricas claras y supervisión humana desde el primer día.