Tienen filtro humano.
El humano ya no mira.
A eso le digo palomitis.
La enfermedad de ponerle palomita a todo lo que propone la IA. Sin leer. Sin comparar. Sin pensar.
No es flojera. Es diseño.
Le pedimos a alguien que revise cien casos al día que ya vienen redactados, con tono seguro y formato limpio. Y luego nos sorprende que los apruebe todos.
Cómo se ve la palomitis en una empresa normal
Una empresa ya había automatizado sus respuestas a clientes.
La idea sonaba responsable. La IA redactaba. Una persona revisaba. Solo después se enviaba.
En papel, había control humano.
En la práctica, empezaron los reclamos raros.
Condiciones que no existían. Plazos que nadie había autorizado. Cortesías que costaban dinero.
Fui a ver el flujo.
La revisora abría el borrador. Le echaba un ojo de tres segundos. Clic. Aprobado.
Ciento cuarenta veces al día.
¿El modelo estaba alucinando? A veces.
Ese no era el problema.
El problema era que el candado no era candado. Era un trámite.
Y eso pasa en todos lados.
Créditos. Cotizaciones. Facturas. Publicaciones. Correos delicados.
Donde hay un humano que supuestamente valida, casi siempre hay palomitis.
Por qué aprobar sin mirar es lo normal, no la excepción
La literatura ya le puso nombre serio: automation bias.
Sesgo de automatización. Sobredependencia.
La revisión sistemática publicada en Springer, que analizó 35 estudios entre 2015 y abril de 2025, lo dice directo: tendemos a aceptar salidas de la IA cuando parecen confiables, sobre todo si tenemos poca experiencia en la tarea o poca formación en IA.
Microsoft lo documentó en su revisión de literatura sobre sobredependencia: si la persona no entiende bien qué puede hacer el sistema ni qué tan bien rinde, no puede calibrar la confianza.
Entonces confía de más.
La guía europea TechDispatch sobre supervisión humana lo advierte de otra forma: creer que por poner a un humano al final ya no hay decisión automatizada es un error.
Si no tiene tiempo, formación y autoridad real para frenar el sistema, no está supervisando.
Solo está acompañando.
Eso conecta con el informe The GenAI Divide del Project NANDA del MIT Media Lab. Su hallazgo más citado es que 95% de los proyectos analizados no mostraron impacto medible en resultados. No significa que la IA no sirva.
Significa que ponerla en el flujo no es lo mismo que mejorar el flujo.
Pueden leer el contexto completo en el informe The GenAI Divide.
En obra nadie firma sin subir a ver el tubo
En digital nos volvimos muy confiados.
Aprobamos un texto porque suena bien. En físico nadie haría eso.
En una obra nadie firma un plano hidrosanitario sin ir a revisar el tubo, la válvula, la pendiente. Es el oficio diario de cualquier ingeniería de instalaciones: basta abrir los proyectos terminados de una como Inversa Instalaciones y contar cuántas especialidades tuvieron que coincidir en campo antes de que el edificio encendiera.
El plano solo sirve si alguien verificó en campo.
El prompt solo sirve si alguien verificó en contexto.
Con IA pasa lo mismo que con las instalaciones: el error no se ve en el documento. Se ve cuando ya está operando.
Por eso el tema no es chatgpt para empresas como herramienta. Es el puesto de revisión que diseñamos alrededor.
Si ese puesto consiste en leer rápido y dar clic, vamos a tener palomitis. Garantizado.
La atención también se entrena
Revisar bien cansa.
Requiere pausa. Comparar. Dudar.
Justo lo que el sistema le quita a la revisora cuando le pone ciento cuarenta casos enfrente.
Desde la psicología lo dicen de otra forma: la atención se entrena, no se decreta. Es la misma idea que Liz Laniado trabaja desde otro ángulo cuando escribe sobre presencia: decidir sin pausa nos deja en automático.
La IA multiplica tu criterio. No reemplaza la parte donde tienes uno.
Si la persona llega cansada, con prisa y sin criterio claro de qué es un buen resultado, va a aprobar.
No por mala fe. Por diseño.
Soy extremadamente dispersa. Lo sé.
Por eso mi equipo me armó lo que yo llamo mi niñera diaria. Cada mañana me dice qué debo, qué es urgente y qué no se puede caer.
Sin ese filtro externo, yo también pondría palomitas todo el día.
Cómo se cura la palomitis sin quitar la IA
No se cura con otro curso de como usar chatgpt.
Se cura cambiando la tarea de revisión.
Esto es lo que reviso en un diagnóstico:
- Muestreo, no censo. Nadie revisa bien cien casos seguidos. Que la persona revise a fondo diez, con tiempo real, y que esos diez sí frenen el proceso.
- Criterio escrito antes. Qué es aprobar. Qué es rechazar. Con ejemplos. Sin eso, revisar es opinar.
- Fricción obligada. Que el sistema pida una razón corta para aprobar casos de riesgo. Dos líneas. Eso rompe el clic automático.
- Rotación del rol. Quien revisa siempre lo mismo deja de ver. Cambiar turnos devuelve ojos nuevos.
- Medir al revisor. Cuántos rechazos, por qué, qué pasó después. Si todo se aprueba, el control no existe.
Esto aplica igual para ia para empresas en ventas, en crédito, en atención, en contenido.
La pregunta útil no es cuánto más rápido trabaja alguien. Es cuánto mejor lo hace.
Y eso no lo responde el tablero. Lo responde la muestra revisada de verdad.
Mucha gente me pregunta por consultoria en inteligencia artificial esperando un mapa de herramientas.
No es eso.
Es ir a ver dónde el humano ya dejó de mirar y el sistema sigue corriendo.
Porque automatizar no limpia una mala decisión. A veces nada más la convierte en sistema.
¿Qué tarea podemos automatizar? Mala pregunta.
¿Qué decisiones estamos tomando con información incompleta porque analizarlo todo tardaría demasiado? Mejor pregunta.
Si tienes un filtro humano que aprueba todo, el modelo es el menor de tus problemas.
Soy Margot Duek. Si quieres ver dónde está eso en tu empresa, es justo lo que buscamos en un TRiAGE.
