Por qué fallan los agentes de IA después de la demostración

Un agente de inteligencia artificial (IA) puede funcionar en una demostración y fallar cuando lo usan clientes o empleados. En producción aparecen archivos incompletos, fuentes que cambian y permisos distintos para cada usuario. Evalúa el modelo y el sistema que lo rodea con casos que representen esas condiciones.

Qué cambia cuando el agente entra en producción

• Entradas. Una demostración suele usar casos elegidos. La prueba de producción debe incluir errores de escritura, documentos escaneados y campos vacíos.
• Fuentes. Comprueba si el agente recupera información vigente y si respeta las restricciones de cada cuenta.
• Acciones. Los cambios reales tienen consecuencias. Prueba límites de acceso, aprobación humana y recuperación cuando una herramienta falla.
• Operación. Define quién recibe las alertas, quién puede detener el agente y quién corrige los problemas.

En julio de 2024, Gartner pronosticó que se abandonaría al menos el 30 % de los proyectos de IA generativa. La previsión se refería al abandono después de la prueba de concepto y antes del cierre de 2025. Gartner citó datos deficientes, controles insuficientes, costos y valor poco claro. La cifra corresponde a un pronóstico. Gartner, julio de 2024

Cómo se acumulan los fallos

Supón que cada paso tiene un 95 % de probabilidad de éxito. Supón también que los pasos son independientes, todos deben funcionar y el sistema no reintenta. Con esas condiciones, cinco pasos completan la tarea cerca del 77 % de las veces. Diez pasos la completan cerca del 60 %.

Estas cifras muestran cómo cambia el cálculo al sumar pasos. En un proceso real, un fallo puede afectar a los pasos siguientes. Los reintentos y la intervención humana también cambian el resultado. Mide la tarea completa con casos representativos.

Cómo distinguir un fallo del modelo de un fallo del sistema

Elige un caso que haya fallado. Guarda la entrada, la versión del modelo y la evidencia disponible en ese momento. Comprueba primero si el agente recuperó la fuente correcta. Después revisa las solicitudes a las herramientas y los cálculos de la aplicación.

Repite el caso con la fuente correcta y las mismas instrucciones. Si el error continúa, evalúa si el modelo puede cumplir los criterios de esa tarea. Si desaparece, repite la prueba con más casos antes de cambiar el sistema. Observabilidad de agentes de IA

Qué comprobar antes de ampliar el uso

Incluye casos frecuentes, casos difíciles y acciones que deben quedar bloqueadas. Define cuántos casos deben completarse sin corrección y cuánto trabajo de revisión puede asumir el equipo. Repite las pruebas cuando cambien las fuentes, los permisos o el modelo.

Si una regla fija resuelve una parte del proceso, úsala para esa parte. Reserva las decisiones del agente para los casos donde la interpretación aporte valor. Lista de verificación para el lanzamiento