Por qué nuestros agentes piden permiso antes de las acciones que importan
El relato de este año es la autonomía. Agentes que encadenan tareas, abren su propio navegador, escriben en tus sistemas y cierran el círculo sin que nadie mire por encima del hombro. La tecnología efectivamente está llegando.
La pregunta que queda por resolver es qué pasa el día cuarenta. Y ahí, en los proyectos que hemos montado nosotros, lo que separa un piloto vistoso de algo que sigue en marcha meses después no tiene que ver con la potencia del modelo, sino con dónde decidiste poner el freno de mano.
El problema no es que se equivoque, sino la velocidad a la que lo hace
Una persona que introduce mal un dato comete un error y, con suerte, alguien lo pilla esa misma tarde. Un agente que lo introduce mal comete el mismo error cuatrocientas veces antes de comer, sin cansarse y sin que suene ninguna alarma, porque desde dentro del sistema todo parece ir estupendamente: las tareas se completan, la cola baja y los registros dicen que está hecho.
Por eso la pregunta útil al diseñar una automatización no es si el agente puede hacer algo solo, ya que casi siempre puede. La pregunta que de verdad importa es qué pasaría si lo hiciera mal quinientas veces seguidas. Si la respuesta es que se corrige en diez minutos, adelante sin más; si la respuesta es que hay que llamar a doscientos clientes a pedir perdón, ahí va una aprobación humana.
Dónde ponemos nosotros la línea
No es un criterio abstracto que cambie según el proyecto, sino una lista que aplicamos siempre igual y que dejamos por escrito antes de empezar a construir nada.
- Solo, sin preguntar: leer, clasificar, resumir, preparar un borrador o mover información entre sistemas internos. Todo aquello que es reversible y que no sale de casa.
- Con aprobación humana: cualquier cosa que salga hacia fuera con tu nombre, que toque dinero, que borre algo o que escriba en un sistema del que dependen otras personas. Un correo a un cliente entra aquí, y una factura también.
- Nunca, aunque técnicamente pueda: decidir sobre una persona, ya sea filtrando un currículum o puntuando la solvencia de alguien. El Reglamento europeo lo clasifica como alto riesgo.
Pedir permiso no significa que alguien apruebe todo el día
Es el malentendido habitual y además es un temor razonable, porque si hay que aprobar cada paso no has automatizado nada, simplemente has cambiado un trabajo por otro. La clave está en que el agente llegue con el trabajo hecho hasta el último clic: redacta el correo entero, prepara la factura completa y deja la respuesta lista, de modo que lo único que le pide a la persona es un sí o un no con la consecuencia delante.
En la práctica eso convierte una hora de trabajo en dos minutos de revisión, que es donde está casi todo el ahorro, y a cambio deja fuera el único escenario que de verdad duele, que es que algo salga con tu nombre sin que nadie lo haya mirado antes.
Qué tiene que ver esto con lo de esta semana
Bastante, y por eso lo escribimos ahora. Estos días entra en aplicación el artículo 50 del Reglamento europeo, que obliga a decir cuándo hay una máquina detrás de algo. Es la misma idea vista desde el lado legal, porque por muy autónomo que sea el sistema siempre hay alguien que responde de lo que hace, y esa persona tiene nombre y apellidos.
Un agente que pide permiso en lo sensible no es un agente menos capaz, sino uno en el que se sabe exactamente dónde está la firma.
Lo que preferimos no prometerte
No vamos a decirte que la autonomía total no vaya a llegar, porque probablemente llegue y antes de lo que pensamos. Lo que decimos es que hoy, con lo que hay, montar una automatización sin puntos de control equivale a apostar a que no va a pasar nada raro durante meses, y cuando pasa, el coste lo acaba pagando el cliente.
Por eso preferimos empezar por la versión aburrida, con el freno puesto donde toca, y quitarlo más adelante después de haber visto el sistema funcionar unas cuantas semanas. Queda menos vistoso en una presentación y bastante mejor en marzo.
Si tienes un proceso en la cabeza y no sabes dónde iría ese freno, lo miramos juntos en la auditoría gratuita.