Diseñar para agentes de IA: control, consentimiento y confianza
Un agente no solo responde: actúa. Compra, cancela, envía, modifica. Eso cambia lo que diseñamos: ya no solo la pantalla donde alguien decide, sino los límites dentro de los que el agente decide por esa persona. Estos son los patrones que recomiendo para que confiar en un agente sea una decisión informada y no un acto de fe.
Qué cambia cuando el usuario delega
Durante años diseñamos interfaces para que una persona hiciera algo: rellenar un formulario, pulsar un botón, elegir una opción. Con un agente, la persona delega un objetivo y es el agente quien planifica y actúa. La pantalla deja de ser el lugar donde se hace el trabajo y pasa a ser el lugar donde se acuerdan los límites.
Por eso diseñar para agentes se parece menos a diseñar un flujo y más a diseñar una relación. Tres preguntas tienen que tener respuesta, siempre, a la vista:
- ¿Qué va a hacer? Antes de actuar, no después.
- ¿Hasta dónde puede llegar? Qué puede tocar y qué no, y quién lo decidió.
- ¿Cómo lo deshago? Un camino de vuelta, o un aviso claro de que no lo hay.
El contexto no invita a lo contrario. NN/g describe 2026 como el año del cansancio con la IA. La confianza no se gana con magia, se gana con control.
Seis patrones, según el momento
Un marco muy útil es el de Victor Yocco en Smashing Magazine, que ordena los patrones según el ciclo de una interacción con un agente. El mío es una versión corta, organizada por el momento en que la persona necesita cada cosa.
- Antes de actuar
- Vista previa de la intenciónEl agente dice qué va a hacer, sobre qué y con qué efecto, antes de hacerlo.
- Permisos acotadosQué puede leer, qué puede escribir y qué le está vedado, a la vista y editable.
- Mientras actúa
- Progreso visiblePasos concretos y su estado, en lugar de un indicador de carga sin fin.
- Razón y confianzaPor qué lo hace y con cuánta seguridad, en lenguaje claro.
- Después de actuar
- Registro de accionesQué hizo, cuándo y con qué datos, consultable por quien se lo pidió.
- Deshacer y recuperaciónVolver atrás con un gesto, o saber con claridad lo que no se puede deshacer.
Hay un séptimo caso que conviene resolver desde el principio: qué hace el agente cuando duda. La respuesta correcta casi nunca es adivinar. Es parar, decir qué le falta y pasar la decisión a una persona, con el contexto que necesita para decidir.
Un ejemplo: la vista previa de la intención
Si solo pudieras implementar un patrón, que sea este. Es el que más confianza genera, porque convierte «hazlo» en «aprueba esto». Un ejemplo con un agente que revisa tu cuenta y propone cambios:
Voy a hacer 3 cambios en tu cuenta
- Cambiar el plan Internet L por Internet M desde el 1 de diciembreReversible
- Desactivar el roaming en tu línea principalReversible
- Cancelar la opción de televisiónNo reversible
Ahorro estimado: 14 CHF al mes
Confianza alta · Basado en tus últimas 6 facturas
Lo que hace que funcione:
- Dice la acción, no la intención vaga. «Cambiar el plan Internet L por Internet M desde el 1 de diciembre», no «optimizar tu cuenta».
- Distingue lo reversible de lo que no. Un aviso claro en la acción que no se puede deshacer.
- Deja editar antes de aprobar. Aprobar los tres o solo dos es más honesto que un sí o un no a todo.
- Enseña el efecto y la seguridad. Qué consigues y cuánto se fía el agente de su propuesta.
El dial de autonomía
La autonomía no es un interruptor, es un dial. El error habitual es elegir un nivel para todo el producto, cuando cada acción puede necesitar uno distinto, y cada persona, o cada organización, también.
Dos reglas que me parecen sensatas. Empieza por abajo: es más fácil subir el nivel cuando hay evidencia que bajarlo cuando ha habido un incidente. Y haz que el nivel sea un ajuste visible para quien delega, no una decisión escondida en el producto.
Cómo decidir cuánta autonomía dar
Dos preguntas bastan para un primer reparto: lo fácil que es deshacer la acción y lo que puede costar si sale mal.
No sustituye al juicio, pero obliga a conversar sobre cada acción con producto, legal y desarrollo antes de lanzarla, y no después del primer error.
Aquí encaja lo que cuento en el artículo sobre contratos de componente: un buen contrato también puede declarar qué acciones puede ejecutar un agente y con qué nivel de autonomía.
Diseñar la confianza también es medirla
Qué señales de transparencia hacen que una persona se sienta cómoda reduciendo su supervisión sigue siendo una pregunta abierta. La respuesta cambia con cada producto, así que hay que medirla:
- Aprobaciones sin edición. Si casi nadie edita la propuesta, o confían o no la miran.
- Uso de deshacer. Un deshacer muy usado dice que el agente se equivoca o que la propuesta no se entiende.
- Tiempo hasta la primera aprobación. Mide cuánto cuesta empezar a confiar.
- Escalados a una persona. Demasiados, y el agente no sirve; ninguno, y probablemente adivina.
Un agente bien diseñado no pide confianza: la gana, acción a acción.
Lo que me preocupa
- Autonomía alta por defecto. Un agente que actúa solo desde el primer día no da ocasión a confiar.
- Transparencia de adorno. Un registro que nadie puede leer no es transparencia.
- Aprobar por inercia. Si hay que confirmar todo, se acaba confirmando sin leer; el diseño debe pedir permiso solo cuando importa.
- Responsabilidad difusa. Cuando algo sale mal, la persona debe saber quién responde: el agente no es una respuesta.
Qué haría yo esta semana
- Elige una acción que un agente podría ejecutar en tu producto.
- Clasifícala por lo fácil que es deshacerla y lo que cuesta si sale mal.
- Escribe la vista previa antes que el prompt: cómo se lo explicarías a una persona antes de aprobar.
- Fija el nivel inicial y cómo sube, con las métricas que lo justifican.
- No lances sin registro ni deshacer.
Lista de comprobación
Una lista en Markdown para revisar una acción de agente antes de lanzarla: intención, permisos, autonomía, registro, deshacer y escalado.