Cuando la Acción se Vuelve Estándar, la Gobernanza se Vuelve el Producto

En las últimas semanas he visto a mucha gente reaccionar al uso de computadora en los agentes de IA como si fuera el evento principal. La reacción ha sido alguna versión de lo mismo. El modelo puede hacer clic. El modelo puede escribir. El modelo puede operar software en tu nombre. Impresionante.

Creo que la industria está a punto de pasar de largo por la historia real.

La historia real no es que los agentes de IA ahora puedan actuar. La historia real es que la acción se está convirtiendo rápidamente en una capacidad básica. Cada agente serio la tendrá. Cada agente serio podrá hacer clic, escribir, navegar, editar archivos, leer pantallas, llamar APIs y encadenar operaciones entre herramientas. Cuando eso sea cierto, la capacidad de actuar deja de ser lo que separa a un agente de otro. Y si estás construyendo una empresa sobre agentes, o más importante aún, decidiendo en qué agentes tu empresa va a confiar para hacer trabajo real, deberías estar prestando atención a lo que viene después.

Aquí está la pregunta a la que sigo volviendo. Una vez que cada agente pueda hacer cosas, ¿en cuáles puedes confiar para operar?

Eso no es una jugada retórica. Es un problema operativo, y es el problema al que mi tiempo en Restaurant Brands International me empujó más rápido de lo que esperaba. Cuando eres responsable de IA en cuatro marcas y más de 2.000 empleados, no puedes pretender que la gobernanza sea una conversación de cumplimiento que ocurre al final. Es el producto entero. La primera vez que un agente de IA ejecuta una acción en tu nombre dentro de un flujo de trabajo real, dejas de importarte los benchmarks de modelos y empiezas a hacer un conjunto de preguntas muy diferentes. Qué acaba de hacer. Quién lo autorizó. Qué vio para decidir. Qué recordó de la semana pasada. Puedo deshacerlo. Puedo probar lo que pasó cuando el auditor aparezca en seis meses.

La mayoría de los equipos con los que hablo no se han sentado con esas preguntas todavía. Siguen en modo demo. Una demo es donde ves a un agente reservar un vuelo y te sientes impresionado. La producción es donde ves a un agente reservar el vuelo equivocado para el CEO, en una tarjeta corporativa, con una memoria de preferencias que sacó de un hilo viejo, y nadie en el equipo puede reconstruir por qué hizo eso. La distancia entre esas dos escenas no es una brecha de capacidad del modelo. Es la ausencia de la infraestructura que hace que la acción sea segura.

He empezado a llamar a esta infraestructura por un nombre específico en mi propio trabajo. Gobernanza de acción. Es una cosa diferente a la gobernanza de datos, que es la conversación que la mayoría de las empresas han estado teniendo en la última década. La gobernanza de datos pregunta quién puede ver qué. La gobernanza de acción hace un conjunto de preguntas que son más difíciles y, en este momento, en su mayoría sin respuesta en la mayoría de las organizaciones.

Las preguntas, más o menos en el orden en que las pienso.

Qué contexto tiene el agente en el momento en que actúa. A qué sistemas puede llegar, y cuáles están explícitamente fuera de límites. Qué política regula sus acciones, y qué activa un humano en el circuito. Qué retiene entre sesiones, cuánto tiempo lo retiene, y bajo qué reglas puede usarse u olvidarse esa memoria. Cómo se auditan las decisiones del agente, no solo las entradas y salidas sino el razonamiento intermedio. Y cuando algo sale mal, lo cual sucederá, cómo se recupera el agente, y cómo revertís el estado del mundo a donde debería estar.

Ninguna de esas preguntas es teórica. Cada una de ellas se mapea a una decisión concreta de diseño que alguien tiene que tomar antes de que un flujo de trabajo de producción entre en vivo. Y la verdad incómoda es que muy pocas plataformas están lanzando las primitivas que necesitarías para responderlas limpiamente. Tenés que armar las respuestas por tu cuenta, con marcos de política, permisos de herramientas, almacenes de memoria, colas de aprobación, infraestructura de registro, y mucho pensamiento cuidadoso sobre quién es realmente responsable cuando un agente actúa.

Y ahí es donde aterrizo. El mercado de agentes de IA se va a dividir. De un lado, los proveedores que entregan capacidad cruda y confían en que resuelvas la capa de gobernanza. Del otro lado, los que entregan la capa de gobernanza como el producto y hacen que la capacidad sea requisito de entrada. El segundo grupo ganará la empresa. Estoy bastante seguro de eso. El primer grupo seguirá dominando las demos y los hackathons por otro año o dos, y después la conversación se moverá.

Quiero ser honesto sobre lo que no sé. No sé exactamente cómo se va a resolver la capa de herramientas. No sé si las primitivas de gobernanza terminarán viviendo dentro de las plataformas de agentes mismas, dentro de una nueva categoría de herramientas de observabilidad y política, o dentro de los stacks existentes de identidad y auditoría que cada empresa grande ya corre. He visto argumentos para los tres y no he escuchado uno que me haya cerrado la pregunta. Lo que sí sé es que alguien en tu organización va a ser dueño de esto, y cuanto antes nombres quién es esa persona, menos doloroso serán los próximos doce meses.

La jugada operativa que haría si estuviera sentado dentro de una empresa en este momento no es glamorosa. Antes de escalar tus despliegues de agentes, antes de agregar el próximo caso de uso, antes de dar luz verde al piloto que finanzas está pidiendo, escribiría el modelo de gobernanza de acción en lenguaje claro. En nombre de quién puede actuar el agente. Qué tiene permitido hacer sin un humano. Qué nunca tiene permitido hacer. Cómo registra sus decisiones de una manera que sea auditable seis meses después. Cuál es la historia de reversión. Quién es dueño de la política cuando necesita cambiar. Cómo sabemos cuándo la política está mal.

Ese documento va a sentirse como burocracia el día uno. Se va a sentir como la cosa más valiosa que tenés al tercer mes.

Si la acción está a punto de ser gratis, entonces la gobernanza es el producto. Las empresas que interioricen esto temprano son las que espero que estén operando IA real en producción para fin del próximo año. Las que sigan mirando demos seguirán mirando demos.

Me interesa cómo otros operadores están pensando dónde se mueve el foso una vez que el uso de computadora se vuelva esperado. Si esta es una conversación viva en tu organización, me gustaría comparar notas.