La incorporación de agentes de inteligencia artificial está modificando la relación entre las personas, el software y las decisiones empresariales. El desafío ya no consiste únicamente en desarrollar capacidades técnicas, sino en establecer quién define sus objetivos, delimita su autoridad, mide sus resultados y responde por sus consecuencias.
La inteligencia artificial está entrando en una nueva etapa de adopción corporativa. Después de incorporar asistentes para redactar documentos, analizar información, generar código y acelerar tareas individuales, las organizaciones comienzan a delegar procesos completos en sistemas capaces de planificar acciones, utilizar herramientas y operar sobre aplicaciones empresariales.
El cambio puede parecer una evolución natural del software, pero tiene implicaciones que exceden la tecnología. Cuando una aplicación produce una respuesta, una persona puede evaluarla antes de utilizarla. Cuando un agente recibe un objetivo y ejecuta una secuencia de acciones sobre sistemas corporativos, la organización debe gestionar algo más complejo: una capacidad operativa que actúa con distintos grados de autonomía dentro de procesos que tienen responsables, restricciones y consecuencias económicas.
El 19 de octubre de 2026, Microsoft publicó su propuesta Securing the agentic insider, en la que plantea tratar a los agentes corporativos como participantes activos que requieren identidad, permisos delimitados, supervisión continua y controles adaptados al riesgo de sus acciones. Ese mismo día, Axios abordó otra dimensión del problema: la falta de claridad sobre quién debe gestionar los agentes dentro de las empresas, en una zona de responsabilidades que atraviesa tecnología, recursos humanos y dirección.
Las dos publicaciones parten de perspectivas diferentes, pero permiten identificar una cuestión común. La adopción de IA agéntica está obligando a revisar estructuras de responsabilidad diseñadas para una organización en la que el software ejecutaba instrucciones relativamente delimitadas y las personas conservaban buena parte de las decisiones operativas.
La pregunta para la dirección no es solamente qué pueden hacer estos sistemas. Es cómo incorporarlos a la organización sin perder capacidad para dirigir, evaluar y corregir el trabajo que realizan.
El problema no es la autonomía; es la autonomía sin un modelo de gestión
Una parte importante de las discusiones sobre agentes de IA se concentra en sus capacidades: cuántas tareas pueden completar, cuántas herramientas pueden utilizar y qué proporción del trabajo puede automatizarse. Estas métricas ayudan a comprender el potencial tecnológico, pero dicen poco sobre la capacidad de una empresa para desplegarlo de forma sostenible.
Un agente puede completar correctamente una tarea y, al mismo tiempo, generar un resultado empresarial deficiente. Puede reducir el tiempo de procesamiento de una solicitud, pero aumentar las tasas de error. Puede resolver una incidencia con rapidez y utilizar una vía que incumpla una política interna. Incluso puede alcanzar el objetivo inmediato que recibió mientras produce consecuencias negativas para otro proceso.
El problema aparece cuando el objetivo asignado al agente no representa adecuadamente el objetivo de la organización.
Esta distinción es fundamental. Los sistemas de IA optimizan sus resultados dentro de las condiciones que les proporciona su diseño, su contexto y sus mecanismos de ejecución. No debe suponerse que interpretarán de manera fiable todas las prioridades implícitas de una empresa, especialmente cuando existen instrucciones ambiguas, información incompleta o conflictos entre objetivos.
Por eso, incorporar agentes no consiste simplemente en entregarles más herramientas y confiar en que los modelos más capaces cometerán menos errores. Exige definir qué significa un resultado aceptable, qué restricciones no pueden negociarse y quién tiene autoridad para intervenir cuando el comportamiento observado deja de ser compatible con las expectativas del negocio.
La autonomía debe entenderse como una decisión de diseño organizacional, no como una propiedad que se habilita de manera uniforme para todos los casos de uso.
La responsabilidad empresarial no puede delegarse junto con la tarea
Consideremos un proceso de compras. Una empresa incorpora un agente para analizar solicitudes, comparar proveedores, verificar condiciones comerciales y preparar órdenes de compra. La automatización puede reducir tiempos administrativos y liberar al personal para tareas de mayor valor.
Sin embargo, el resultado depende de decisiones que no deberían quedar implícitas. ¿Puede el agente seleccionar un proveedor o solamente recomendarlo? ¿Tiene autorización para modificar datos bancarios? ¿Puede comprometer fondos? ¿Qué ocurre si detecta una discrepancia entre una factura y una orden aprobada? ¿Quién responde si utiliza información desactualizada para recomendar una operación?
Estas preguntas no se resuelven exclusivamente con mejores instrucciones al modelo. Requieren decisiones sobre autoridad, separación de funciones, acceso a datos, límites financieros y procedimientos de excepción.
También exigen reconocer que el agente no constituye una unidad de responsabilidad equivalente a una persona dentro de la estructura corporativa. La organización debe identificar quién es responsable del proceso, quién administra la solución tecnológica, quién autoriza sus permisos y quién puede detener su operación.
La responsabilidad puede distribuirse entre varias funciones, pero no debería quedar indefinida.
Esta distinción permite evitar dos errores frecuentes. El primero consiste en atribuir cualquier fallo al proveedor del modelo, aunque el incidente haya surgido de una integración mal diseñada o de permisos excesivos. El segundo es responsabilizar exclusivamente al usuario que configuró el agente, ignorando las decisiones de inversión, los controles corporativos y las condiciones operativas aprobadas por la dirección.
Una estrategia madura identifica las responsabilidades antes del despliegue, no después del primer incidente.
Del inventario de modelos al inventario de capacidades operativas
Las organizaciones necesitan conocer qué soluciones de IA utilizan, pero un catálogo de modelos no alcanza para gestionar una empresa que trabaja con agentes.
La unidad de análisis debe incluir también las capacidades que cada sistema tiene dentro de un proceso: qué datos puede consultar, qué herramientas puede invocar, qué acciones puede ejecutar, qué otros agentes puede coordinar y qué consecuencias puede producir una operación incorrecta.
Dos agentes basados en el mismo modelo pueden presentar perfiles de riesgo radicalmente distintos. Uno puede limitarse a resumir documentación interna; otro puede acceder a información confidencial, modificar registros y activar procesos de negocio. La tecnología subyacente puede ser similar, pero su autoridad y su impacto no lo son.
De aquí surge una distinción importante para la dirección: el riesgo no depende únicamente de la capacidad del modelo, sino también del alcance de sus permisos, del contexto de uso y de las consecuencias de sus acciones.
Un sistema de gestión debería permitir responder, para cada agente relevante, al menos seis preguntas:
- Propósito: ¿qué resultado empresarial debe producir y qué necesidad justifica su utilización?
- Responsabilidad: ¿qué persona o función es propietaria del proceso y responde por sus resultados?
- Autoridad: ¿qué información, aplicaciones y acciones están dentro de sus límites?
- Desempeño: ¿cómo se mide la calidad, el costo, la velocidad y el impacto del trabajo realizado?
- Supervisión: ¿qué señales permiten identificar desviaciones y reconstruir las decisiones ejecutadas?
- Intervención: ¿quién puede restringir, suspender o retirar al agente y cómo se recupera el proceso?
Este esquema no pretende sustituir los marcos de gestión de riesgos existentes. Su finalidad es traducirlos a preguntas operativas que permitan a la dirección comprobar si una iniciativa de IA está preparada para funcionar dentro de una organización real.
El Chief AI Officer: de coordinador tecnológico a responsable de una capacidad empresarial
En este contexto, el papel del Chief AI Officer (CAIO) adquiere una dimensión estratégica. Su función no debería reducirse a seleccionar modelos, coordinar pruebas de concepto o promover la adopción de herramientas. Tampoco debería convertirse en el responsable universal de cualquier problema relacionado con IA.
El valor de esta función consiste en conectar áreas que tradicionalmente gestionan objetivos diferentes: estrategia, operaciones, tecnología, datos, finanzas, seguridad, cumplimiento y desarrollo de talento.
Cada una tiene una perspectiva legítima. Finanzas necesita justificar la inversión; operaciones debe asegurar que los procesos funcionen; tecnología debe proporcionar plataformas fiables; seguridad debe reducir la exposición; las áreas legales y de cumplimiento deben identificar obligaciones aplicables; y los responsables de negocio deben responder por los resultados.
Sin coordinación, la organización corre el riesgo de fragmentarse entre iniciativas locales que duplican inversiones, utilizan criterios incompatibles y generan soluciones difíciles de mantener. Una centralización excesiva, por el contrario, puede ralentizar proyectos y convertir al equipo de IA en un cuello de botella.
La alternativa es establecer una estrategia corporativa común con ejecución distribuida y responsabilidades explícitas.
En ese modelo, el CAIO articula la visión, define prioridades junto con la dirección, establece criterios comunes de evaluación y promueve capacidades reutilizables. Los propietarios de los procesos conservan la responsabilidad sobre los resultados empresariales. Tecnología, seguridad y las demás funciones especializadas mantienen sus competencias y controles, coordinados mediante mecanismos claros de decisión.
El objetivo no es crear una nueva capa burocrática. Es impedir que la velocidad de adopción supere la capacidad de la empresa para gobernar lo que despliega.
El retorno de la inversión debe medirse después de la demostración
La expansión de los agentes también obliga a revisar cómo se evalúan los proyectos de IA. Una demostración exitosa puede probar que una solución es técnicamente capaz de realizar una tarea. No demuestra, por sí sola, que su implantación resulte rentable o sostenible.
El costo real incluye más que el consumo de modelos. Deben contemplarse las integraciones, la preparación y calidad de los datos, las licencias, la infraestructura, la supervisión humana, las evaluaciones, el mantenimiento, la gestión de excepciones y las consecuencias de los errores.
También es necesario distinguir entre el tiempo potencialmente ahorrado y el beneficio económico efectivamente obtenido. Si un agente reduce una tarea de veinte minutos a cinco, el resultado no implica automáticamente una reducción equivalente de costos. El beneficio dependerá de cómo se utilice esa capacidad liberada, de la demanda existente y del trabajo adicional que requiera verificar los resultados.
Un caso de uso debería partir de una línea base que permita comparar el desempeño anterior y posterior a la implantación. Las métricas deben incluir productividad, calidad, costos totales, errores, intervención humana y resultados de negocio. Cuando corresponda, también deben contemplar incidentes de seguridad, exposición de información y cumplimiento de las políticas internas.
La dirección necesita, además, criterios para decidir cuándo ampliar una iniciativa, cuándo limitar su autonomía y cuándo retirarla.
Una estrategia de IA madura no se demuestra por la cantidad de agentes desplegados. Se demuestra por la capacidad de seleccionar las iniciativas adecuadas, obtener resultados sostenibles y abandonar aquellas que no justifican su costo o su riesgo.
La seguridad debe acompañar la ejecución, no aparecer al final
Cuanto mayor sea la capacidad de un agente para actuar sobre sistemas corporativos, menos suficiente resulta una evaluación de seguridad realizada únicamente antes de su puesta en producción.
Los permisos deben corresponderse con las tareas autorizadas. Las acciones relevantes deben dejar registros que permitan reconstruir lo ocurrido. Las modificaciones sensibles pueden requerir aprobación adicional, y los límites de ejecución deben poder ajustarse cuando cambian las condiciones de riesgo.
También es necesario considerar amenazas específicas de estos sistemas. Un agente puede recibir instrucciones maliciosas a través de documentos o contenidos que procesa; utilizar herramientas legítimas de manera inadecuada; acceder a información que no necesita; o encadenar acciones que, individualmente permitidas, producen un resultado no autorizado.
Por eso, la supervisión no puede limitarse a comprobar si el modelo respondió correctamente. Debe abarcar las identidades, los datos, las herramientas, los permisos y las operaciones que conforman el sistema completo.
La publicación de Microsoft del 19 de octubre aborda precisamente esta dimensión mediante una propuesta de supervisión continua y controles adaptados al riesgo. Es una perspectiva relevante para las empresas, aunque sus mecanismos y productos concretos no constituyen por sí mismos una solución universal. Cada organización debe evaluar su arquitectura, sus obligaciones y sus necesidades de control.
En sectores donde una acción digital puede afectar procesos físicos o servicios esenciales, la autonomía debe ajustarse también a las consecuencias operacionales. No todas las decisiones pueden automatizarse con el mismo margen de error, ni todas las acciones pueden revertirse con la misma facilidad.
La regla de gestión es sencilla: cuanto mayores sean el impacto potencial y la dificultad de recuperación, más exigentes deben ser los controles y la capacidad de intervención.
La ventaja competitiva estará en la calidad de la dirección
La evolución de la IA agéntica no convierte automáticamente a una empresa en una organización más inteligente. Amplía su capacidad potencial para ejecutar trabajo, pero el resultado depende de cómo esa capacidad se integra en los procesos, de la calidad de las decisiones y de la disciplina con la que se evalúan sus consecuencias.
La diferencia competitiva no estará necesariamente en quién despliegue más agentes primero. Estará en quién consiga convertirlos en una capacidad empresarial fiable, medible y adaptable, sin multiplicar la complejidad ni perder visibilidad sobre sus operaciones.
Eso requiere una dirección capaz de conectar tecnología y negocio, entender los riesgos, justificar inversiones y definir responsabilidades que sobrevivan a los cambios de herramientas y proveedores.
El Chief AI Officer representa una posible respuesta organizacional a ese desafío, siempre que su mandato tenga respaldo ejecutivo, autoridad para coordinar áreas y acceso a métricas que permitan demostrar resultados. El título, por sí solo, no garantiza nada. Lo decisivo es el modelo de gestión que la organización construye alrededor de la IA.
La pregunta que deberían plantearse los directorios no es cuántos agentes puede incorporar la empresa durante el próximo año. Es qué capacidades está preparada para delegar, bajo qué condiciones y con qué mecanismos para comprobar que los resultados siguen siendo compatibles con sus objetivos.
La IA agéntica no elimina la necesidad de dirigir una organización. Hace más importante decidir qué se delega, quién conserva la responsabilidad y cómo se demuestra que la delegación está creando valor.
Ese es el verdadero desafío estratégico del Chief AI Officer.
Fuentes consultadas:
1. Microsoft Security. (19 de octubre de 2026). Securing the agentic insider. Publicación corporativa sobre supervisión, identidades, permisos y gestión del riesgo de agentes empresariales. https://blogs.microsoft.com/blog/2026/10/19/securing-the-agentic-insider/
2. Axios. (19 de octubre de 2026). No one knows who should manage AI agents. Análisis de la ambigüedad organizacional en torno a la gestión de agentes. https://www.axios.com/2026/10/19/ai-agent-corporate-management
3. Organisation for Economic Co-operation and Development (OECD). (2025). Governing with Artificial Intelligence: The State of Play and Way Forward in Core Government Functions. OECD Publishing. Referencia sobre capacidades institucionales, gobernanza, inversión, supervisión y gestión de riesgos. https://doi.org/10.1787/795de142-en
4. National Institute of Standards and Technology (NIST). (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0). NIST AI 100-1. Marco de referencia para identificar, evaluar y gestionar riesgos durante el ciclo de vida de los sistemas de IA. https://doi.org/10.6028/NIST.AI.100-1
5. National Institute of Standards and Technology (NIST). (7 de abril de 2026). AI RMF Profile on Trustworthy AI in Critical Infrastructure — Concept Note. Documento conceptual sobre prácticas de gestión de riesgos de IA en infraestructuras críticas. https://www.nist.gov/itl/ai-risk-management-framework