Observatorio del Fenómeno El Niño
Año de la Esperanza y el Fortalecimiento de la Democracia
  • MARTES 20
  • de octubre de 2026

Derecho

FOTOGRAFIA
DERECHO

Suplemento Jurídica: ¿Tu empresa usa IA? Claves del gobierno corporativo para automatizar con responsabilidad

IA y control corporativo

Editor
Renzo Urdanivia

Director de Deal Advisory & Strategy de KPMG en el Perú

El entusiasmo que despierta la inteligencia artificial (IA) en el ecosistema empresarial peruano es comprensible y, en muchos sentidos, necesario. La promesa de acelerar procesos, optimizar operaciones y transitar hacia una "empresa autónoma" impulsada por agentes inteligentes genera una ola de optimismo en los directorios. Sin embargo, en medio de la euforia por adoptar tecnologías de avanzada y desplegar algoritmos cada vez más sofisticados, las organizaciones corren el riesgo de pasar por alto un paso previo tan fundamental como innegociable: el gobierno corporativo. 

Antes de que un agente de IA entre en producción y comience a tomar decisiones automatizadas, la primera pregunta en la mesa directiva no debería ser si la tecnología funciona a la perfección, sino si la organización está verdaderamente preparada para gobernarla, gestionarla y responsabilizarse plenamente por sus actos.

La responsabilidad humana que no se puede delegar

Desde una perspectiva integral de riesgos, gobierno y cumplimiento, el verdadero desafío de la era digital no es meramente técnico, sino profundamente institucional. Cuando una empresa otorga autonomía a un sistema inteligente para ejecutar transacciones, analizar contratos, interactuar con clientes o procesar flujos operativos, el control tradicional se transforma, pero no desaparece. Y es aquí donde surge el concepto más crítico para la sostenibilidad de cualquier estrategia tecnológica moderna: el accountability o la responsabilidad humana indelegable. No se puede permitir que exista un algoritmo sin dueño dentro de la organización. Toda decisión automatizada, por más compleja o avanzada que sea, debe contar con un responsable corporativo claramente definido –con nombre, apellido y cargo– que responda por su comportamiento, sus sesgos y sus resultados.

Para construir una empresa autónoma que sea genuinamente confiable y genere valor a largo plazo, la gestión de riesgos debe abordarse desde un marco riguroso, alineado a estándares internacionales que la regulan, como la norma ISO 31000. Esto implica identificar de manera proactiva los riesgos inherentes asociados al despliegue de agentes inteligentes, evaluar con precisión su impacto potencial en el negocio y establecer controles preventivos y correctivos antes de iniciar cualquier operación a gran escala. El control interno tradicional debe evolucionar para adaptarse a este nuevo paradigma, incorporando principios tan esenciales como la estricta segregación de funciones, esquemas de autorizaciones multinivel y un monitoreo continuo que evite que una falla algorítmica se traduzca en una crisis operativa o reputacional para la compañía.

Asimismo, la ciberseguridad y la protección de la privacidad de los datos actúan como pilares gemelos que sostienen la confianza en este ecosistema. Un agente autónomo no puede operar bajo premisas de confianza ciega; debe hacerlo bajo los más altos estándares de arquitectura Zero Trust. Esto comprende autenticación robusta, control de privilegios, supervisión permanente y una sólida protección frente a nuevas amenazas sofisticadas, como la manipulación maliciosa de modelos o la extracción indebida de información confidencial. Del mismo modo, si el agente autónomo procesa datos personales –ya sean de clientes, colaboradores o proveedores–, la organización está obligada a cumplir estrictamente con las normativas de protección de datos, definiendo periodos claros de conservación y garantizando mecanismos de auditoría continua.

¿Qué pasa si falla la tecnología?

Otra dimensión crítica que a menudo se pasa por alto en el fervor tecnológico es la propia continuidad del negocio. Los directorios y los gerentes de operaciones deben formularse una pregunta incómoda pero inevitable: ¿qué ocurre si, por las razones que sea, el agente inteligente deja de funcionar o emite un error crítico en plena ejecución? La respuesta no puede dejarse al azar; exige contar con procedimientos manuales alternativos claros, redundancias operativas bien diseñadas y protocolos de recuperación ágiles ante cualquier interrupción imprevista. Si bien existen hoy en el mercado plataformas tecnológicas muy potentes e integradas –como las capacidades de Business Data Cloud, los hubs de agentes inteligentes y los entornos de desarrollo avanzados–, ninguna plataforma de software, por sofisticada que sea, tiene la capacidad de reemplazar un modelo de gobernanza humana sólido, maduro y consciente.

En conclusión, las plataformas y las herramientas digitales habilitan la transición hacia una empresa autónoma, por supuesto, pero únicamente un buen gobierno corporativo garantiza que dicha autonomía sea sostenible en el tiempo. Si tuviera que resumir esta visión en una sola idea para los líderes empresariales del Perú, diría que una empresa autónoma no será recordada en el futuro por la inteligencia deslumbrante de sus agentes de inteligencia artificial, sino por la calidad, la solidez y la ética de su gobierno corporativo. Las organizaciones que liderarán con éxito esta etapa productiva que ya empezamos a vivir serán aquellas capaces de combinar adecuadamente la innovación disruptiva con la confianza institucional, los datos precisos con el gobierno efectivo, y la automatización avanzada con la más absoluta responsabilidad humana.