Durante años, la inteligencia artificial (IA) ha mostrado a las empresas lo que es posible. En 2027, exigirán pruebas de que realmente cumple. A medida que la IA se integra más a fondo en las operaciones de negocio y adquiere mayor autoridad para actuar, su impacto irá mucho más allá de la tecnología en sí. Por ello, la confianza, la gobernanza y la supervisión humana deberán incorporarse desde el inicio, para que las organizaciones puedan innovar con rapidez sin perder el control de los resultados.

 

Precisamente, según las predicciones de SAS para 2027, la IA empresarial enfrentará tres pruebas determinantes: conforme actúa con mayor autonomía, ¿quién es responsable de los resultados?, ¿puede demostrar su valor? y ¿se puede confiar en sus decisiones? En otras palabras, las empresas deberán definir responsabilidades por las acciones de los sistemas autónomos, comprobar el valor de sus inversiones en IA y garantizar decisiones confiables, explicables y éticas.

 

La autonomía obligará a rendir cuentas

 

En este sentido, señala la empresa, la expansión de agentes de IA capaces de ejecutar acciones dentro de los sistemas empresariales obligará a replantear los controles de acceso, permisos y mecanismos de supervisión.

“En 2027, la responsabilidad del director de tecnología (CIO) ya no consistirá únicamente en decidir quién tiene acceso a los sistemas empresariales, sino también qué tiene acceso a ellos. Con agentes de IA operando en sistemas, datos y procesos de negocio, los departamentos de tecnología deberán replantear una infraestructura empresarial diseñada para gestionar usuarios humanos, no entidades digitales autónomas. Durante el próximo año, los CIO reconsiderarán los mecanismos de identidad, permisos, controles de seguridad y monitoreo. La carrera de los agentes de IA no la ganará quien despliegue más, sino quien pueda confiar en su funcionamiento”, explicó Jay Upchurch, director de Información (CIO) de SAS.

 

Esta transformación también tendrá consecuencias para el sector financiero, especialmente cuando los agentes inteligentes comiencen a ejecutar operaciones económicas en representación de sus usuarios.

 

Adam Neiberg, gerente global de Banca de SAS, explicó que, “los agentes de IA pasarán de tomar decisiones de compra y adquisición de productos a ejecutar decisiones financieras de mayor trascendencia. Por ejemplo, transferir dinero en nombre de las personas a las que representan. Esto abrirá una caja de Pandora y complicará preguntas fundamentales sobre la autoridad. Conforme las máquinas adquieren mayor autonomía sobre los movimientos de dinero, los bancos se verán obligados a redefinir los límites de la prevención del fraude. Más allá de verificar transacciones individuales, deberán determinar el alcance y la integridad de los agentes que están detrás de ellas”.

 

Además, el aumento de la autonomía también planteará riesgos reputacionales. Ello debido a que las interacciones de estos sistemas podrían generar compromisos o decisiones que afecten las relaciones con los clientes.

 

En este sentido, Jenn Chase, directora de Marketing (CMO) de SAS, advierte que “la pregunta ‘¿quién es responsable de este agente de IA?’ será tan fundamental para la gobernanza como preguntarse ‘¿quién es responsable de este presupuesto?’. Las empresas que no puedan responderla eventualmente deberán dar explicaciones a sus clientes, juntas directivas o reguladores. A medida que los agentes de IA pasen de recomendar acciones a ejecutarlas, el riesgo cambiará. Si su IA lo dice, su marca lo dice. Una oferta no autorizada, una promesa incumplida o una mala interacción con un cliente pueden convertirse rápidamente en una crisis de marca”.

La IA tendrá que demostrar su valor

Adicionalmente, SAS menciona que, tras un período de expansión tecnológica y grandes inversiones en infraestructura, se prevé que las compañías exigirán una relación más clara entre los recursos destinados a la IA y los beneficios obtenidos. En este sentido, “la economía detrás del auge de la IA enfrentará un importante reajuste, a medida que las valoraciones extremadamente elevadas, el creciente endeudamiento y los enormes costos de expansión de los centros de datos coincidan con la presión por demostrar retornos sostenibles. El temor por quedarse atrás ayudó a impulsar inversiones sin precedentes, y el creciente escrutinio de prácticas como las transacciones circulares (round-tripping) pondrá todavía más atención en determinar si las cifras realmente se sostienen. La IA continuará avanzando, pero las empresas serán mucho más selectivas e invertirán donde el valor justifique el costo”, afirmó Matt Parson, director Financiero (CFO) de SAS.

 

Otra de las proyecciones de SAS se enfoca en la evolución tecnológica pues modificará la relación entre las organizaciones y proveedores de software, quienes deberán justificar el valor de sus soluciones frente a la posibilidad de desarrollar herramientas internamente.

 

“La IA está ofreciendo a las empresas desarrollar sus propias soluciones. Entonces, ¿por qué deberían comprar? La capacidad tecnológica por sí sola y las demostraciones llamativas ya no son suficientes. En los años siguientes, los proveedores de software deberán alcanzar la excelencia en tres áreas: conocimiento especializado del sector, producto y ejecución. Los ganadores serán aquellos que utilicen un profundo conocimiento de la industria para anticipar las necesidades de sus clientes y desarrollar productos que resuelvan problemas cada vez más complejos y generen resultados empresariales medibles”, explicó Bryan Harris, director de Tecnología (CTO) de SAS.

 

Asimismo, la evaluación económica de la IA también incorporará otros elementos en el 2027, y estos van más allá del costo de utilizar modelos o contratar servicios tecnológicos.

 

Gordon Robinson, vicepresidente de Investigación y Desarrollo de Tecnologías Fundamentales de SAS, dijo que “las empresas mirarán más allá de cuánto cuesta consumir IA y comenzarán a preguntarse cuánto cuesta generar decisiones empresariales confiables de manera consistente. Por ello, la economía de la IA se extenderá más allá de los modelos, tokens y servicios para incluir los datos, la gobernanza y la infraestructura necesarios para convertir la IA en resultados confiables a escala. Las organizaciones que gestionen correctamente la economía de la IA conectarán directamente el consumo con el valor empresarial”.

 

Sin embargo, añade SAS, una mayor productividad tecnológica no necesariamente implicará mejores resultados. “Ups: la productividad de la IA no equivale a la productividad humana. 2027 pondrá en evidencia una paradoja, y es que las organizaciones producirán más contenido, código, análisis y recomendaciones que nunca, pero muchas tendrán dificultades para demostrar mejoras equivalentes en su desempeño empresarial. El cuello de botella pasará de generar trabajo a evaluarlo, priorizarlo y actuar sobre él. La ventaja competitiva pertenecerá a las empresas que rediseñen la manera en que se realiza el trabajo, en lugar de limitarse a acelerar los procesos existentes. Cuando la IA genera un gran volumen de resultados de menor valor, intentar delegar el criterio humano puede resultar un error costoso”, señaló Marinela Profi, líder global de Estrategia de Inteligencia Artificial de SAS.

 

Otra transformación prevista será el surgimiento de nuevas formas de desarrollar software. Estas estarán impulsadas por agentes inteligentes que facilitarán la creación de aplicaciones propias.

 

“Los emprendedores y entusiastas del ‘hágalo usted mismo’ cerrarán sus talleres en los sótanos y se trasladarán a los navegadores, a medida que los agentes de IA inspiren un nuevo movimiento de creadores de software. Las suscripciones mensuales se verán afectadas conforme todos comiencen a desarrollar sus propias aplicaciones, mientras que las interfaces de programación de aplicaciones (API), las interfaces de línea de comandos (CLI) y los servidores del Protocolo de Contexto de Modelo (MCP) se convertirán en los próximos grandes protagonistas. Conforme disminuyan las barreras para desarrollar software, la pregunta ‘¿desarrollar o comprar?’ se convertirá en una de las principales decisiones del software empresarial”, proyectó Jared Peterson, vicepresidente sénior de Ingeniería Global de SAS.

 

La decisión se convierte en la medida del éxito

Adicionalmente, en 2027, las organizaciones también prestarán mayor atención a la calidad de las decisiones tomadas mediante IA. Las herramientas de simulación, los gemelos digitales y los datos sintéticos permitirán evaluar riesgos antes de trasladar sus decisiones al mundo real.

 

En este punto, Udo Sglavo, vicepresidente de Inteligencia Artificial Aplicada y Modelado de Investigación y Desarrollo de SAS, explicó que “la simulación, los gemelos digitales y los datos sintéticos servirán cada vez más como entornos de prueba para la IA, permitiendo a las organizaciones examinar no solo los resultados previstos, sino también posibles escenarios antes de que las decisiones afecten al mundo real. Esto puede incluir identificar cómo las fallas de maquinaria podrían poner en peligro a los trabajadores en una planta industrial, probar procedimientos en un entorno médico virtual o someter a pruebas de estrés a los sistemas financieros para evaluar sus respuestas ante comportamientos inesperados de agentes de IA. A medida que la IA adquiere mayor capacidad para actuar de forma autónoma, la simulación proporciona un entorno controlado en el que puede fallar, aprender y volver a intentarlo. El error menos costoso es aquel que se comete en una simulación”.

 

SAS añadió que otra predicción está enfocada en el crecimiento de las plataformas de inteligencia de decisiones, las cuales obligará a los responsables de datos a establecer criterios sobre qué constituye una buena decisión.

 

“Conforme aumente la implementación de agentes, el temor generalizado en las organizaciones a aprobar una decisión imperfecta, y la consecuente tendencia a prolongar los procesos de decisión, mantendrá despiertos por la noche a los directores de Datos (CDO) y a los líderes de esta área. El continuo crecimiento de las plataformas de inteligencia de decisiones, que multiplican tanto las buenas como las malas decisiones a escala, ofrecerá a estos líderes la oportunidad de definir qué constituye exactamente una buena decisión dentro de sus empresas. Durante el primer trimestre del 2027, los líderes se dedicarán a delegar autoridad, identificar compromisos aceptables entre distintas prioridades y establecer objetivos clave para dar estabilidad a los colaboradores y orientar a los agentes”, afirmó Albert Qian, estratega de Mercado de SAS.

 

Finalmente, la capacidad de aprendizaje organizacional será otro elemento que podría marcar diferencias entre las empresas que incorporen IA.

 

“La conversación evolucionará desde la gestión de riesgos y los controles hacia el aprendizaje y la innovación. Cuanto mejor aprenda una organización, mejor podrá innovar. A medida que los agentes actúan con mayor rapidez y se automatizan más decisiones, las organizaciones necesitarán comprender no solo qué decidió la IA, sino también cuándo intervinieron las personas y si esas intervenciones mejoraron el resultado. La gobernanza será fundamental para el proceso de aprendizaje continuo, específicamente el monitorear y orientar la efectividad, identificar los comportamientos deseados y aquellos que se encuentran fuera de los límites aceptables, y determinar qué conocimientos institucionales vale la pena conservar. En una era en la que la IA se convierte en un producto cada vez más accesible y estandarizado, las organizaciones que mejor aprendan estarán mejor posicionadas para obtener una ventaja competitiva”, concluyó Reggie Townsend, vicepresidente de Ética, Gobernanza e Impacto Social de la Inteligencia Artificial de SAS.