Tecnología y Negocios

El fin de la IA de caja negra en las empresas: entre regulación, confianza y negocio

Foto del avatar
Escrito por Redacción

“El estado de la IA generativa en las empresas” de Menlo Ventures reveló que las compañías están invirtiendo más en inteligencia artificial generativa. Mientras que en 2024 las empresas gastaron 11.500 millones de dólares, este año triplicarán con creces su gasto en IA, alcanzando los 37.000 millones de dólares.

Además del aumento en los presupuestos para IA, las empresas están pasando de desarrollar modelos internamente a subcontratarlos a proveedores externos en grandes cantidades. El informe reveló que, mientras que en 2024 el 47 % de las soluciones de IA se desarrollaban internamente y el 53 % se adquirían, hoy en día el 76 % de toda la IA se compra en lugar de desarrollarse internamente.

“[Las empresas] están subcontratando… y simplemente implementando IA de terceros, sin tener ni idea de lo que está haciendo su IA”, dijo Drew Naukam, director ejecutivo de Gorilla Logic.

“Puede que estén verificando si la IA funciona correctamente, pero en realidad no tienen idea de cómo funcionan los procesos internos”, dijo Naukam. “Esto puede llevar a una falta de optimización de los modelos y a la pérdida de los beneficios de saber qué hace una IA y cómo funciona dentro de un flujo de trabajo”.

Según Naukam, las empresas que subcontratan todas sus operaciones de IA a plataformas de terceros y no desarrollan habilidades organizativas internas están a merced de los proveedores y no obtendrán los beneficios que puede brindar la transformación digital de la IA.

La IA en los flujos de trabajo: repensando el desarrollo de software lineal  

Si bien las predicciones de los expertos de Stanford para 2026 afirman que 2026 será el año de la evaluación de la IA, un estudio del MIT de mediados de 2024, ampliamente citado, señala dónde falla la IA: en los flujos de trabajo. El informe del MIT reveló que el 95 % de las organizaciones no obtienen ningún retorno de la inversión con la IA implementada, y la mayoría de los fallos se deben a “flujos de trabajo frágiles”.

Según Naukam, la IA puede impulsar la eficiencia en equipos y flujos de trabajo, no solo en la productividad individual. El desafío, añade Naukam, radica en que las organizaciones necesitan comprender claramente el flujo de trabajo que utilizan antes de implementar la IA.

“Es necesario contar con personas capaces de replantear el flujo de trabajo a una escala que la IA pueda ejecutar, en lugar de a una escala que los humanos puedan ejecutar”, dijo Naukam.

Algunas de las diferencias entre la IA y los humanos, por ejemplo, son la capacidad de procesar múltiples conjuntos de datos en tiempo real y la de ejecutar múltiples iteraciones rápidas de una prueba también en tiempo real. Estas diferencias representan un desafío particular en la industria del desarrollo de software, donde los flujos de trabajo están diseñados para ser lineales, pero la IA es no determinista. Esto significa que el flujo de trabajo tradicional de DevOps (codificar, probar, lanzar) debe reinventarse para adaptarse a las iteraciones de la IA.

“Tienes un problema, haces que la IA interactúe con ese problema, lo intentas, fallas, iteras, mejoras y repites ese proceso una y otra vez para obtener el resultado que esperas, con una validación que te permite comprobar estadísticamente que los resultados esperados son los que se consiguen”, dijo Naukum.

“Se trata de un proceso no determinista para resolver un problema, y ​​eso es intrínsecamente diferente de la forma en que la ingeniería de software ha funcionado históricamente”, añadió.

Los flujos de trabajo sencillos se pueden automatizar en días o semanas, mientras que los flujos de trabajo más complejos pueden tardar hasta un año en automatizarse, dependiendo de su complejidad.

Inteligencia para la toma de decisiones: IA a nivel estratégico

Las empresas líderes en IA no solo están implementando la inteligencia artificial en los flujos de trabajo de producción, sino en todas sus operaciones, y los departamentos estratégicos se están convirtiendo en un nuevo foco de atención.

Un informe de International Data Corporation (IDC) reveló que el 88,3% de las organizaciones utilizan la IA a nivel estratégico, y que el 88,3% de ellas ya han implementado o planean poner en marcha iniciativas piloto de Inteligencia para la Toma de Decisiones (ID).

“En las estrategias empresariales de alto riesgo, el coste de un paso en falso se mide en millones, muchos de los cuales son irreversibles”, afirmó Arda Ecevit , cofundador y director ejecutivo de NexStrat.AI, una consultora de gestión de IA.

Los líderes ya no pueden arriesgarse a adoptar un enfoque opaco, ya que las decisiones estratégicas requieren rendición de cuentas y un registro de auditoría claro, añadió. “Si no se comprende el “por qué” de la recomendación de una IA, no se puede asumir la responsabilidad de actuar en consecuencia ni defender esa decisión ante la junta directiva o las partes interesadas”, afirmó Ecevit.

NexStrat desarrolló un flujo de trabajo de IA con capacidad de gestión de agentes, específicamente para la estrategia. El modelo utiliza un enfoque basado en hipótesis, generando hipótesis estratégicas y luego iterando rápidamente sobre ellas. Las iteraciones y el procesamiento intensivo que realiza el agente de IA son rastreables en todas las fuentes. “Esto permite a los líderes brindar juicios y orientación de alto nivel donde más importa”, afirmó Ecevi.

A pesar de los beneficios que la IA puede aportar a nivel estratégico —mejorar los procesos, ejecutar simulaciones e iteraciones simultáneas y acelerar el análisis y la generación de contenido—, la intervención humana es necesaria, explicó Evici.

“La IA carece de ese toque final del juicio humano: la visión, la intuición y el instinto que definen a un gran líder”, afirmó. En última instancia, la responsabilidad final recae en quienes toman las decisiones, quienes deben mantener el control para garantizar que la estrategia no solo sea analíticamente sólida, sino también cultural y éticamente correcta.

El Nacional

Acerca del autor

Foto del avatar

Redacción

Deja un comentario