La IA tiene el potencial de transformar nuestra forma de trabajar, impulsando mejoras en la eficiencia y la productividad a una escala comparable a la de una nueva Revolución Industrial. Sin embargo, las ventajas prometidas por la IA no están garantizadas. Hasta el 90% de los proyectos de IA no logran superar la fase de prueba de concepto, y las organizaciones que utilizan estos modelos, especialmente los de vanguardia, se enfrentan a costos crecientes. Como resultado, las empresas tienen dificultades para obtener un retorno de la inversión de sus iniciativas de IA.
El uso no gestionado de la IA, basado en el consumo, aumenta el riesgo de un gasto descontrolado. A medida que los proveedores de IA buscan recuperar sus costos, el precio de los tokens de IA está subiendo. Las iniciativas para utilizar la IA al máximo, o «tokenmaxing», parecen cada vez más insostenibles, al menos para la mayoría de las empresas.
Las organizaciones se enfrentan a facturas cada vez mayores por el uso de la IA, especialmente en el caso de los modelos de vanguardia basados en la nube. El costo de los tokens está aumentando y las iniciativas para promover el uso de la IA pueden provocar un gasto descontrolado. Sin embargo, solo una minoría de organizaciones reporta un retorno de la inversión significativo en proyectos de IA.
Esto no es culpa exclusiva de la industria de la IA. Los laboratorios de IA se enfrentan a sus propias limitaciones de capacidad y al aumento de los costos, especialmente en hardware y energía. Necesitan cubrir esos gastos, financiar el desarrollo de la próxima generación de modelos y recuperar su inversión en el acceso público, a menudo gratuito, a sus herramientas.
Pero las empresas también se enfrentan a la proliferación de la IA, con un conjunto cada vez mayor de aplicaciones que incluyen funcionalidades de IA o realizan llamadas a la API de modelos de IA. Estas funciones pueden conllevar costos de uso ocultos. Además, existe el desafío de la IA en la sombra: individuos o equipos pueden tener sus propias herramientas de IA al margen de las políticas de la organización. Al igual que con la computación en la nube, y la TI en la sombra antes que ella, incluso las organizaciones con marcos tecnológicos sólidos y centralizados están viendo cómo los usuarios recurren a sus propias herramientas de IA no oficiales. Además de los costos, esto aumenta los riesgos de seguridad, privacidad, soberanía de datos y continuidad del negocio.
Un factor que impulsa el aumento de los costos de la IA es la excesiva dependencia de las empresas de los modelos más grandes y complejos, cuando en muchos casos los modelos más pequeños podrían ser suficientes para tareas específicas, ofreciendo un equilibrio más eficiente entre rendimiento y gasto.