Estamos acostumbrados a utilizar herramientas de inteligencia artificial como ChatGPT, Claude, Copilot o Gemini para recibir respuestas automáticas a nuestras preguntas, asumiendo que es algo gratuito. Aunque actualmente no se nos cobre por algunos servicios, lo cierto es que generar estas respuestas, y más aún las imágenes o vÃdeos, supone un coste significativo para las empresas tecnológicas detrás de estas innovaciones. ¿Cuánto es exactamente el coste? Ninguna compañÃa lo revela con precisión.
Desperdiciando recursos financieros. Varias compañÃas, incluyendo OpenAI, están invirtiendo enormes cantidades de dinero en la investigación y desarrollo de IA, una inversión que aún no les genera beneficios. Sam Altman, de OpenAI, mencionó recientemente que la empresa no espera ser rentable hasta 2029. Hasta entonces, seguirán absorbiendo enormes pérdidas, estimadas en 5.000 millones de dólares solo en 2024, según algunos análisis.
El costo oculto de la inteligencia artificial. Las entidades no suelen divulgar los detalles de los costos internos para operar sus servicios. The Washington Post mencionó en junio de 2023 que, en realidad, las empresas pierden dinero cada vez que se usan sus chatbots de IA. Investigaciones independientes sugieren que cada interacción con ChatGPT podrÃa costar unos 36 centavos de dólar, y que mantener su modelo de lenguaje en funcionamiento cuesta 700.000 dólares diarios.
La evolución de los modelos de IA conlleva mayores costes. La introducción de modelos que «razonan» como el modelo o1 de OpenAI representa un avance significativo hacia respuestas más precisas y completas, pero también incrementa los costos. Estos sistemas generan diversas respuestas que luego revisan y refinan, lo cual aumenta tanto el coste de operación para la empresa como el precio que podrÃa terminar pagando el usuario.
Un aviso del aumento en costos de suscripción. La aparición de una suscripción de 200 dólares al mes para el acceso ilimitado al modelo de razonamiento de OpenAI subraya el elevado costo que implica ofrecer acceso amplio a la inteligencia artificial. Los usuarios que obtienen un uso intensivo de los chatbots de IA serán quienes más se beneficien, y en esos casos, las empresas se inclinarán hacia suscripciones más especializadas y costosas.
Se estima que el coste de gestionar preguntas en un modelo de IA es enorme en Google. Si gestionaran el 10% de las que gestionan ahora con IA y las respuestas fueran de 50 palabras, tendrÃan que gastar 1.200 millones de dólares. Imagen: Reuters.
Costos aún mayores para imágenes y vÃdeos. Aunque generar texto es relativamente menos demandante, sigue siendo costoso. El costo aumenta considerablemente cuando se trata de generar imágenes o vÃdeos, debido a la mayor complejidad y recursos requeridos, como la eficiencia de servidores y la resolución del contenido.
El alto consumo de energÃa. Según John Hennessy de Alphabet, las respuestas generadas por modelos de lenguaje consumen diez veces más energÃa que una búsqueda estándar de Google, con grandes implicaciones para el medioambiente. Se prevé que el consumo de energÃa se triplique para 2030 debido a los crecientes centros de datos. Google y Microsoft ya consumen más energÃa que cien paÃses juntos.
El agua, otro recurso crÃtico. Además del consumo de energÃa, el agua es esencial para enfriar estos centros de datos. Un estudio de The Washington Post estima que una simple solicitud de un correo de 100 palabras a un IA consume 519 mililitros de agua.
En busca de la eficiencia. Se espera que los costos relacionados con el entrenamiento e inferencia de modelos de IA disminuyan con el tiempo. Innovaciones en chips y centros de datos más eficientes, diseñados para no requerir agua, como algunos de Microsoft, podrÃan contribuir a este objetivo.
IA operando localmente. Una solución alternativa implica el uso creciente de modelos de «Edge AI» que se ejecutan localmente. Apple Intelligence es un buen ejemplo, donde ciertas funciones se realizan directamente en el dispositivo, reduciendo el consumo de energÃa y mejorando la privacidad de las interacciones del usuario.
Imagen | Xataka con Grok
Deja una respuesta