Los elevados gastos en formación en inteligencia artificial han sido un obstáculo relevante para la incorporación de la IA, impidiendo que una gran cantidad de organizaciones implementen la tecnología de IA. De acuerdo a un Estudio de asesoramiento de Forrester 2017 el 48% de las compañías mencionaron los altos costos tecnológicos como una de las razones principales para no incorporar soluciones basadas en IA.
A pesar de esto, las situaciones más recientes han mostrado que los gastos de formación en inteligencia artificial están disminuyendo velozmente y se espera que esta tendencia perdure en los años venideros. De acuerdo con el Reporte ARK Invest Big Ideas 2023 los gastos por formar un modelo de lenguaje de gran escala como el GPT-3 han caído desde $4,6 millones en 2020 hasta $450,000 en 2022, una reducción del 70% anual.[automatic_youtube_gallery type="search" search="Los precios de formación en IA siguen disminuyendo drásticamente" cache="2419200" per_page="1" thumb_excerpt="0" player_description="0"]
Analicemos más este patrón de descenso de los costos de formación de IA y las variables que están favoreciendo a esta disminución.
¿Cómo han evolucionado los costos de formación en IA con el tiempo?
Según el fresco Investigación de ARK Invest 2020, el gasto para entrenar modelos de aprendizaje profundo se está mejorando 50 veces más rápido que la Ley de Moore. De hecho, el coste relacionado con la ejecución de un sistema de deducción de IA ha disminuido dramáticamente a niveles prácticamente insignificantes en muchos casos de uso.
Además, los costes de formación se han reducido diez veces al año en los últimos años. Por ejemplo, en 2017, formar un clasificador de imágenes como ResNet-50 en una nube pública costaba alrededor de $1000, pero en 2019, el costo había descendido notablemente a aproximadamente $10.
Estos descubrimientos se alinean con una Investigación 2020 de OpenAI que descubrió que la capacidad informática necesaria para formar un modelo de IA para realizar la misma tarea ha disminuido en un factor de dos cada 16 meses desde 2012.
Además, el reporte ARCA pone de manifiesto la disminución de los costos de formación de IA. El reporte estima que para 2030 el coste de formación de un modelo GPT-3 se reducirá a 30 dólares, en comparación con los 450.000 dólares de 2022.
Coste para entrenar nivel de rendimiento GPT-3 – ARK Invest Big Ideas 2023
Factores relevantes en la disminución de los precios de formación en IA
Entrenar modelos de IA se está volviendo más económico y sencillo, a medida que las tecnologías de IA siguen avanzando, haciéndolas más accesibles para un abanico más amplio de organizaciones. Varios factores, como los costos de hardware y software y la IA basada en la nube, han colaborado a la disminución de los gastos de formación en IA.
Analicemos estos factores a continuación.
1. Hardware
La IA requiere de hardware costoso y especializado de alta gama para procesar grandes cantidades de datos y cálculos. Entidades como NVIDIA, IBM y Google proporcionan GPU y TPU para ejecutar trabajos computacionales de alto rendimiento (HPC). Los altos costes del hardware complican la democratización de la IA a gran escala.
No obstante, a medida que avanza la tecnología, los gastos de hardware disminuyen. De acuerdo con el Reporte ARK Invest 2023 la Ley de Wright predice que los costos de producción de la unidad de cálculo (RCU) asociados a la IA, o sea, los costos del hardware de formación de IA, deberían disminuir en un 57% anualmente, lo que llevaría a una reducción del 70% en los costos de formación de IA para 2030, como se representa en el gráfico que sigue.
2. Uso de Software
Los gastos de formación en software de IA pueden reducirse a un 47% anual por la vía de una mayor eficiencia y escalabilidad. Marcos de software como TensorFlow y PyTorch permiten a los programadores formar modelos complejos de aprendizaje profundo en sistemas distribuidos con alto rendimiento, economizando tiempo y recursos.
Además, grandes modelos pre-aprendidos como Inceptionv3 o Resnet y las técnicas de transferencia de aprendizaje también contribuyen a economizar gastos al permitir a los programadores ajustar los modelos existentes en lugar de aprenderlos desde cero.
3. Inteligencia artificial basada en la nube
La formación en IA basada en la nube reduce los costos al proporcionar recursos informáticos escalables bajo demanda. Con el modelo de pago por uso, las empresas sólo pagan por los recursos informáticos que utilizan. Además, los proveedores de la nube ofrecen servicios de IA prediseñados que aceleran la formación en IA.
Por ejemplo, Aprendizaje automático de Azure es un servicio basado en la nube para análisis predictivo que permite un rápido desarrollo e implementación de modelos. Proporciona memoria y recursos flexibles. Los usuarios pueden ampliar rápidamente hasta miles de GPU para mejorar su rendimiento informático. Permite a los usuarios trabajar a través de sus navegadores web en entornos de IA preconfigurados, eliminando los gastos generales de configuración e instalación.