La inteligencia artificial cada vez más barata, accesible y capaz
El mundo de la inteligencia artificial alcanzó un punto de intercepción que muchos estábamos esperando: modelos abiertos y a bajo costo con capacidades similares a los llamados "incumbentes". Esta tendencia estará redefiniendo no solo esta tecnología, sino también cómo hacemos negocios y cómo innovamos.
En el Congreso Futuro 2023 en Chile, el académico Georgios N. Yannakakis compartió varias recomendaciones(1) para que las universidades se mantuvieran relevantes en la era de la IA. Entre sus consejos estaban resolver problemas de nicho, colaborar con la industria y crear startups por medio de spin-off. Sin embargo, fue su recomendación menos resaltada —seguir la tendencia del código abierto en IA— la que hoy está demostrando ser la más visionaria.
El momento que muchos esperaban ya está aquí…
La tendencia en el gráfico y los recientes acontecimientos muestran este fenómeno. El 10 de enero de 2025, DeepSeek lanzó su aplicación móvil, y apenas diez días después, publicó gratuitamente los pesos de su modelo R1 en Hugging Face y el código de inferencia de R1 en GitHub -importante decir que este modelo tiene desempeño similar al modelo más capaz de OpenAI.
Esta convergencia está derribando barreras que limitaban quién podía competir e innovar en el campo de la IA, democratizándola, haciendo los modelos muy capaces 142 veces más pequeños, a su vez con un costo de inferencia 280 veces menos, todo esto en dos años.
La inteligencia artificial se democratiza: 142 veces más pequeña, 280 veces más barata, igual de potente...
Veamos en detalle:
Reducción de costos: Las organizaciones pueden acceder a modelos avanzados sin presupuestos astronómicos. Es así como DeepSeek R1, un modelo de código abierto desarrollado en China, ofrece un costo de solo $0,96 por millón de tokens frente a los $1,93 de OpenAI, representando una reducción del 50% en costos (2). Impulsado por modelos pequeños cada vez más capaces, el costo de inferencia para un sistema con rendimiento al nivel de GPT-3.5 se redujo más de 280 veces entre noviembre de 2022 y octubre de 2024 (5).
El precio de computo de inferencia cae dramáticamente...
Personalización: posibilidad de adaptar modelos para necesidades específicas de nicho. Por ejemplo, Azure OpenAI Service facilita el ajuste fino de modelos, permitiendo a empresas adaptar LLMs a tareas específicas sin modificar todos los parámetros(3). En 2022, el modelo más pequeño que registró una puntuación superior al 60% en MMLU fue PaLM, con 540 mil millones de parámetros. Para 2024, el Phi-3-mini de Microsoft, con apenas 3,8 mil millones de parámetros, alcanzó el mismo umbral. Esto representa una reducción de 142 veces en poco más de dos años (5).
Más pequeño y más capaz es la tendencia en sólo dos años...
Transparencia: Mayor comprensión del modelo para ajustes de acuerdo con la aplicación en desarrollo. En HuggingFace tienen como proyecto abierto reproducir y abrir completamente el código R-1, incluidos los datos de entrenamiento y los scripts que DeepSeek aún no ha revelado(4), y más interesante aún es el trabajo de Anthropic en la biología de un gran modelo de lenguaje, donde escrudiñan cómo opera cada una de las distintas tareas de sus propios modelos para incrementar la interpretabilidad de estos.
Según estudio 2024 de la consultora EY, el 72% de los ejecutivos en Chile consideran la IA como la principal tecnología disruptiva para los próximos tres años. El impacto se magnifica al considerar el estudio de SOFOFA y CENIA, que estima que el 48% de las tareas en los 100 empleos más comunes en Chile pueden acelerarse con IA Generativa, representando un potencial impacto del 12% del PIB nacional.
El 48% de las tareas en los 100 empleos más comunes en Chile pueden acelerarse con IA Generativa.
Las implicaciones para los negocios son profundas:
- Nuevos modelos de negocio y diferenciación: Cuando los modelos de IA se vuelven productos básicos al alcance de todos, la ventaja competitiva ya no estará en tener acceso exclusivo a uno. Deberás diferenciarte por los problemas que resuelvas y la experiencia que ofreces a tus clientes. La calidad de tus datos propios y la velocidad con que iteras y habilitas el uso de la IA en tu negocio serán factores decisivos. Y si tu modelo de negocio actual no se ve forzado a cambiar, esa es otra historia para reflexionar...
- Desarrollo de capacidades internas: Las organizaciones deben cultivar habilidades en IA, ya que uno de los principales obstáculos para adoptar cualquier tecnología es el factor humano; confianza y compromiso, capacidades, rediseño de procesos e innovación.
- Aceleración de la innovación: Con menores barreras de entrada, veremos una explosión de aplicaciones innovadoras en sectores previamente limitados por costos, piensa principalmente en PYMEs y Startups que se propongan aprovechar esta oportunidad.
Debemos prepararnos para esta nueva realidad, ya que el futuro de la IA no pertenece exclusivamente a los gigantes tecnológicos o startups con recursos estratosféricos. Pertenece a quienes quieran y puedan adaptarse rápidamente, innovar ágilmente y aprovechar el poder democratizador de las capacidades de la inteligencia artificial.
La pregunta ya no es si los modelos abiertos alcanzarán a los propietarios, sino cómo prepararnos para aprovechar esta nueva realidad para transformar nuestros negocios y nuestro ecosistema de manera responsable, obteniendo un beneficio neto para la sociedad.
¿Qué habilidades necesitamos cómo individuos y en nuestras organizaciones para aprovechar esta nueva realidad que se nos viene?
#Foresight #FuturesThinking #IA #Innovación #InsightsDeLaSemana
Angel Grimalt
REV. 06.04.2025
Para saber más:
(1) Georgios N. Yannakakis | ¿Cómo mantenerse vigente en la era de la IA? | Congreso Futuro 2024. Acceso en: https://youtu.be/KvpE5nD6Jwk?si=O71oH7MD0EHOK8C7&t=790
(2) Artificial Analysis | Comparison of Models: Intelligence, Performance & Price Analysis [LINK]
(3) Personalizar un modelo con ajuste preciso [LINK]
(4) Open-R1: a fully open reproduction of DeepSeek-R1. [LINK]
(5) The 2025 AI Index Report, Stanford University Human-Centered Artificial Intelligence [LINK]
-The views expressed in this article are my own and do not necessarly represent the views of EY or any of its members firms-
---
Artificial intelligence increasingly cheaper, accessible and capable
The artificial intelligence world has reached an interception point many of us were anticipating: open, low-cost models with capabilities comparable to leading "incumbents." This trend is redefining not just the technology itself, but how we conduct business and innovate.
At Chile's Congreso Futuro 2023, academic Georgios N. Yannakakis shared several recommendations(1) for universities to remain relevant in the AI era. His advice included solving niche problems, collaborating with industry, and creating startups through spin-offs. However, his least emphasized recommendation—following the open-source trend in AI—is proving to be the most visionary.
The moment many have been waiting for is here...
The trend shown in the image and recent developments illustrate this phenomenon. On January 10, 2025, DeepSeek launched its mobile application, and just ten days later, freely published its R1 model weights on Hugging Face and R1 inference code on GitHub—notably, this model performs similarly to OpenAI's most capable model.
This convergence is breaking down barriers that previously limited who could compete and innovate in the AI field, democratizing it, making highly capable models 142 times smaller, while also reducing inference costs 280-fold, all in just two years.
Artificial intelligence democratizes: 142 times smaller, 280 times cheaper, equally powerful...
Let's look at the details:
Cost reduction: Organizations can access advanced models without astronomical budgets. DeepSeek R1, an open-source model developed in China, offers a cost of just $0.96 per million tokens compared to OpenAI's $1.93, representing a 50% cost reduction (2). Driven by increasingly capable small models, the inference cost for a system performing at the level of GPT-3.5 dropped over 280-fold between November 2022 and October 2024 (5).
Inference computing price falls dramatically...
Customization: Possibility to adapt models for specific niche needs. For example, Azure OpenAI Service facilitates fine-tuning of models, allowing companies to adapt LLMs to specific tasks without modifying all parameters (3). In 2022, the smallest model registering a score higher than 60% on MMLU was PaLM, with 540 billion parameters. By 2024, Microsoft's Phi-3-mini, with just 3.8 billion parameters, achieved the same threshold. This represents a 142-fold reduction in over two years (5).
Smaller and more capable is the trend in just two years...
Transparency: Greater understanding of the model for adjustments according to the application being developed. HuggingFace has an open project to reproduce and completely open the R-1 code, including training data and scripts that DeepSeek has not yet revealed (4). An more interesting is the work by Anthropic on the biology of a large language model, where they dig deeper and scrutinize different thinking tasks performed by their models to increase the interpretability of their outputs.
According to a 2024 EY consulting study, 72% of executives in Chile consider AI the main disruptive technology for the next three years. The impact is magnified when considering the SOFOFA and CENIA study, which estimates that 48% of tasks in Chile's 100 most common jobs can be accelerated with Generative AI, representing a potential impact of 12% of national GDP.
48% of tasks in Chile's 100 most common jobs can be accelerated with Generative AI.
The implications for business are profound:
- New business models and differentiation: When AI models become commodities available to everyone, competitive advantage will no longer lie in having exclusive access to one. You'll need to differentiate yourself through the problems you solve and the experience you offer customers. The quality of your proprietary data and the speed with which you iterate and enable AI use in your business will be decisive factors. And if your current business model isn't forced to change, that's another story to reflect on...
- Internal capability development: Organizations must cultivate AI skills, as one of the main obstacles to adopting any technology is the human factor; trust and commitment, capabilities, process redesign, and innovation.
- Innovation acceleration: With lower barriers to entry, we'll see an explosion of innovative applications in sectors previously limited by costs, primarily SMEs and startups looking to seize this opportunity.
We must prepare for this new reality, as the future of AI doesn't exclusively belong to tech giants or startups with stratospheric resources. It belongs to those willing and able to adapt quickly, innovate agilely, and harness the democratizing power of artificial intelligence capabilities.
The question is no longer whether open models will catch up to proprietary ones, but how to prepare ourselves to leverage this new reality to transform our businesses and ecosystem responsibly, obtaining a net benefit for society.
What skills do we need as individuals and in our organizations to take advantage of this emerging reality?
#Foresight #FuturesThinking #AI #Innovation #InsightsOfTheWeek
Angel Grimalt
REV. 04.06.2025
To know more:
(1) Georgios N. Yannakakis | How to stay relevant in the AI era? | Congreso Futuro 2024. Access at: https://youtu.be/KvpE5nD6Jwk?si=O71oH7MD0EHOK8C7&t=790
(2) Artificial Analysis | Comparison of Models: Intelligence, Performance & Price Analysis [LINK]
(3) Customize a model with fine-tuning [LINK]
(4) Open-R1: a fully open reproduction of DeepSeek-R1. [LINK]
(5) The 2025 AI Index Report, Stanford University Human-Centered Artificial Intelligence [LINK]
-The views expressed in this article are my own and do not necessarly represent the views of EY or any of its members firms-