Las leyes de escala tradicionales en IA parecen estar en duda. Jugadores como Alibaba están reinventando sus enfoques con modelos más eficientes y económicamente viables como los nuevos “Marco-o1” y “QwQ-32B-Preview”, que no tienen nada que envidiar a los nuevos modelos “o1” de OpenAI.
En Europa se habla poco de los modelos chinos de IA. ¿Confiaríamos menos en ellos por defecto que en los modelos americanos (como los de OpenAI, Anthropic, Meta o Google) o europeos (principalmente Mistral AI)? Quizás, incluso probablemente.
Sin embargo, los investigadores chinos tienen amplia capacidad para producir modelos de IA competitivos y creíbles. Este es particularmente el caso de Alibaba, que no duda en publicar sus modelos como código abierto en aras de transparencia y facilidad de acceso. En septiembre de 2024, en su conferencia anual Apsara, Alibaba Cloud presentó más de 100 modelos de IA de código abierto, incluidos como Qwen 2.5. Estos modelos, que varían entre 0,5 y 72 mil millones de parámetros, brindan matemáticas avanzadas, habilidades de codificación y admiten más de 29 idiomas. De este modo, pueden responder a una amplia variedad de aplicaciones, como asistentes de conversación, generación de resúmenes, traducción, pero también a otras aplicaciones más específicas en sectores como el automóvil, los videojuegos y la investigación científica. Según Alibaba, más de 90.000 empresas en todo el mundo ya están utilizando sus modelos Qwen 2.5 para satisfacer sus necesidades de aplicaciones de IA y realizar sus casos de uso de IA.
Dos modelos con mayor capacidad de razonamiento
Continuando con sus esfuerzos e innovaciones, Alibaba anunció esta semana el lanzamiento de dos nuevos modelos de razonamiento: Marco-o1 y QwQ-32B-Preview, posicionados como alternativas al modelo o1 de OpenAI.
QwQ-32B-Preview, equipado con 32,5 mil millones de parámetros, destaca por su capacidad de procesar indicaciones de hasta 32.000 palabras. Incorpora un mecanismo único de autoverificación de hechos, que le permite resolver problemas complejos de lógica y matemáticas. Según las pruebas de Alibaba, el modelo supera a las versiones o1-preview y o1-mini de OpenAI en algunos puntos de referencia, incluidas las pruebas AIME y MATH.
Aunque tiene limitaciones, como cambios inesperados de idioma o bucles de razonamiento, así como limitaciones en el manejo de ciertos temas delicados (de acuerdo con las regulaciones chinas), QwQ-32B-Preview está disponible bajo la licencia Apache 2.0 en Hugging Face.
Pero eso no es todo. El segundo modelo de Alibaba, Marco-o1, es una versión optimizada del modelo Qwen2-7B-Instruct de Alibaba, que introduce importantes innovaciones en el campo del razonamiento. El modelo integra tres grandes avances técnicos:
- Uso del algoritmo Monte Carlo Tree Search (MCTS) para explorar diferentes caminos de razonamiento
- Un mecanismo de reflexión que permite al modelo reevaluar sus conclusiones.
- Una estrategia de acción flexible que adapta la granularidad de los pasos de razonamiento.
La particularidad de estos modelos radica en su enfoque de “cómputo en tiempo de prueba”, una técnica que permite más tiempo de procesamiento durante la inferencia para mejorar la calidad de las respuestas. Este enfoque permite a Marco-o1 sobresalir en tareas complejas como la traducción de expresiones coloquiales, donde el contexto cultural es crucial.
Estos nuevos modelos de Alibaba no son los primeros “modelos de razonamiento de IA” producidos por los centros de I+D chinos. De hecho, otro actor llamado DeepSeek también reveló anteriormente su Vista previa de DeepSeek-R1-Lite También se presenta como competidor directo de OpenAI “o1”.
Estos avances son parte de un contexto más amplio de cuestionamiento de las “leyes de escala” tradicionales en la IA, donde el aumento de los recursos y datos informáticos ya no garantiza sistemáticamente un mejor rendimiento. Un fenómeno al que se enfrentan hoy todos los grandes actores de la IA con modelos de frontera “gigantes” (Google Gemini Ultra 1.5, OpenAI GPT 5, Claude Opus 3.5) que no son tan eficientes como se esperaba pero, sobre todo, no ofrecen avances que justifiquen su tamaño y por tanto su coste de aprendizaje y más aún su coste operativo. Una situación ampliamente mencionada por nuestros compañeros de IT for Business en su artículo “La dura búsqueda de la próxima frontera LLM”.
Esta situación está empujando a los grandes laboratorios, incluido Google, que aparentemente ha movilizado a un equipo de 200 personas sobre el tema, a explorar nuevos enfoques como la “computación en tiempo de prueba”.
Lea también:
La difícil búsqueda de la próxima frontera LLM
OpenAI lanza nuevos modelos “o1” más inteligentes que su “GPT”
[MAJ] ¡OpenAI considera que el rumor de “Orión” es una noticia falsa!
Alibaba evangeliza en torno a la IA y ofrece su plataforma ModelScope MaaS como código abierto
Alibaba Cloud se posiciona en la IA como servicio
[
