2024 fue el año de SLM, los modelos de lenguajes pequeños. Y para cerrar por todo lo alto este año SLM, IBM presenta Granite 3.1, sus nuevos pequeños modelos open source para empresas, con un rendimiento sorprendente y cercano al de grandes modelos propietarios como los de OpenAI, Google o Anthropic.
IBM continúa su impulso en la IA empresarial «abierta» con el lanzamiento de Granito 3.1la última versión de la familia Granite. La iteración anterior “3.0” se lanzó en octubre pasado.
Esta nueva versión mejora significativamente el rendimiento, amplía el tamaño del contexto, introduce mecanismos para detectar «alucinaciones» en llamadas a funciones y ofrece nuevos modelos deincrustaciones plurilingüe.
Aumento del rendimiento
Con sus 8 mil millones de parámetros, el modelo insignia Granito 3.1 8B Instrucción Pertenece a la categoría de modelos “pequeños” que se pueden ejecutar localmente. Supera a la mayoría de los otros LLM de código abierto en su categoría (8 mil millones de parámetros) según evaluaciones comparativas realizadas a través de la plataforma Hugging Face OpenLLM Leaderboard.
Estos avances se pueden explicar, entre otras cosas, por:
– Mejor comprensión de instrucciones complejas (evaluadas a través del conjunto de datos IFEval).
– Capacidad de razonamiento mejorada en textos largos (probado con Multi-step Soft Reasoning, MuSR).
– Una ventana emergente de 128.000 tokens (alineada con la recientemente introducida con LLama 3.3).
Según IBM, con estas optimizaciones, Granite 3.1 se posiciona como un nuevo punto de referencia para casos de uso empresarial críticos, incluida la generación de código, la traducción y la creación de agentes de toma de decisiones.
Suplementos centrados en casos de uso empresarial
Además de los modelos Granite 3.1, IBM también anuncia su nuevo modelo de control de IA “ Guardián de granito 3.1 » y sus modelos de empotramiento « Incrustación de granito » optimizado para RAG, búsqueda semántica y vectorización de documentos textuales.
Guardián de granito 3.1 (en las versiones 8B y 2B) integra un sistema para detectar “alucinaciones” en flujos de trabajo “agenticos” donde un modelo llama a funciones externas (por ejemplo, para consultar una base de datos o realizar un cálculo).
El modelo monitorea cada llamada a función en tiempo real para garantizar que los datos devueltos no sean inventados ni malinterpretados. Ofrece así un nivel adicional de auditoría y confiabilidad, esencial para aplicaciones comerciales donde cada operación debe ser verificable y rastreable.
Además de sus modelos generativos, IBM ahora ofrece modelos integrados optimizados para búsqueda semántica, vectorización de documentos y relevancia creciente mediante recuperación de generación aumentada (RAG). Hay cuatro versiones disponibles: Granito-Incrustación-30M-Inglés, Granito-Incrustación-125M-Inglés, Granito-Incrustación-107M-Multilingüe, Granito-Incrustación-278M-Multilingüe.
Los dos últimos son los más interesantes y soportan 12 idiomas. (inglés, alemán, español, francés, japonés, portugués, árabe, checo, italiano, coreano, holandés y chino). IBM ha validado la elegibilidad comercial de los datos de capacitación y proporciona indemnización ilimitada contra reclamos de propiedad intelectual de terceros.
Todas las plantillas de Granite 3.1, incluidas Granite Guardian y Granite Embeddings, tienen licencia. apache 2.0en línea con el compromiso histórico de IBM con el código abierto. IBM no especifica si sus modelos realmente cumplen con la definición OSI de “IA de código abierto”, pero de hecho parece ser así.
Los modelos Granite 3.1 están disponibles hoy en la plataforma IBM watsonx.ai y con socios como Docker, Hugging Face, LM Studio, Ollama y Replicate. También se integrarán en la plataforma NIM de NVidia a principios de 2025.
Lea también:
Phi-4, el nuevo modelo pequeño de Microsoft que funciona como uno grande
OpenAI lanza su IA “o1 Pro” a 200 dólares al mes
Google Gemini 2.0: La era de los agentes inteligentes
Meta Llama 3.3, con un poco más de pensamiento en su interior…
OLMo 2: un nuevo modelo verdaderamente de código abierto mejor que LLama 3.1
Mistral AI lanza su primer modelo multimodal
IBM lanza su familia de modelos “pequeños” Granite 3.0
[
