La compañía presenta una familia completa de modelos de lenguaje de código abierto, con énfasis en seguridad, velocidad y eficiencia para uso corporativo.
IBM ha dado un paso significativo en el campo de la inteligencia artificial con el lanzamiento de Granite 3.0, su tercera generación de modelos de lenguaje grande (LLM) y herramientas complementarias, estableciendo nuevos estándares en rendimiento y seguridad empresarial.
Innovación y rendimiento
El buque insignia de esta nueva generación es el Granite 3.0 8B Instruct, un modelo entrenado con más de 12 billones de tokens en 12 idiomas naturales y 116 lenguajes de programación.
Este modelo iguala o supera el rendimiento de competidores similares como Meta y Mistral AI en evaluaciones académicas.
Seguridad y transparencia
«IBM cree que la IA responsable es una ventaja competitiva, especialmente en el entorno empresarial», destaca la compañía.
Los nuevos modelos Granite Guardian 3.0 8B y 2B proporcionan capacidades de detección de riesgos y daños sin precedentes, superando a competidores como LlamaGuard de Meta.
Eficiencia y velocidad
La serie incluye modelos de Mixture of Experts (MoE) para minimizar la latencia:
- Granite 3.0 3B-A800M-Instruct
- Granite 3.0 1B-A400M-Instruct
Además, incorpora un decodificador especulativo que aumenta la velocidad de inferencia en un 220%.
Disponibilidad y licenciamiento
A diferencia de la tendencia actual hacia modelos cerrados, IBM mantiene su compromiso con el código abierto, lanzando todos los modelos Granite bajo la licencia Apache 2.0. Los modelos están disponibles en:
- Plataforma IBM watsonx
- Google Vertex AI
- Hugging Face
- NVIDIA
- Ollama
- Replicate
Sostenibilidad y futuro
IBM ha entrenado estos modelos en Blue Vela, utilizando 100% energía renovable. Para 2024, la compañía planea expandir las ventanas de contexto a 128K tokens, mejorar el soporte multilingüe y añadir capacidades multimodales.
Impacto empresarial
Los modelos Granite 3.0 destacan especialmente en casos de uso empresarial, liderando evaluaciones en RAGBench y mostrando excelente desempeño en ciberseguridad, generación de código y atención al cliente.