Un modelo lingüístico pequeño es exactamente lo que su nombre indica. Se trata de un sistema de IA compacto capaz de comprender y generar texto. Sin embargo, utiliza muchos menos parámetros que un modelo gigante. Por lo tanto, es más rápido y menos costoso. Además, puede funcionar en equipos comunes. El interés por estos sistemas compactos ha aumentado considerablemente durante el último año. Esta guía explica cómo funciona un modelo lingüístico pequeño. También presenta las ventajas y las limitaciones de estos modelos.
¿Qué es un modelo lingüístico pequeño?
Un modelo lingüístico pequeño, o SLM (Small Language Model), aprende patrones lingüísticos a partir de datos. A continuación, predice la siguiente palabra de una frase. Los sistemas más grandes hacen lo mismo a gran escala. Por el contrario, un SLM mantiene deliberadamente un tamaño modesto. Muchos de los modelos más populares cuentan con unos pocos miles de millones de parámetros, o incluso menos. Algunos tienen incluso menos de mil millones.
Pero «más pequeño» no significa «menos eficaz». Un entrenamiento minucioso hace que estos modelos sean especialmente eficaces para tareas específicas. Por ejemplo, un modelo puede ser muy bueno resumiendo correos electrónicos, mientras que otro puede responder fácilmente a preguntas sobre productos. Para repasar los conceptos básicos, nuestra guía sobre modelos de IA explica cómo aprende y funciona un programa informático. En resumen, un SLM sacrifica la amplitud de sus capacidades en favor de la velocidad y la eficiencia.
Modelos lingüísticos pequeños frente a modelos lingüísticos grandes
La diferencia entre ambos radica esencialmente en su escala. Un modelo lingüístico grande puede contener cientos de miles de millones de parámetros. Por lo tanto, requiere servidores potentes y una gran cantidad de energía. Un modelo lingüístico pequeño, en cambio, es ligero. Funciona en un ordenador portátil, un teléfono o una instancia modesta en la nube.
El coste constituye otra diferencia notable. Los modelos grandes cobran más por consulta y responden más lentamente. Por el contrario, los modelos compactos responden rápidamente y solo cuestan unos céntimos. Por supuesto, los sistemas más grandes siguen siendo los más eficaces para las tareas más complejas y de mayor envergadura. Para comprender el funcionamiento interno de estos gigantes, consulta nuestra explicación sobre la arquitectura de los grandes modelos lingüísticos. Sin embargo, para la mayoría de las tareas específicas, un modelo más pequeño es más que suficiente.
Cómo ejecuta un modelo lingüístico pequeño la IA integrada
La IA en el dispositivo significa que el modelo se ejecuta directamente en tu dispositivo. En otras palabras, es tu teléfono o tu portátil el que realiza el procesamiento. No envía tus consultas a un servidor remoto. Por lo tanto, las respuestas parecen instantáneas. Además, tus datos personales permanecen en tu dispositivo.
Para lograrlo, los desarrolladores reducen el tamaño de los modelos. En primer lugar, eliminan los parámetros superfluos mediante la poda. A continuación, simplifican los cálculos matemáticos mediante la cuantificación. De este modo, el modelo cabe en una memoria limitada. Este enfoque encaja perfectamente con la IA en el borde, donde el procesamiento se lleva a cabo cerca del usuario. Como ningún dato sale del dispositivo, la IA en el dispositivo también favorece la privacidad y el uso sin conexión.
¿En qué casos aporta más valor la IA SLM?
La IA SLM resulta especialmente adecuada cuando la tarea es concreta y clara. Los chatbots destinados a los clientes son un excelente ejemplo de ello. Responden durante todo el día a un conjunto fijo de preguntas. Un modelo pequeño basta para gestionar esta carga a un coste reducido. Además, responde sin demora.
La clasificación de textos y la redacción sencilla constituyen otras aplicaciones especialmente adecuadas. Los dispositivos de domótica también se benefician de un modelo local. Por su parte, las fábricas utilizan la IA SLM para analizar los registros de los sensores in situ. Incluso las herramientas de programación incorporan modelos compactos para ofrecer consejos rápidos. De este modo, los equipos implementan funcionalidades útiles más rápidamente y a menor coste. En todos los casos, la especialización prima sobre el tamaño.
Resumen de cómo los SLM se vuelven más compactos
Hay dos trucos principales que permiten mantener la compacidad de estos modelos. En primer lugar está la destilación. En este caso, un modelo grande transmite sus mejores prácticas a uno más pequeño. El modelo «alumno» imita entonces al modelo «profesor», aunque solo representa una fracción de su tamaño. A continuación viene la cuantificación. Este método almacena los números con menos detalle. De este modo, el modelo utiliza mucha menos memoria.
Estas dos técnicas conservan la mayor parte de la precisión. Al mismo tiempo, reducen considerablemente los costes de hardware. Los equipos ya pueden hacer funcionar asistentes de alto rendimiento sin conexión. Así, los costes y la privacidad mejoran simultáneamente. Gracias a este equilibrio, los modelos pequeños no dejan de mejorar año tras año. Los desarrolladores incorporan ahora capacidades sorprendentes en archivos minúsculos. De hecho, algunos modelos, más pequeños que un archivo de música, son capaces de mantener una conversación auténtica.
Compromisos y limitaciones de los modelos lingüísticos pequeños
Los modelos pequeños presentan limitaciones reales. En general, tienen un conocimiento menos amplio del mundo. Por lo tanto, pueden tener dificultades con cuestiones generales o complejas. También pueden pasar por alto hechos poco comunes que un modelo más grande sería capaz de recordar. En resumen, una especialización concreta implica un ámbito de aplicación restringido.
La precisión también merece una atención especial. Un modelo compacto puede parecer seguro de sí mismo aunque cometa errores. Por eso, los equipos comprueban los resultados antes de confiar en ellos. Hugging Face alberga numerosos modelos abiertos que puedes comparar tú mismo en Hugging Face. No obstante, para una tarea adecuada, la compensación merece la pena. La rapidez, la confidencialidad y el bajo coste suelen prevalecer sobre una ligera pérdida de alcance.
Cómo empezar con modelos lingüísticos pequeños
Empezar es más fácil de lo que muchos piensan. En primer lugar, elige una tarea clara y bien definida que quieras resolver. A continuación, explora una biblioteca de modelos abiertos y selecciona una opción compacta. Por último, pruébala con ejemplos concretos extraídos de tu trabajo.
Prueba varios modelos y compara sus respuestas. Algunas herramientas te permiten ejecutar un modelo en tu ordenador portátil en cuestión de minutos. Microsoft Research, por ejemplo, pone a disposición modelos compactos diseñados para este fin. Los modelos lingüísticos pequeños ponen una IA útil al alcance de casi todo el mundo. Además, permiten reducir los costes y mantener los datos a mano. Y, sobre todo, adapta el modelo a la tarea que tengas entre manos. Empieza con modestia, evalúa los resultados y, a partir de ahí, ve avanzando.