Liquid AI lanza LFM2.5-2.6B: La inteligencia artificial que puedes correr en una Raspberry Pi
Hasta ahora, si querías integrar una IA capaz en tu negocio, estabas atado a la nube. Necesitabas pagar suscripciones o consumo por tokens, depender de una conexión a internet impecable y, lo más crítico para muchas empresas, enviar información privada a servidores de terceros.
Liquid AI, una compañía fundada en 2023 por ex-investigadores del MIT, acaba de patear el tablero con el lanzamiento de LFM2.5-2.6B. Se trata de un modelo de inteligencia artificial diseñado específicamente para funcionar de manera local en dispositivos con muy pocos recursos.
¿Qué tan pocos recursos? Puedes correrlo perfectamente en tu teléfono celular, en una laptop común o hasta en una humilde Raspberry Pi, sin depender de servidores externos ni de costosas tarjetas gráficas (GPUs).
Los números duros: liviano pero rápido
El problema que resuelve el LFM2.5-2.6B es el balance entre rendimiento y tamaño. Este modelo pesa menos de 2.5 GB en memoria RAM y cuenta con apenas 2.600 millones de parámetros, pero su arquitectura está tan optimizada que logra leer un contexto de hasta 128.000 tokens (equivalente a varios libros enteros).
En cuanto a velocidad, las métricas son bastante sólidas. El modelo puede procesar unos 220 tokens por segundo en una laptop con chip Apple M5 Max, y unos 30 tokens por segundo en un teléfono inteligente promedio. Básicamente, te permite tener respuestas instantáneas de la IA directamente en el bolsillo.
Para qué sirve (y para qué no)
Este modelo no viene a competir con gigantes como GPT-4 o Llama 3 en tareas de razonamiento profundo o desarrollo de software pesado. Su fuerte son las tareas estructuradas y repetitivas, lo que en la industria se conoce como "trabajo de agentes".
Es ideal para llamar a otras herramientas, leer documentos de manera privada, gestionar calendarios, automatizar flujos de datos en empresas B2B o dotar de inteligencia a electrodomésticos y dispositivos de uso industrial (IoT). Si necesitas que la IA trabaje sin conexión a internet y sin comprometer la privacidad de tus clientes, este es el camino.
La letra chica: ¿Es realmente gratuito?
Aquí hay un detalle importante que muchas empresas pasan por alto. Aunque puedes descargar los pesos del modelo libremente (open-weights), el LFM2.5-2.6B se distribuye bajo la LFM Open License v1.0.
Esto significa que es 100% gratuito para investigadores, organizaciones sin fines de lucro y proyectos personales. Para uso comercial, también es gratis siempre y cuando tu empresa facture menos de 10 millones de dólares anuales. Si tu negocio supera esa cifra, tendrás que negociar una licencia comercial directamente con Liquid AI.