ViaMind RadarIA · Verificado por ViaMind
Liquid AI entrena checkpoints LFM2.5 de 4 bits que retienen ~97% del rendimiento BF16
La spin-off del MIT usó destilación consciente de cuantización en cuatro modelos LFM2.5 y los probó en teléfono, laptop, mini PC y Raspberry Pi.
Fuente: RuntimeWire · Ver original ↗
Lo reportado
Lanzamiento de checkpoints cuantizados
Según RuntimeWire, Liquid AI publicó el 19 de agosto cuatro checkpoints LFM2.5 actualizados, entrenados para despliegue en 4 bits mediante destilación consciente de cuantización (QAD). Los modelos abarcan 230 millones, 350 millones, 1.2 mil millones y 2.6 mil millones de parámetros, disponibles como archivos GGUF Q4_0 para inferencia local con llama.cpp y runtimes compatibles.
Pruebas en dispositivos de borde
RuntimeWire indica que Liquid AI probó los checkpoints en un teléfono, una laptop, una mini PC y una Raspberry Pi. La cuantización reduce la precisión numérica de los pesos, lo que disminuye los requisitos de memoria y puede acelerar la inferencia, aunque normalmente con pérdida de calidad.
Rendimiento reportado
Según RuntimeWire, los checkpoints de 4 bits retienen aproximadamente el 97% del rendimiento BF16. La propia fuente advierte que las cifras redondeadas de precisión requieren escrutinio, ya que el rendimiento puede variar según la tarea y el hardware.
Estado de evidencia: Las afirmaciones materiales incluidas fueron contrastadas con la evidencia enlazada.
Qué seguir
Observar si aparecen benchmarks independientes que comparen los checkpoints Q4_0 con las versiones BF16 en tareas estándar, y si otros proveedores adoptan la destilación consciente de cuantización en sus flujos de entrenamiento.
Compartir esta historia
RECIBE VIAMIND RADAR
Lo que importa,
directo en tu correo.
Un resumen diario con una historia clave de cada sección.
Fuentes
Más en Inteligencia Artificial
