Unsloth

¿Qué es Unsloth?

Unsloth es un framework de código abierto para ejecutar y entrenar LLM que permite ejecutar y entrenar modelos de IA en tu propio hardware local mediante una interfaz de código abierto. Abarca modelos de texto, visión, difusión de imagen y vídeo, audio y embeddings, tanto para la inferencia local como para el ajuste fino de LLM.

Unsloth se puede instalar de tres formas distintas: Unsloth Desktop como app nativa, Unsloth Studio como interfaz web en el navegador o Unsloth Core como el paquete de Python original basado en código. Desktop y Studio son las interfaces sin código; Core es la biblioteca que los desarrolladores llaman desde sus propios scripts de entrenamiento y notebooks.

Unsloth Desktop está marcado como Beta y se describe como una app gratuita y de código abierto para ejecutar y entrenar modelos de IA en tu propio hardware, disponible para macOS, Windows y Linux. Unsloth Studio también está en Beta y se presenta como una interfaz web sin código y de código abierto para entrenar, ejecutar y exportar modelos abiertos en una única interfaz local. La página de inicio resume Unsloth Desktop en tres palabras: código abierto, gratis y 100 % local. Un perfil de 2024 en la prensa económica informó de que los cofundadores de la empresa son los hermanos Michael y Daniel Han, que entonces participaban en Y Combinator.

Funciones principales

La afirmación principal de Unsloth es que entrena modelos LLM, de difusión, TTS y de embeddings 2× más rápido, con un 70 % menos de VRAM y sin pérdida de precisión. Es la cifra del propio fabricante; las condiciones de prueba que la respaldan se detallan más abajo.

Métodos de entrenamiento y modelos cubiertos

• Métodos de entrenamiento: Unsloth admite aprendizaje por refuerzo, LoRA, QLoRA, ajuste fino completo, preentrenamiento, GRPO, DPO y entrenamiento en FP8.
• Gama de modelos: la empresa afirma que admite inferencia y entrenamiento para más de 500 modelos, y los flujos de visión, TTS, embeddings y RL se documentan por separado.
• Entrenamiento sin código: en Unsloth Desktop sueltas un archivo PDF, CSV o JSON y eliges LoRA, ajuste fino completo o preentrenamiento; la misma página repite la afirmación de 2x más rápido y 70 % menos de VRAM, y dice que el multi-GPU funciona.
• Seguimiento del entrenamiento: Unsloth Studio sigue en tiempo real la pérdida de entrenamiento, las normas de gradiente y el uso de GPU, y la vista de progreso puede abrirse en otros dispositivos, como un teléfono.

Condiciones de los benchmarks detrás de la afirmación de velocidad

Los benchmarks de entrenamiento publicados se ejecutaron en GPU H100 y Blackwell con el conjunto de datos Alpaca, un tamaño de batch de 2, 4 pasos de acumulación de gradiente, rank 32 y QLoRA en todas las capas lineales. Frente a una línea base de Hugging Face + FA2, la tabla indica para Llama 3.3 (70B) velocidad 2x, más de un 75 % de reducción de VRAM y un contexto 13x más largo, y para Llama 3.1 (8B) velocidad 2x, más de un 70 % de reducción de VRAM y un contexto 12x más largo, ambos en GPU de 80 GB.

Unsloth atribuye sus resultados de contexto largo a su algoritmo de gradient checkpointing junto con el algoritmo CCE de Apple, y afirma que cuantos más datos hay, menos VRAM usa. Son benchmarks del fabricante, no mediciones independientes.

Ejecución de modelos, herramientas e investigación

• Llamadas a herramientas autorreparables: según Unsloth, las llamadas a herramientas que detectan, reparan y reintentan los fallos logran hasta un 50 % más de precisión en las llamadas a herramientas, y los modelos pueden ejecutar Bash y Python en un entorno seguro.
• Búsqueda web e investigación profunda: la búsqueda web normal se ejecuta mientras el modelo aún está pensando, y la investigación profunda primero planifica, busca fuentes y luego redacta un informe detallado con citas.
• Generación de imágenes y vídeo: Unsloth genera con Qwen-Image-2.1, FLUX, Z-Image, LTX, Wan y adaptadores LoRA ajustados. Según su propio ejemplo, una ejecución de MiniMax-H3 FP8 en una NVIDIA B200 redujo una generación de 960×544, 124 fotogramas y 8 pasos de más de 70 segundos a 13 segundos.
• Nuevos modelos: Unsloth afirma que puede ejecutar y entrenar casi cualquier modelo, incluidos los que están por llegar, y promete soporte Day Zero para familias como Qwen3.8, Gemma, Meta, NVIDIA y GLM, atribuyendo el trabajo de base a llama.cpp y Hugging Face.
• Comparación de modelos e inferencia: Studio permite enfrentar modelos lado a lado, y sus backends de llama.cpp y Hugging Face gestionan la inferencia multi-GPU, la descarga (offloading) automática y el ajuste (fitting).

Exportación, API y proveedores

Unsloth Studio exporta modelos, incluidos los ajustados, a safetensors o GGUF para llama.cpp, vLLM, Ollama, LM Studio y otros entornos de ejecución. Ese paso de exportación es lo que lleva un modelo entrenado en Unsloth a otro software.

En la dirección opuesta, Unsloth sirve modelos locales mediante una API compatible con OpenAI y también puede conectar una suscripción de ChatGPT/Codex y proveedores en la nube. El comando unsloth run sirve un modelo y cambia ajustes como el tamaño de contexto, las capas de GPU, los hilos, el muestreo, la red y la configuración de herramientas.

Guía

Instalar Unsloth Desktop

1. Descarga el instalador para tu sistema: un archivo .dmg en macOS, un .exe en Windows o un .deb en Linux.
2. En macOS, abre el instalador .dmg, arrastra Unsloth a Applications, luego abre la app y espera a que termine la instalación; en Windows y Linux, sigue las indicaciones del instalador.
3. Abre el desplegable Select model o la pestaña Model hub, elige un modelo y una cuantización adecuada para tu dispositivo, descárgalo y empieza a chatear cuando termine.

Flujo de ajuste fino en Unsloth Studio

1. Inicia Unsloth y carga un modelo desde archivos locales o desde una integración compatible.
2. Importa datos de entrenamiento desde archivos PDF, CSV o JSONL, o crea un conjunto de datos desde cero.
3. Limpia y amplía el conjunto de datos en Data Recipes y después entrena con los ajustes predefinidos recomendados o una configuración personalizada.
4. Chatea con el modelo entrenado, compáralo con el modelo base y luego guárdalo o expórtalo localmente al stack que ya usas.

Studio también puede importar una configuración de entrenamiento en YAML y rellenar de antemano los ajustes pertinentes en lugar de partir de los predefinidos.

Acceso remoto

Por defecto, unsloth studio se vincula a 127.0.0.1, de modo que solo la máquina local puede acceder. La opción --secure lo sirve solo a través de un enlace HTTPS gratuito de Cloudflare y no se inicia en absoluto si el túnel no puede establecerse, así que el puerto sin procesar nunca queda expuesto.

Casos de uso de Unsloth

• Agentes de programación locales: Unsloth Start conecta Claude Code, Codex y otros agentes a modelos locales mediante el comando unsloth start, para que un flujo de agentes funcione con un modelo en tu propia GPU.
• Convertir documentos en datos de entrenamiento: Data Recipes convierte los PDF, CSV y JSON subidos en conjuntos de datos utilizables o sintéticos mediante un flujo de nodos en grafo impulsado por NVIDIA NeMo Data Designer, de modo que un conjunto de ajuste fino puede partir de tus propios documentos.
• Estilos de imagen propios: Unsloth entrena adaptadores LoRA para SDXL, FLUX.2, Qwen-Image y Z-Image con tus propias imágenes, con el subtitulado (captioning) y la elección de rank dentro de la app, y el resultado puede exportarse y volver a cargarse para inferencia.
• Flujos de voz locales: la app genera, hace ajuste fino o transcribe audio de forma totalmente local, y cubre texto a voz, voz a texto, Whisper y Qwen3-ASR.
• Probar el ajuste fino sin GPU local: un notebook gratuito de Google Colab ejecuta Unsloth Studio en las GPU T4 de Colab, donde se puede entrenar y ejecutar la mayoría de los modelos de hasta 22B parámetros antes de pasar a una GPU mayor.

Para quién es

• Desarrolladores con una sola GPU: una comparación independiente de frameworks de 2026 recomienda Unsloth para una sola GPU de consumo con una arquitectura compatible y LoRA o QLoRA, citando su margen de longitud de contexto.
• Quienes quieren ejecutar LLM en local sin entrenar: la interfaz no exige ningún ajuste fino; puedes descargar cualquier GGUF o modelo y usarlo tal cual.
• Usuarios sin GPU dedicada: sin GPU, Unsloth sigue funcionando para Chat y Data Recipes, así que una máquina solo con CPU puede chatear con modelos y crear conjuntos de datos.
• Encaja peor en equipos que necesitan paralelismo avanzado: la misma comparación dice que Unsloth falla cuando el paralelismo de tensores, de contexto o de expertos se necesita como configuración de primer nivel, y cuando un modelo no está en su lista de compatibles, porque sus ganancias vienen de kernels específicos de cada arquitectura.

Plataformas

• Descargas de escritorio: Unsloth Desktop se ofrece como .dmg para Mac (Apple Silicon e Intel), .exe para Windows 10 y posteriores, y .deb para Ubuntu y distribuciones Linux compatibles.
• Sistemas operativos y chips: Unsloth admite Mac, Windows, Linux y WSL, y GPU y CPU de NVIDIA, Intel, AMD y Mac, aunque el hardware antiguo puede no estar bien soportado.
• Hardware de entrenamiento de Studio: el entrenamiento en Unsloth Studio funciona actualmente en dispositivos NVIDIA, AMD, MLX e Intel y requiere Python 3.11–3.13; Unsloth Core también puede entrenar en dispositivos AMD e Intel.
• Windows: Studio funciona en Windows sin WSL, pero los requisitos de entrenamiento indicados son Windows 10 u 11 (64 bits) y una GPU NVIDIA con los controladores instalados.
• Unsloth Core en NVIDIA: Core necesita una GPU con CUDA Capability 7.0 o superior, como V100, T4, RTX series 20 y 50, A100, H100 o L40; las GTX 1070 y 1080 funcionan, pero son lentas.
• Unsloth Core en otro hardware: las GPU AMD e Intel funcionan mediante guías específicas, mientras que el soporte de Apple Silicon/MLX para Core se describe como en desarrollo.
• Docker: una imagen oficial de Docker funciona para Unsloth, y la compatibilidad con Mac sigue en desarrollo.
• Servicio en red local: servir a través de LAN mantiene el tráfico dentro de tu red y funciona sin conexión a Internet; el acceso remoto pasa por el túnel de Cloudflare descrito en la guía.

Precios

Unsloth Pro se promociona con entrenamiento 2,5x más rápido, un 20 % menos de VRAM y soporte para hasta 8 GPU, y Unsloth Enterprise con entrenamiento 30x más rápido, soporte multinodo y un 30 % de precisión, pero ambos muestran solo un botón Contact us, así que ninguno tiene precio público. Enterprise enumera además hasta un +30 % de precisión, inferencia 5x más rápida, entrenamiento completo, todas las funciones de Pro, soporte multinodo y atención al cliente.

Las tarjetas de los planes no dicen lo mismo que la documentación. La tarjeta Free se describe como freeware de la versión estándar de Unsloth, la marca como de código abierto, cita compatibilidad con Mistral, Gemma y Llama 1, 2, 3, y sigue mostrando MultiGPU como próximamente (coming soon). La tabla de diferencias entre planes asigna al nivel Free un aumento de velocidad de 2x y una reducción de VRAM del 60 %, lo que difiere de la cifra de 2× más rápido y 70 % menos de VRAM que se usa en toda la documentación.

La licencia forma parte de lo que aquí significa «gratis». Unsloth usa un modelo de doble licencia: el paquete principal de Unsloth sigue bajo Apache 2.0, mientras que ciertos componentes opcionales, como la Unsloth Studio UI, están bajo AGPL-3.0. La empresa afirma que esta estructura ayuda a sostener el desarrollo continuo manteniendo el proyecto como código abierto.

Alternativas a Unsloth

Una comparación independiente de 2026 de frameworks de ajuste fino de código abierto enfrenta a Unsloth con otros tres proyectos y asigna a cada uno una función distinta:

• Axolotl: la comparación orienta hacia Axolotl a los equipos con entre dos y ocho GPU, contexto largo, ajuste fino completo o pipelines de RLHF, y califica FSDP2 más paralelismo de secuencia como la vía mejor documentada.
• LLaMA-Factory: es la opción recomendada para la cobertura de modelos más amplia, operadores que no son ingenieros y la primera ejecución más rápida, con el paso a su CLI al escalar.
• TRL: los bucles de entrenamiento personalizados, los algoritmos de post-entrenamiento novedosos y un acoplamiento estrecho con Hugging Face apuntan a TRL, descrito como la capa que envuelven los demás frameworks.

Estas opciones no son excluyentes: LLaMA-Factory puede ejecutar Unsloth como backend, TRL incluye una integración con Unsloth y Axolotl llama internamente a los trainers de TRL. Por tanto, elegir LLaMA-Factory o TRL puede seguir implicando ejecutar Unsloth por debajo.

Limitaciones

Madurez y escalado

• Configuración multi-GPU: la propia guía multi-GPU de Unsloth dice que el proceso puede ser complejo y requiere configuración manual, y que el soporte multi-GPU oficial aún está por anunciar.
• Visión independiente: una comparación independiente de 2026 concluye que Unsloth gana en velocidad con una sola GPU y en longitud de contexto, mientras que el multi-GPU sigue siendo su punto débil documentado.
• Arquitecturas nuevas: Unsloth funciona con cualquier modelo compatible con transformers, pero algunos modelos más nuevos pueden necesitar un pequeño ajuste manual por sus optimizaciones.

Advertencias de hardware y rendimiento

• Mínimos de VRAM: la tabla de requisitos de VRAM da mínimos absolutos, y algunos modelos necesitan más. Para un modelo de 8B indica 6 GB con QLoRA (4-bit) y 22 GB con LoRA (16-bit).
• Studio solo con CPU: en dispositivos solo con CPU, Studio admite Chat para modelos GGUF y Data Recipes, y Export se describe como disponible muy pronto.
• Velocidad de inferencia: la búsqueda web, la ejecución de código y la reparación de llamadas a herramientas ralentizan la inferencia; con ellas desactivadas, la velocidad debería igualar la de otras apps de llama.cpp.
• Tiempo de calentamiento: el entrenamiento puede parecer más lento al principio porque torch.compile suele tardar unos 5 minutos o más en calentar y terminar de compilar.
• Modelos exportados: cuando un modelo que funcionaba en Unsloth da resultados pobres, incoherentes o repetidos en Ollama, vLLM u otro entorno de ejecución, la causa más común es una plantilla de chat incorrecta; allí también hay que usar la plantilla del entrenamiento.

Privacidad, seguridad y licencias

• Telemetría: Unsloth Desktop declara que no tiene telemetría; detecta tu tipo de GPU y tu dispositivo por compatibilidad y puede funcionar completamente sin conexión.
• Control de acceso de Studio: Unsloth Studio puede usarse totalmente sin conexión y usa autenticación basada en tokens con contraseñas cifradas y flujos JWT de acceso y renovación.
• Permisos de herramientas: los controles de permisos hacen que el modelo y Unsloth no puedan acceder, modificar ni editar tus archivos ni usar Internet sin tu aprobación.
• Servidores expuestos: las herramientas del lado del servidor (búsqueda web, ejecución de código Python y de terminal) se ejecutan con tu usuario y están activadas por defecto, así que cualquiera que llegue al servidor con la clave de API puede ejecutar código en la máquina; la documentación asocia la exposición con el flag --disable-tools.
• Reparto de licencias: el LICENSE del repositorio pone la biblioteca principal, los tests y los scripts bajo Apache 2.0, mientras que las carpetas de Studio y de la CLI, de instalación opcional, tienen licencia AGPLv3 (studio/* y unsloth_cli/*).

Preguntas frecuentes

Q1. ¿Unsloth es gratis?

Unsloth Desktop se describe como una app gratuita y de código abierto, y el plan Free es la versión estándar. Unsloth Pro y Unsloth Enterprise existen, pero la página de precios muestra Contact us en lugar de un precio.

Q2. ¿Necesito una GPU NVIDIA?

No para todas las tareas. Chat y Data Recipes funcionan en CPU, y el entrenamiento en Studio admite dispositivos NVIDIA, AMD, MLX e Intel. Para entrenar en Windows figura como requisito una GPU NVIDIA.

Q3. ¿Puede Unsloth usar modelos que ya descargué?

Sí. Los modelos ya descargados se detectan automáticamente, y puedes indicar carpetas personalizadas si los tuyos no se detectan.

Q4. ¿Un modelo entrenado en Unsloth puede funcionar en Ollama o LM Studio?

Sí. Unsloth exporta a GGUF o safetensors para entornos de ejecución como llama.cpp, Ollama, vLLM y LM Studio, siempre que la plantilla de chat coincida con la usada en el entrenamiento.

Q5. ¿Qué licencia se aplica a Unsloth?

El paquete principal está bajo Apache 2.0, mientras que componentes opcionales como la Unsloth Studio UI están bajo AGPL-3.0.