Guía del modelo abierto Inkling-Small

Si buscas un modelo abierto capaz de procesar entradas extensas sin el mismo coste que muchos de los principales sistemas, Inkling-Small es la respuesta. El 30 de julio de 2026, Thinking Machines presentó un modelo MoE multimodal de 276-billion-parameter con solo 12 billion active parameters por solicitud, además de una ventana de contexto de 1 million-token y una licencia Apache 2.0.

Esta es la versión resumida:

• Puedes utilizarlo con texto, imágenes y audio
• Puedes obtener resultados en texto, código y JSON
• Puedes ajustar el esfuerzo de razonamiento de 0.2 a 0.99 para equilibrar el coste y la profundidad del razonamiento
• Puedes autoalojarlo para aprovechar la ventana de contexto completa de 1,000,000-token
• Puedes usar Tinker si prefieres un acceso alojado, con un límite de contexto de 256,000-token
• Puedes descargar los pesos abiertos desde Hugging Face
• Puedes utilizar una versión 4-bit NVFP4 en GPU de NVIDIA
• Puedes ajustarlo con datos privados y ejecutarlo dentro de tu propia infraestructura

Varias cifras llaman especialmente la atención. Inkling-Small obtuvo un 77.6% en SWE-bench Verified, igualó a Nemotron 3 Ultra en Terminal Bench 2.1 con aproximadamente un tercio del coste en tokens y logró un 98.6% en StrongREJECT. Por tanto, aunque se llame Small, el modelo está diseñado para tareas exigentes de programación, documentos, soporte y agentes.

Inkling-Small no tiene nada de pequeño: probamos este modelo 276B

Comparación rápida

Mi conclusión: esta versión ofrece a los equipos estadounidenses una alternativa clara para implementaciones de menor coste, entornos privados y trabajo multimodal con contextos extensos, sin quedar sujetos a una API cerrada.

Descripción de Inkling-Small: arquitectura, tamaño y capacidades

Inkling-Small es un Transformer Mixture-of-Experts (MoE) basado únicamente en decodificador, con 276 billion total parameters y unos 12 billion active parameters por token. En comparación, el modelo insignia cuenta con 975 billion total parameters y 41 billion active parameters por token ^[2][1][3]. Esa diferencia es importante. Ayuda a explicar por qué Inkling-Small puede resultar más ligero de usar sin dejar de afrontar tareas exigentes. Esto se aprecia con especial claridad en sus entradas multimodales y su extensa ventana de contexto.

Entradas multimodales, salidas de texto y contexto largo

Inkling-Small acepta texto, imágenes y audio como entradas y devuelve salidas de texto, incluidos lenguaje natural, código y JSON ^[2][1]. Se preentrenó con 45 trillion tokens de datos multimodales que abarcan texto, imagen, audio y vídeo ^[1][3].

También admite una ventana de contexto de hasta 1 million tokens ^[1]. Esto supone una gran ventaja para los equipos que trabajan con bases de código extensas, documentos largos o transcripciones prolongadas. En lugar de dividir el material en fragmentos pequeños y esperar que no se pierda nada, pueden entregar al modelo una parte mucho mayor de la imagen completa de una sola vez. Esto suele ser importante al evaluar el autoalojamiento, el ajuste fino o el acceso mediante herramientas.

Rendimiento en benchmarks y qué significa realmente «Small»

Los resultados de los benchmarks ayudan a poner el nombre Small en perspectiva.

En SWE-bench Verified, Inkling-Small obtuvo un 77.6%, por delante del 71.9% de Nemotron 3 de Nvidia ^[2]. En Terminal Bench 2.1, igualó a Nemotron 3 Ultra con aproximadamente un tercio del coste en tokens ^[1][3]. También logró un 98.6% en StrongREJECT, lo que apunta a una sólida gestión de rechazos ^[2].

En resumen, Small no significa débil. En la práctica, la arquitectura MoE y el contexto largo se manifiestan en tareas relevantes para los equipos, como la revisión de código, el análisis de documentos y los flujos con agentes.

Cómo acceder a Inkling-Small: pesos, herramientas y opciones de integración

Pesos abiertos, ficha del modelo y archivos descargables

Los pesos de Inkling-Small están disponibles públicamente en Hugging Face dentro de la organización thinkingmachines ^[2][6].

La versión incluye los archivos esenciales que esperan la mayoría de los equipos: pesos, ficha del modelo, tokenizador, archivos de configuración y codificadores de modalidades ^[4][2]. Así, no es necesario empezar desde cero ni ensamblar componentes manualmente.

Para las implementaciones en GPU NVIDIA, también existe una versión cuantizada de 4-bit llamada Inkling-Small-NVFP4, que mejora el rendimiento en esa configuración ^[4][5]. Si tu equipo quiere probar el modelo antes de asumir el autoalojamiento, Tinker es la vía más rápida.

Comparación entre autoalojamiento, API alojadas y ajuste fino

Thinking Machines ofrece Tinker, una API de pruebas y ajuste fino que permite a los desarrolladores probar el modelo, limitar la longitud de las respuestas, activar la búsqueda web y ejecutar ajustes de nivel empresarial ^[2][1].

Tinker también admite desde el primer día integraciones con importantes herramientas de inferencia e implementación ^[6][1]. Esto importa porque el modelo es solo una parte del trabajo. También hace falta una vía para incorporarlo a un sistema en producción sin acumular tareas de configuración.

La compensación es bastante sencilla:

• El autoalojamiento proporciona control total y acceso a la ventana de contexto de 1 million-token ^[6][1].
• Tinker reduce el trabajo operativo, pero limita el contexto a 256,000 tokens ^[6][1].

La elección se reduce, por tanto, a velocidad frente a control. Si prefieres un acceso gestionado y menos trabajo de infraestructura, Tinker es la opción sencilla. Si necesitas la ventana de contexto completa y un control más estricto de la implementación, el autoalojamiento resulta más adecuado.

El papel de APIMart en flujos multimodales de producción

Después de elegir una vía de acceso, aún queda la parte práctica de la producción: conducir las solicitudes multimodales a través de un flujo de trabajo unificado.

Para los equipos que necesitan análisis y generación en un mismo flujo, APIMart ofrece una capa de integración única para API multimodales.

Casos de uso e implementación rentable para equipos estadounidenses

Asistentes de programación, agentes, herramientas de soporte y análisis documental

Una vez claro el acceso, el siguiente paso es sencillo: ¿en qué tareas destaca Inkling-Small? Su diseño MoE ayuda a mantener una inferencia eficiente en cargas de producción de gran volumen ^[1].

Para los equipos de software, esto lo convierte en una opción sólida para corregir errores a escala de repositorio, revisar PR y crear agentes de programación de varios pasos que deban recorrer grandes bases de código ^[2].

La misma configuración funciona bien en tareas que necesitan clasificación rápida y lectura de contextos extensos. Por ejemplo, copilotos de soporte que clasifican tickets, responden preguntas sobre políticas y envían las escalaciones al destino adecuado. A gran escala, las pequeñas mejoras de latencia y cómputo se acumulan rápidamente.

También encaja en el análisis de documentos extensos, como contratos, archivos de políticas y manuales técnicos ^[1]. Si tu equipo trabaja todo el día con documentos densos, este es el tipo de carga en el que la lectura de contexto largo empieza a ser importante.

En plataformas educativas, Inkling-Small puede ofrecer tutoría de matemáticas y lógica con un esfuerzo de razonamiento ajustable ^[2]. Esto permite adaptar el esfuerzo del modelo a la tarea en lugar de pagar siempre el mismo coste computacional.

Algunos usos habituales son:

• Agentes de programación
• Copilotos de soporte
• Análisis documental
• Tutoría
• Etiquetado multimodal

Coste, latencia y planificación presupuestaria para equipos estadounidenses

La principal palanca de costes es el diseño MoE. Ayuda a reducir el coste y la latencia de inferencia en solicitudes repetidas ^[1].

Los desarrolladores también pueden ajustar el esfuerzo de razonamiento mediante código, desde 0.2 para tareas más sencillas hasta 0.99 para razonamientos más complejos ^[2]. En términos sencillos, los equipos pueden utilizar menos cómputo en trabajos de gran volumen y menor complejidad, y reservar más razonamiento para los casos que realmente lo requieren.

Ese control es importante al planificar el gasto de un equipo estadounidense. Un flujo de soporte que atiende miles de solicitudes rutinarias al día no necesita la misma configuración que un agente de programación que resuelve casos límite complejos. Un modelo, distintos niveles de esfuerzo y una forma más clara de administrar el presupuesto.

Como el modelo se publica bajo una licencia Apache 2.0, los equipos estadounidenses también pueden ejecutarlo en sus instalaciones o dentro de VPC cuando el control de datos sea una prioridad ^[2][1].

Estas opciones de implementación dan paso a las conclusiones de investigación de la siguiente sección.

Conclusiones de la investigación y resumen final

Por qué los pesos abiertos importan para probar y personalizar

Una vez cubiertos el acceso y la implementación, la principal cuestión de investigación es lo que los pesos abiertos permiten hacer en la práctica.

Como los pesos son abiertos, los investigadores pueden examinar directamente la arquitectura y los controles de razonamiento. También pueden probar el modelo con datos internos sin enviarlos a través de una API externa. Ese nivel de visibilidad contribuye a las pruebas de seguridad. En lugar de aceptar las afirmaciones publicadas, las organizaciones pueden verificar los resultados en su propia infraestructura.

La adaptación a dominios específicos es otra ventaja importante. Los equipos de ámbitos como el análisis financiero o la ingeniería de software pueden ajustar el modelo con datos propios, en lugar de depender de un sistema generalista ^[2]. La misma apertura permite implementarlo localmente y adaptarlo a un dominio, de modo que los equipos puedan realizar auditorías independientes bajo sus propias condiciones.

Puntos clave

Estos son los aspectos más importantes:

• Los pesos abiertos permiten a los equipos probar, ajustar y evaluar el modelo en su propia infraestructura.
• Los pesos están disponibles en Hugging Face, mientras que Tinker permite someter las configuraciones a pruebas exigentes antes de pasar a producción ^[2][1].
• Inkling-Small está diseñado para implementaciones controladas y sensibles al coste, con pesos abiertos que permiten realizar pruebas, ajustes finos y evaluaciones independientes.

Para los equipos que necesitan control, personalización y validación independiente, esta configuración convierte a Inkling-Small en una alternativa práctica.

Preguntas frecuentes

¿Qué hardware necesito para autoalojar Inkling-Small?

Inkling-Small utiliza una arquitectura de 276-billion-parameter y checkpoints cuantizados NVFP4 nativos para sistemas NVIDIA Blackwell.

Tu configuración también debe admitir bibliotecas de inferencia de código abierto como SGLang, vLLM, TokenSpeed o llama.cpp. Aunque Thinking Machines utilizó sistemas GB300 NVL72 durante el desarrollo, la variante Small está pensada como una opción más rentable y de menor latencia para implementaciones locales.

¿Cuándo debería utilizar autoalojamiento en lugar de Tinker?

Utiliza el autoalojamiento cuando tu organización necesite control total sobre las cargas de IA con agentes. Esto puede implicar ejecutar modelos en las propias instalaciones o dentro de una nube privada virtual, con tu equipo a cargo de la configuración y las operaciones cotidianas.

También es una buena opción para equipos que quieren gestionar su propia infraestructura, reducir los costes continuos de tokens o cumplir requisitos específicos de privacidad de datos.

Tinker es la mejor alternativa si buscas una configuración cómoda y sencilla para investigación y ajuste fino. El autoalojamiento te da más margen para adaptar el rendimiento y el coste a tu propio hardware.

¿Cómo afecta el esfuerzo de razonamiento al coste y la calidad de respuesta?

El esfuerzo de razonamiento controlable de Inkling permite a los desarrolladores ajustar fácilmente el presupuesto de razonamiento del modelo desde 0.2 hasta 0.99. Los valores más altos utilizan más cómputo para razonamientos complejos de varios pasos. Los valores más bajos reducen el uso de tokens y la latencia en tareas sencillas.

Como Inkling condensa el razonamiento de cadena de pensamiento, a menudo puede obtener resultados precisos con menos tokens. Esto proporciona un mayor control sobre el coste y el rendimiento según las necesidades de la implementación.