Inkling 2 Small es un modelo multimodal de propósito general que acepta entradas de texto e imagen para generar salidas de texto, diseñado para desarrolladores que construyen aplicaciones de IA, asistentes de codificación y chatbots. El modelo, lanzado con pesos abiertos, soporta el inglés y tiene capacidades multilingües, permitiendo su integración en sistemas de generación asistida por recuperación (RAG) y tareas de seguimiento de instrucciones. La documentación oficial detalla cómo utilizarlo mediante la librería Transformers, a través de la interfaz HuggingChat o mediante inferencia local con herramientas como vLLM, SGLang y Docker Model Runner. Para el despliegue local, se proporcionan instrucciones para instalar estos servidores y configurar la API compatible con OpenAI. Además, se especifican los requisitos de hardware, destacando que el modelo se distribuye en dos formatos de checkpoint: NVFP4 y MXFP8, lo que permite optimizar el uso de recursos en dispositivos con GPU. El proyecto también ofrece acceso a través de proveedores de inferencia de terceros, incluyendo NVIDIA, Fireworks, Together, Baseten, Nebius, Modal y Cloudflare, facilitando la integración para equipos que prefieren servicios en la nube. Esta guía sirve como referencia técnica para implementar modelos de lenguaje multimodal en entornos de desarrollo y producción.
