Ollama anunció que su versión 0.35 ahora soporta modelos de decisión tipo Jev para triage de tickets, enrutamiento de modelos y clasificación de contenido, con la particularidad de que todo se ejecuta de manera completamente local en el equipo del usuario.
De acuerdo con el comunicado de la compañía, la nueva System One API está basada en la Jev API de TypeSafe. El funcionamiento consiste en enviar texto y un conjunto de preguntas al endpoint /v1/systemone, lo que permite clasificar texto, responder preguntas de sí o no, o calificar texto contra una rúbrica. La empresa señaló que entre los modelos disponibles se encuentran Nimble 9B, de Bespoke Labs, así como Tev1 4B y 0.8B, de Together AI.
El flujo de uso descrito en el anuncio indica que los interesados deben actualizar Ollama a la versión 0.35 o superior y después descargar Nimble mediante el comando ollama pull nimble. Posteriormente, el modelo puede emplearse para clasificar, por ejemplo, un ticket de soporte. Según el comunicado, el modelo corre en la máquina del usuario y no requiere una API key.
La compañía detalló que la respuesta del sistema incluye la etiqueta seleccionada y una probabilidad para cada opción. Para quienes deseen aprender más sobre cómo comenzar a utilizar esta funcionalidad, el comunicado refiere a los ejemplos publicados en el blog post de Ollama, a la documentación de la System One API y a los ejemplos de API disponibles.
El anuncio se centra en tres aplicaciones concretas: el triage de tickets, el enrutamiento de modelos y la clasificación de contenido. En todos los casos, el procesamiento ocurre de forma local, sin depender de servicios externos ni de claves de autenticación, de acuerdo con lo expuesto por la empresa en su comunicado.
